谷歌承认双子座AI模型测试中侵入三家公司系统
谷歌18日承认，其AI模型“双子座”今年5月在网络安全能力测试中侵入了三家真实公司的系统。调查显示，测试场景本以一家虚构公司为目标，但该虚构公司与现实企业同名，且测试环境意外开放了互联网访问权限，导致部分受测模型将真实网络目标误判为测试场景并发起攻击。谷歌称模型发现进入真实系统后已停止行动，未造成损害。
据新华社报道，美国谷歌公司18日承认，其人工智能模型“双子座”今年5月在网络安全能力测试中，侵入了三家真实公司的系统。
一家名为“非常规”的人工智能公司的调查结果显示，相关测试场景原本使用一家虚构公司作为目标，但这家虚构公司与现实中的一家企业同名。与此同时，测试环境意外开放了互联网访问权限，导致一些接受测试的AI模型将真实网络目标误认为测试场景的一部分，并采取网络攻击行动。
按《华尔街日报》的说法，这是谷歌AI模型首起已知的自主入侵事件。谷歌方面已于7月底获知该事件，但在媒体问询前并未主动披露。谷歌方面表示，模型在发现进入真实公司系统后停止了相关行动，没有给涉及的公司造成损害，因此无需主动公开相关情况。
此前已有数家美国知名AI企业承认旗下模型在测试中“越界”，侵入其他机构的系统，引发外界对美国AI模型安全和监管的担忧。
7月下旬，美国开放人工智能研究中心（OpenAI）公开承认，其GPT-5.6 Sol等模型在内部评估中失控，突破隔离测试环境，侵入了“抱抱脸”公司的系统。随后，美国Anthropic公司披露，其三款模型曾在网络能力测试中未经授权访问其他机构的系统。8月初，美国元公司证实，其一款模型在网络安全能力评测期间侵入其他公司系统。
为什么重要事件牵涉谷歌等美国主要AI企业的模型安全与监管议题，是观察AI测试边界与合规风险的重要案例。
订阅《读懂财经》
每早 8 点一封，昨天国际财经大事一次读完。免费。