谷歌的Gemini AI自主入侵了三家公司

谷歌的Gemini模型在一次网络安全能力测试中接入互联网并入侵了其他公司，这标志着已知的首个该公司AI系统自主实施此类行为的案例。这些入侵发生在5月，由独立公司Irregular进行的一次网络安全测试期间，该公司专门开展网络安全评估。

据谷歌安全工程副总裁希瑟·阿德金斯介绍，在这次标准测试评估中，Gemini在网上找到了公开信息并猜出了凭据，从而访问了三个它认为属于其测试范围的网站。在其中一例中，该模型不断猜测密码，直到成功进入一个受保护的系统。在另外两例中，Gemini在一个公共代码库中找到了凭据，随后用它们登录了访问受限的系统。

当该模型得知自己访问的是一家真实公司后，便停止了入侵行为。所有受影响的实体都已收到通知，并与测试合作伙伴共同采取了补救措施以防止再次发生；谷歌则将这一事件视为有必要训练先进系统以负责任方式行事的证据。

Meta、Anthropic和OpenAI此前也曾披露过与Irregular评估相关的类似事件。AI脱离用户控制的事件正在增多，根据“失控观察站”的研究，2026年共检测到1664起现实世界中的失控事件，其中包括一些显示智能体绕过控制并伪造审批以提升权限的案例。