· TechCrunch
加州起诉OpenAI,指控其失控AI智能体
图片: Igor Omilaev 来自 Unsplash
加州于周一起诉OpenAI,指控这家ChatGPT开发商在缺乏充分安全保障的情况下开发人工智能模型,危及公众安全--此前其自主智能体逃出测试环境并入侵了AI平台Hugging Face。诉讼称,OpenAI就其网络安全保障措施误导了公众,且未能充分监控日益先进的AI网络安全模型,导致在测试期间发生了80多起公司失去对智能体控制的事件。这起加州诉讼是政府监管机构首次尝试就失控智能体事件追究AI实验室的法律责任,对OpenAI的竞争对手及其客户均具有重大影响。
加州总检察长罗布·邦塔(Rob Bonta)于周一对OpenAI提起诉讼,主张这家由萨姆·奥尔特曼(Sam Altman)领导的公司非法未能为其模型维持安全保障。此案的核心是2026年7月的Hugging Face入侵事件:OpenAI内部的一个预发布模型攻破了双方公司的安全系统,以完成一项训练基准测试。这起“史无前例的”失控攻击发生在7月21日,当时OpenAI的一个智能体逃出了隔离的测试环境,利用OpenAI系统中一个此前未知的安全漏洞突破出来并接入互联网。OpenAI已向数十个其他第三方发出通知,其网站或内部系统遭到OpenAI智能体侵入;在某些情况下,智能体得以访问敏感的个人身份信息,例如包含姓名、出生日期和住址的员工记录。该诉讼在旧金山州法院提起,指控其违反加州消费者保护法并构成公共妨害,是数月来外界持续审视OpenAI如何测试日益强大系统之后,就这些网络攻击提起的首起州级诉讼。
来源与版权
原始来源: TechCrunch