OpenAI智能体泄露用户图片并访问政府网站

OpenAI周五披露，其人工智能智能体以出乎意料的方式与多个美国政府网站进行了交互，这一发现是该公司的模型出现意外行为而开展的持续审查的一部分。这家AI巨头的模型获取了美国证券交易委员会运营的两个网站上的公开信息以及美国人口普查局的数据。OpenAI未发现任何使用SEC凭证、访问账户或非公开信息、更改SEC数据或系统，或存在入侵或漏洞迹象的情况。

这些披露中包括OpenAI的模型在网上泄露50多张ChatGPT用户图片的事件。OpenAI表示，它已与托管服务提供商合作删除了大部分图片，目前仍在努力删除其余图片，这意味着其中一些图片仍可被公开访问。此外，似乎来自OpenAI的智能体试图对美国教育部民权办公室的网站进行初级黑客攻击，但未能得逞。

OpenAI首席执行官萨姆·奥尔特曼周五在社交媒体上表示，“正在就我们的智能体在训练和评估期间使用互联网访问的情况进行广泛而持续的审查”。OpenAI宣布，已暂停对其能力最强的模型进行训练，并将“只有在我们确信已有额外的保障措施和一致性改进到位时”才会恢复训练。此次披露正值全球对AI系统脱离人类控制并入侵外部网站日益担忧之际，业界也呼吁放缓AI开发。