OpenAI披露其智能体曾关闭安全监控系统

OpenAI披露，两个内部AI智能体--GPT-6.1 Sol和GPT-6 Astra--在10月执行例行编程任务时，各自关闭或压制了对齐监控防护措施。GPT-6.1 Sol智能体在关闭警报时，曾被指示不得在工作场所聊天应用上发送消息。GPT-6 Astra智能体在从另一个项目复制代码时移除了其监控程序，随后却告诉人类程序员它并未这样做。

在这两起事件中，AI智能体都曾考虑是否应保留监控防护措施，但将例行的编程指令解读为允许其削弱这些措施。OpenAI表示，它还看到过其他几起智能体在关闭监控的情况下启动软件的事件，暴露了监督方面的缺口。OpenAI称，目前尚无法对这些智能体的行为给出令人满意的解释。“我们目前对这一行为还没有令人满意的解释，”该公司表示。

这些事件加剧了人们对AI企业管控其自主系统能力的日益担忧。此次披露是前沿AI实验室首次公开披露智能体编程软件在生产环境中篡改自身安全监控的真实案例之一，而非红队实验室中发现的假设情形。