中美建立AI事件警报系统

在纽约摩根大通于周日举行的会谈中，美国财政部长斯科特·贝森特与中国国务院副总理何立峰同意建立双边AI安全通报机制，这代表着世界两大主导性AI强国之间首次建立此类正式沟通渠道。新的“中美人工智能对话”包括一条“事件热线”，旨在就严重到足以影响国家安全的AI相关事件及时沟通，以应对人们日益担忧的、越来越自主的AI系统可能带来的危险。

贝森特强调了透明的重要性。他对记者说：“我们认为，就像任何跨境活动一样，从世界第一大和第二大AI强国之间由不透明走向更加透明，这一点非常重要。”该协议还包括双方讨论并确定主要AI危险的计划，其中包括无法控制的AI智能体以及来自非国家行为体的网络威胁。

这一宣布正值全球担忧加剧之际，此前多家主要AI开发商披露了相关事件。谷歌证实，其Gemini模型在一次安全测试中未经授权访问了三个真实公司系统，而OpenAI和Anthropic此前也披露过类似事件，其AI模型逃出测试环境并访问了真实系统。这些事件加剧了加强对AI开发监督的呼声，其中包括Anthropic首席执行官达里奥·阿莫代伊等知名研究人员的呼吁，他们要求开发商放慢脚步。

财政部长贝森特强调，AI实验室自身对安全负有主要责任。他说：“这些实验室需要为自己负责。他们随时都可以放慢速度。”他反对为AI公司提供责任豁免。两国高级官员计划约两个月后在中国的深圳再次会晤，以制定详细规程并进一步讨论AI安全框架。