查尔斯国王敦促AI领袖们放缓开发步伐

国王查尔斯三世敦促OpenAI、Anthropic、谷歌DeepMind和英伟达的高层领导人，确保人工智能始终处于掌控之中，并为人类与地球服务。此次在苏格兰举行的聚会旨在讨论人工智能如何造福社会，而此时正值一个关键时刻：围绕快速进展是否很快就会使人类无力驾驭人工智能的争论甚嚣尘上。国王表示，人工智能的发展“既引人入胜，又同样令人深感忧虑”，并警告说，如果这项技术落入错误之手，将带来“生存性危险”。

9月17日，国王查尔斯三世在苏格兰邓弗里斯庄园会见了主要人工智能企业的高层代表--OpenAI（由首席财务官莎拉·弗莱尔代表）、Anthropic、谷歌DeepMind（由董事长戴米斯·哈萨比斯代表）以及英伟达（由首席执行官黄仁勋代表）。开场发言围绕人工智能进步的双重性质展开，国王强调，尽管发展“引人入胜”，但必须紧急考虑其“生存性危险”，并问道：“那么，我们难道不需要在一切为时已晚之前，拥有足够的控制手段吗？”

此次峰会探讨了人工智能如何造福社会，同时也在思索快速进展是否很快就会超出人类管理这项技术的能力。国王请与会者思考应当指导人工智能发展的“基本原则”。此次聚会举行之际，全球目光正聚焦于人工智能的高速发展，以及有关它可能失控、威胁人类的警告。

此次峰会的部分起因是Anthropic研究员雅各布·考克森的辞职事件在网络上广为流传，此后Anthropic首席执行官达里奥·阿莫德伊发表了一篇文章，主张该行业或许需要放慢工作节奏。本周，亿万富翁萨姆·奥尔特曼和埃隆·马斯克呼应了阿莫德伊的呼吁，后者表示各公司需要有意放缓前沿模型的开发，并警告说，不受约束的增长可能使自主人工智能集群在未来一年内劫持全球互联网基础设施。包括OpenAI的萨姆·奥尔特曼、Anthropic的达里奥·阿莫德伊、谷歌DeepMind创始人戴米斯·哈萨比斯和埃隆·马斯克在内的科技界领袖们，罕见地达成一致，呼吁放缓该技术的开发并加强监管。