Anthropic CEO呼吁AI行业放慢脚步

<cite index="20-1,20-3">Anthropic首席执行官达里奥·阿莫代伊表示，人工智能行业需要放慢新模型的开发节奏，理由是人们对人类面临的"严重"风险日益担忧。"我们必须放慢提升AI模型能力的步伐，"他在周六的一篇博客文章中写道。</cite> <cite index="19-3">阿莫代伊发表上述言论的几天前，从OpenAI跳槽至Anthropic的AI研究员雅各布·考克森决定离开这个行业，指责这两家美国公司在竞相开发具备自我改进能力的模型的过程中"拿我们的生命赌博"。</cite> <cite index="22-5">本周标志着AI安全辩论进入公众意识，其推动力来自Anthropic员工雅各布·考克森非常公开的辞职以及他对可能发生灾难的警告。</cite> <cite index="21-5,21-8">OpenAI老板萨姆·奥尔特曼和拥有xAI的埃隆·马斯克迅速发声表示，他们赞同阿莫代伊的判断。与此同时，加强监管的压力不断上升。</cite> <cite index="22-10">奥尔特曼发帖称"我赞同达里奥的看法，我们需要为前沿技术设定节奏"，并表示他的公司也将向外部评估者开放访问权限。</cite> <cite index="24-1">阿莫代伊在文章中说，Anthropic承诺设立一个驻场的第三方评估团队，"以核实对安全实践和承诺的遵守情况，报告事件，并帮助评估不仅已完成的AI模型，还包括训练管线和流程的一致性。"</cite> <cite index="24-3">阿莫代伊还呼吁民主国家中的AI企业相互协调，建立共同的安全标准，并对"不受约束的AI进展速度"设定限制。</cite>