チャールズ国王、AIリーダーらに開発のペース抑制を促す

チャールズ三世国王は9月17日、スコットランドのダムフリーズ・ハウスで、主要AI企業の上級代表者らと会談した。OpenAI（最高財務責任者のサラ・フリアー氏が代表）、Anthropic、Google DeepMind（会長のデミス・ハサビス氏が代表）、Nvidia（最高経営責任者のジェンスン・フアン氏が代表）である。冒頭の挨拶はAI進歩の二面性を中心とし、国王は、開発は「興味深い」一方で、「存在論的な危険」を緊急に考慮しなければならないと強調し、「ならばきっと、手遅れになる前に十分な制御手段が必要ではないでしょうか」と問いかけた。

この首脳会議は、AIがいかに社会に貢献できるかを議論する一方で、急速な進歩が間もなく人類の技術管理能力を超えるのではないかという問題にも取り組んだ。国王は出席者に対し、AI開発を導くべき「基本原則」を考慮するよう求めた。この集まりは、AIの猛烈な進歩と、それが制御不能に暴走し人類を脅かす可能性があるとの警告に世界の関心が集まる中で開かれた。

この首脳会議は一部、Anthropicの研究者ジェイコブ・コクソン氏の拡散した辞職がきっかけとなって開かれた。その後、Anthropicの最高経営責任者ダリオ・アモデイ氏は、業界が作業のペースを減速させる必要があるかもしれないと論じるエッセイを発表した。今週、億万長者のサム・アルトマン氏とイーロン・マスク氏は、企業はフロンティアモデルの開発を意図的に減速させる必要があると述べ、抑制されない成長は今後1年以内に自律型AIの群れが世界のインターネット基盤を乗っ取ることを可能にしかねないと警告したアモデイ氏の呼びかけに同調した。OpenAIのサム・アルトマン氏、Anthropicのダリオ・アモデイ氏、Google DeepMind創業者のデミス・ハサビス氏、イーロン・マスク氏を含む技術界のトップらは、この技術の開発減速と規制による監督を求める点で稀な一致を示している。