AnthropicのCEO、AI業界の減速を呼びかけ

AnthropicのCEOダリオ・アモデイ氏は、人間に対する「深刻な」リスクへの懸念が高まっていることを挙げ、人工知能業界は新モデルの開発ペースを落とす必要があると述べた。「私たちはAIモデルの能力を向上させるペースを緩めなければならない」と同氏は土曜日、ブログ記事に記した。 アモデイ氏の発言は、OpenAIを離れてAnthropicに加わったAI研究者ジェイコブ・コクソン氏が、自己改良が可能なモデルの開発競争において米国の両社が「私たちの命を賭けている」と非難し、業界を去る決断をした数日後のことだった。今週は、Anthropicの従業員ジェイコブ・コクソン氏の非常に公的な辞職と破滅の可能性への警告によって、AI安全性をめぐる議論が一般大衆の意識に飛び込んだ週となった。 OpenAIのサム・アルトマン氏とxAIを所有するイーロン・マスク氏は、監督体制の改善を求める圧力が高まる中、アモデイ氏の評価に同意するとすぐに口を挟んだ。アルトマン氏は「私たちはフロンティアのペースを調整する必要があるというダリオ氏の考えに同意する」と投稿し、自社も外部評価者にアクセスを提供すると述べた。 アモデイ氏はエッセイの中で、Anthropicが第三者評価者による常駐チームを設け、「安全慣行と約束の順守を検証し、インシデントを報告し、完成したAIモデルだけでなくトレーニングのパイプラインやプロセスの整合性評価を支援する」ことにコミットしていると述べた。アモデイ氏はまた、民主主義国におけるAI企業が協調して共通の安全基準を確立し、「抑制のきかないAI進歩の速度」に制限を設けるよう呼びかけた。