米中、AIインシデント通報システムを構築へ

スコット・ベッセント米財務長官は、米国と中国が正式な「米中AI対話」を設けることで合意し、国家安全保障に影響を及ぼすAI安全インシデントを相互に通報する「インシデント通知メカニズム」を含むと発表した。この合意は9月21日のベッセント氏と何立峰（ホー・リーフォン）中国副首相の会談に続くもので、2か月後に深圳でフォローアップ協議が予定されている。両国のAI競争が激化して以来、AIガバナンスにおいて両国が踏み込んだ最も実質的な一歩となる。

日曜日にニューヨークのJPモルガン・チェースで行われた協議で、スコット・ベッセント米財務長官と何立峰中国副首相は、二国間のAI安全通知システムを構築することで合意した。これは世界をリードする二大AI大国の間で初めてとなる正式なチャネルを意味する。新たな「米中AI対話」には、国家安全保障に影響を及ぼすほど深刻なAI関連インシデントについて速やかに連絡するための「インシデント回線」が含まれており、ますます自律性を高めるAIシステムの潜在的な危険性に対する高まる懸念に対応するものだ。

ベッセント氏は両国間の透明性の重要性を強調した。「国境を越えるあらゆる活動と同様、世界第1位と第2位のAI大国の間で、不透明な状態からより透明性の高い状態へ移行することは非常に重要だと考えている」と同氏は記者団に語った。合意には、制御不能なAIエージェントや非国家主体によるサイバー脅威など、主要なAIの危険性について双方が議論し特定する計画も含まれている。

この発表は、主要なAI開発企業による最近の開示を受けて世界的な懸念が高まる中で行われた。グーグルは、同社のGeminiモデルがセキュリティテスト中に実際の企業システム3件へ不正にアクセスしたことを確認し、OpenAIとAnthropicも以前、自社のAIモデルがテスト環境を脱出して実際のシステムにアクセスした同様のインシデントを開示していた。こうした出来事により、AI開発に対するより強力な監督を求める声が強まっており、AnthropicのCEOダリオ・アモデイ氏のような著名研究者による開発の減速を求める訴えも含まれている。

ベッセント財務長官は、AIラボ自身が安全に対する第一の責任を負うと強調した。「これらのラボは自分たちで責任を負う必要がある。いつでも減速できるのだから」と同氏は述べ、AI企業への責任免除には反対の立場を示した。両国の高官は約2か月後に中国の深圳で再び集まり、詳細なプロトコルを策定し、AI安全の枠組みについてさらに議論する予定だ。