サム・アルトマン氏、AIの安全性について国連安全保障理事会で説明

OpenAIのCEO、サム・アルトマン氏は9月23日、国連安全保障理事会で直接説明を行う。これにより、AI業界の安全性をめぐる議論が、国際平和と安全を主題とする場に持ち込まれることになる。これはAI分野のリーダーたちと国際外交の歴史的な集結となる。説明者として予想されているのは、国連のAIに関する独立国際科学パネル（IISP-AI）の共同議長を務めるヨシュア・ベンジオ氏、OpenAIのCEOサム・アルトマン氏、AnthropicのCEOダリオ・アモデイ氏、Hugging FaceのCEOクレマン・ドゥラング氏である。

ニューヨークで開催される国連総会の年次会合中にフランスが招集するこの公開会合では、人工知能の安全保障上の影響、とりわけ悪意ある利用や、ますます高度化するAIシステムの制御喪失に伴うリスクが検討される。明日の会合は、ますます高度化するAIシステムがもたらす安全性リスク、とりわけ人間による制御の喪失の可能性に特化して焦点を当てた理事会の初めての会合となる。

OpenAIの広報担当者によれば、アルトマン氏の発言は、国際的な協調、共通の安全基準、そしてAIの恩恵が世界中の人々に届くようにするためにOpenAIが講じている措置に中心を置く見通しだ。フランスのコンセプトノートは、AIの悪意ある利用と、ますます高度化するシステムに対する人間の制御喪失の可能性を中心に議論を組み立てている。これは公開ブリーフィングであり、そこから拘束力のある決議が生まれることは想定されていない。

ロイター通信によれば、中国のAI開発企業が、OpenAIのCEOサム・アルトマン氏やAnthropicの上級幹部とみられる人物とともに、9月23日水曜日に15か国で構成される国連安全保障理事会で説明を行うよう招待されている。Moonshot AIを含む他の中国の開発企業も発言を求められている。国連のアントニオ・グテーレス事務総長は、AIがもたらすリスクに対する国際的に協調した対応を呼びかけている。