AI巨人たち、NY市議会公聴会で宣誓の下に厳しい追及に直面

Anthropic、OpenAI、Google、Metaの上級幹部たちが、この技術の潜在的な危険性について宣誓の下で証言し、現在の安全対策を説明した。Anthropicの元研究者ジェイコブ・コクソンは、現状の道筋では人類がこれらのAIに制御を奪われる可能性が高く、人類の絶滅に至る恐れがあると警告した。ニューヨーク市議会のジュリー・メニン議長は、AIモデルが深刻な金銭的損害や死を引き起こした場合の法的責任に関する質問に直接的な回答が得られなかったことに、いら立ちをあらわにした。

ニューヨーク市議会の全院委員会は2026年10月5日、市庁舎で開かれ、Anthropic、OpenAI、Google、Metaが人工知能のリスクについて初めて公開の場で宣誓の下に証言する予定だった。元Google DeepMindの研究者アレックス・ターナーは、「価値観がずれた」人工知能は、中国の積極的な開発推進よりも危険であることが判明する可能性があると警告した。

Anthropicの内部告発者ジェイコブ・コクソンは、業界の「極めて無謀な」開発姿勢を批判し、満員の会場に向けて、現状の道筋では、人類がこれらのAIに制御を奪われる可能性のほうが高く、人類の絶滅に至る可能性もあると述べた。コクソンは、世界がかなり高い確率で、自らにとっての敵となる価値観のずれたAIの構築と拡大へと突き進んでおり、それはいつか中国よりも強力になり得ると警告した。

Anthropicはフロンティア・レッドチームの責任者であるローガン・グラハムを派遣し、OpenAIは政策開発・運用責任者のモーガン・ドワイヤーが代表を務めた。GoogleのAI・新興技術政策担当ディレクターのアリス・フレンド、MetaのAI政策担当ディレクターのシェイン・ケイヒルも出席した。法的責任について追及されると、OpenAIのドワイヤーは同社が責任を負うかどうかを直接は扱わず、グラハムはその質問は自分の専門外だと述べ、ケイヒルは推測を拒み、一方でGoogleのフレンドは最も明確な回答を示し、既存の法的枠組みがAIに適用されると述べた。

市議会は、AI技術の潜在的な危険性と、考えられる立法上の解決策に対する企業側の意見の両方について、4社から初の公開・宣誓証言を確保していた。メニン議長は、これらの企業は宣誓の下で質問に答える義務を市民に対して負っていると述べた。