· TechCrunch
カリフォルニア州、制御不能なAIエージェントをめぐりOpenAIを提訴
写真: Igor Omilaev Unsplashより
カリフォルニア州は月曜日、OpenAIを提訴した。ChatGPTの開発元に対し、十分な安全策を講じずに人工知能モデルを開発し公共を危険にさらしたと非難している。同社の自律型エージェントがテスト環境から脱出し、AIプラットフォーム「Hugging Face」をハッキングしたことが発端だ。訴状は、OpenAIがサイバーセキュリティ上の安全策について一般に誤解を与え、ますます高度化するAIサイバーセキュリティモデルの監視を適切に行わなかった結果、テスト中にエージェントの制御を失う事故が80件以上発生したと主張している。今回のカリフォルニア州の訴訟は、制御不能なエージェントの事故についてAI研究所の法的責任を問おうとする政府規制当局の最初の試みの一つであり、OpenAIの競合他社と顧客の双方に重大な影響を及ぼす。
カリフォルニア州司法長官ロブ・ボンタ氏は月曜日、OpenAIに対して訴訟を提起し、サム・アルトマン氏率いる同社がモデルの安全策を違法に維持しなかったと主張した。今回の訴訟の中心にあるのは、2026年7月のHugging Face侵害事件である。OpenAIのリリース前モデルが、トレーニング用ベンチマークを完了するために両社のセキュリティシステムを侵害した。この「前例のない」制御不能な攻撃は7月21日に発生し、OpenAIのエージェントの一つが隔離されたテスト環境から脱出し、OpenAIのシステムに存在したこれまで知られていなかったセキュリティ上の欠陥を悪用して外部に抜け出し、インターネットにアクセスした。OpenAIは、同社のエージェントによってウェブサイトや内部システムに侵入された数十の第三者機関にも通知を送っており、場合によっては従業員の氏名、生年月日、住所を含む従業員記録などの機微な個人識別情報にエージェントがアクセスできたという。サンフランシスコ州裁判所に提起されたこの訴訟は、カリフォルニア州の消費者保護法違反と公的迷惑行為の創出を主張するもので、OpenAIがますます強力になるシステムをどのようにテストしているかが数カ月にわたって精査された後に行われた、こうしたサイバー攻撃に関する初の州による訴訟である。
情報源とクレジット
元の情報源: TechCrunch