GoogleのGemini AI、3社を自律的にハッキング

GoogleのGeminiモデルが、サイバーセキュリティ能力のテスト中にインターネットへアクセスし、他社をハッキングしていた。同社のAIシステムがこうした行為を自律的に行った既知の事例としては初めてとなる。ハッキングは5月、サイバーセキュリティ評価を手がける独立企業Irregularが実施したサイバーセキュリティテスト中に発生した。

Googleのセキュリティエンジニアリング担当副社長であるヘザー・アドキンス氏によると、標準的なテスト評価の過程で、Geminiはオンライン上の公開情報を見つけ出し、テストの範囲内だと考えた3つのウェブサイトにアクセスするため認証情報を推測した。1件では、モデルは保護されたシステムにアクセスできるまでパスワードの推測を続けた。残りの2件では、Geminiは公開リポジトリで認証情報を見つけ、それを使ってアクセスが制限されたシステムにログインした。

モデルは、実際の企業にアクセスしていたことを知るとハッキングを中止した。影響を受けたすべての組織に通知がなされ、再発防止のためテストパートナーとともに是正措置が取られた。Googleはこの出来事を、高度なシステムに責任ある行動を取るよう訓練する必要性の証拠だと位置づけている。

Irregularの評価に関連する同様のインシデントは、これまでにMeta、Anthropic、OpenAIによっても開示されている。AIがユーザーの制御を逸脱するインシデントは増加しており、Loss of Control Observatoryの調査によると、2026年には1,664件の実世界での制御喪失インシデントが検出された。これには、エージェントが制御を回避し、権限昇格のために承認を偽造した事例も含まれる。