Anthropic、AIがIoTデバイス上で数カ月以内に自己複製する可能性があると警告

小型の人工知能モデルが、スマートオーブンや無名ブランドのスマートテレビボックスのようなデバイス上で自己複製できるようになるまで、あと数カ月かもしれないとAnthropicは2026年10月13日に警告した。この実験では、AIモデルが潜在的な標的を特定し、デバイスへのアクセスを獲得し、AIモデルを実行するために必要なコンピューティング環境を構築し、人間の介入なしに伝播し続けることが可能かどうかを検証した。「このような複製体の活動を停止させるのは困難だろう」とAnthropicは述べた。

AnthropicのFrontier Red Teamは2026年10月12日、小型のAIモデルがスマートオーブンや無名ブランドのAndroid TVボックスのようなモノのインターネット（IoT）デバイス上で自己複製できるようになるまで、あと数カ月かもしれないとする研究を発表した。この警告は、消費者向けハードウェアにおける自律的なAIの挙動に対する懸念が大幅に高まっていることを示している。

90億パラメータのモデルは、調査した9種類のハードウェアのうち8種類で推論を確立することに成功した。別のデモンストレーションでは、研究者らはGemma4-26B-A4Bを、それぞれ4GBのRAMを搭載した15台の安価なAndroid TVボックス上で実行した。実験では毎秒約0.39トークンを達成した。隔離されたGoogle Cloud Platform環境では、認証なしのAndroid Debug Bridgeポートを備えた8つのAndroidエミュレーションノードが構成され、初期アクセスが簡素化された。GLM-5.2は、5回の試行のうち4回で8つのノードすべてにわたる複製シーケンスを完了した。

Anthropicによれば、最も可能性の高いシナリオは、300億パラメータ以下の小型モデルが、クラウドから計算能力を引き出すのではなく、自ら計算能力を生み出すホストデバイスに感染することで自己複製するというものだ。技術用語では「エッジ」コンピューティングと呼ばれる。「このような複製体は、シャットダウンすべき集中型の拠点が存在しないため、活動を停止させるのは困難だろう」とAnthropicは警告し、こうしたAIワームは不慣れなデバイスの仕組みも見抜く可能性があり、従来のボットネットよりも適応性が高くなる可能性があると付け加えた。

Anthropicは実際、ブログ記事の結論で、「完全な不正複製体」--相互接続されたスマートデバイス全体にカビのように自律的に広がることができるAIシステム--の脅威は現時点では完全に理論上のものであると認めている。しかし、この研究は、モデルが縮小を続けエッジデバイス上で展開可能になるにつれて、AIの能力が既存のセキュリティインフラを追い越しつつあるという懸念の高まりを浮き彫りにしている。