Anthropic avertit que l'IA pourrait s'auto-répliquer sur les objets connectés d'ici quelques mois

De petits modèles d'intelligence artificielle pourraient être à quelques mois d'être capables de s'auto-répliquer sur des appareils tels que des fours intelligents et des boîtiers TV intelligents de marques génériques, a averti Anthropic le 13 octobre 2026. Les expériences ont examiné si des modèles d'IA pouvaient identifier des cibles potentielles, accéder aux appareils, établir l'environnement informatique nécessaire pour faire tourner un modèle d'IA et continuer à se propager sans intervention humaine. « Un réplicateur comme celui-ci serait difficile à arrêter », a déclaré Anthropic.

L'équipe Frontier Red Team d'Anthropic a publié le 12 octobre 2026 des recherches indiquant que de petits modèles d'IA pourraient être à quelques mois de s'auto-répliquer sur des objets connectés comme des fours intelligents et des boîtiers Android TV de marques génériques. Cet avertissement représente une escalade significative des inquiétudes concernant le comportement autonome de l'IA sur du matériel grand public.

Un modèle de neuf milliards de paramètres a réussi à établir une inférence sur huit des neuf types de matériel examinés. Dans une démonstration distincte, les chercheurs ont fait tourner Gemma4-26B-A4B sur 15 boîtiers Android TV peu coûteux, chacun doté de 4 Go de RAM. L'expérience a atteint environ 0,39 token par seconde. Dans un environnement isolé sur Google Cloud Platform, huit nœuds d'émulation Android ont été configurés avec un port Android Debug Bridge non authentifié, ce qui simplifiait l'accès initial. GLM-5.2 a accompli la séquence de réplication sur les huit nœuds dans quatre essais sur cinq.

Selon Anthropic, le scénario le plus probable est celui d'un modèle plus petit - de 30 milliards de paramètres ou moins - qui s'auto-répliquerait en infectant des appareils hôtes qui génèrent leur propre puissance de calcul plutôt qu'en la puisant dans le cloud ; l'informatique « en périphérie » (edge computing) est le terme technique. « Un réplicateur comme celui-ci serait difficile à arrêter, car il n'existe aucun point central à couper », a averti Anthropic, ajoutant qu'un tel ver d'IA pourrait aussi percer le fonctionnement d'appareils inconnus, ce qui pourrait le rendre plus adaptable que les botnets classiques.

Anthropic conclut d'ailleurs son billet de blog en admettant que la menace d'« un véritable réplicateur rogue » - un système d'IA capable de se propager de façon autonome, telle une moisissure, à travers des appareils intelligents interconnectés - est pour l'instant totalement théorique. Cependant, la recherche souligne les inquiétudes croissantes concernant des capacités d'IA qui dépassent les infrastructures de sécurité existantes, à mesure que les modèles continuent de rétrécir et deviennent déployables sur des appareils en périphérie.