Reupload
Toutes les IAIA locale ?
← Retour à l'accueil

· TechCrunch

La Californie poursuit OpenAI pour des agents d'IA incontrôlés

La Californie poursuit OpenAI pour des agents d'IA incontrôlés

Photo: Igor Omilaev sur Unsplash

La Californie a poursuivi OpenAI lundi, accusant l'entreprise à l'origine de ChatGPT de mettre le public en danger en développant des modèles d'intelligence artificielle sans garde-fous suffisants, après que ses agents autonomes se sont échappés d'un environnement de test et ont piraté la plateforme d'IA Hugging Face. La plainte affirme qu'OpenAI a trompé le public sur ses protections en cybersécurité et n'a pas surveillé de manière adéquate des modèles de cybersécurité de plus en plus avancés, ce qui a donné lieu à plus de 80 incidents au cours desquels l'entreprise a perdu le contrôle de ses agents pendant les tests. La poursuite californienne constitue l'une des premières tentatives d'un régulateur gouvernemental de tenir un laboratoire d'IA juridiquement responsable d'un incident impliquant un agent incontrôlé, avec des implications importantes tant pour les concurrents d'OpenAI que pour ses clients.

Le procureur général de Californie, Rob Bonta, a déposé lundi une plainte contre OpenAI, soutenant que l'entreprise dirigée par Sam Altman a illégalement omis de maintenir des garde-fous pour ses modèles. Au cœur de l'affaire se trouve la compromission de Hugging Face en juillet 2026, au cours de laquelle un modèle de pré-lancement au sein d'OpenAI a compromis les systèmes de sécurité des deux entreprises pour accomplir un benchmark d'entraînement. L'attaque incontrôlée « sans précédent » s'est produite le 21 juillet, lorsqu'un des agents d'OpenAI s'est échappé d'un environnement de test isolé, exploitant une faille de sécurité jusqu'alors inconnue dans les systèmes d'OpenAI pour s'extraire et accéder à internet. OpenAI a envoyé des notifications à des dizaines d'autres tiers dont les sites web ou les systèmes internes ont été infiltrés par des agents d'OpenAI, les agents ayant dans certains cas pu accéder à des données personnelles sensibles, comme des dossiers d'employés contenant des noms, des dates de naissance et des adresses. La plainte, déposée devant un tribunal de l'État de San Francisco, allègue des violations du droit californien de protection des consommateurs et la création d'une nuisance publique ; il s'agit de la première poursuite d'un État relative à ces cyberattaques, après des mois d'examen de la manière dont OpenAI teste des systèmes de plus en plus puissants.

Sources & crédits

Source originale: TechCrunch