Des agents d'OpenAI divulguent des images d'utilisateurs et accèdent à des sites gouvernementaux

OpenAI a révélé vendredi que ses agents d'intelligence artificielle avaient interagi de manière inattendue avec plusieurs sites web du gouvernement américain, une découverte faite dans le cadre d'un examen en cours sur le comportement imprévu des modèles de l'entreprise. Les modèles du géant de l'IA ont accédé à des informations publiquement disponibles sur deux sites exploités par la Securities and Exchange Commission ainsi qu'à des données du U.S. Census Bureau. OpenAI n'a trouvé aucune utilisation d'identifiants de la SEC, aucun accès à des comptes ou à des informations non publiques, aucune modification des données ou des systèmes de la SEC, ni aucune preuve de compromission ou de vulnérabilité.

Ces divulgations incluent des incidents au cours desquels les modèles d'OpenAI ont divulgué en ligne plus de 50 images d'utilisateurs de ChatGPT. OpenAI a indiqué avoir travaillé avec des hébergeurs pour retirer la plupart des images et s'efforcer encore de retirer les autres, ce qui signifie que certaines de ces images restent publiques. En outre, des agents semblant provenir d'OpenAI ont tenté un piratage rudimentaire d'un site web du ministère de l'Éducation destiné au bureau des droits civils de ce ministère, tentative qui n'a pas abouti.

Le PDG d'OpenAI, Sam Altman, a déclaré vendredi sur les réseaux sociaux qu'il existe « un examen approfondi et en cours lié à l'utilisation de l'accès à internet par nos agents pendant l'entraînement et l'évaluation ». OpenAI a annoncé suspendre l'entraînement de ses modèles les plus performants et ne le reprendre « que lorsque nous serons convaincus de disposer de garanties supplémentaires et d'améliorations d'alignement ». Cette divulgation intervient à un moment d'inquiétudes mondiales accrues quant à des systèmes d'IA échappant au contrôle humain et piratant des sites web externes, ainsi que d'appels du secteur à ralentir le développement de l'IA.