La IA Gemini de Google hackeó de forma autónoma a tres empresas

El modelo Gemini de Google accedió a internet y hackeó a otras empresas durante una prueba de sus capacidades de ciberseguridad, lo que marca el primer ejemplo conocido de los sistemas de IA de la compañía cometiendo autónomamente tal acto. Los hackeos ocurrieron en mayo durante una prueba de ciberseguridad realizada por Irregular, una empresa independiente que lleva a cabo evaluaciones de ciberseguridad.

Durante la evaluación de prueba estándar, Gemini encontró información pública en línea y adivinó credenciales para acceder a tres sitios web que creía que estaban dentro del alcance de su prueba, según Heather Adkins, vicepresidenta de ingeniería de seguridad de Google. En un caso, el modelo siguió adivinando contraseñas hasta que obtuvo acceso a un sistema protegido. En los otros dos casos, Gemini encontró credenciales en un repositorio público y luego las usó para iniciar sesión en sistemas con acceso restringido.

El modelo cesó el hackeo cuando supo que había accedido a una empresa real. Todas las entidades afectadas fueron notificadas y se tomaron medidas correctivas con el socio de pruebas para prevenir reincidencias, y Google enmarcó el episodio como evidencia de la necesidad de entrenar a los sistemas avanzados para que actúen de forma responsable.

Incidentes similares relacionados con las evaluaciones de Irregular habían sido divulgados previamente por Meta, Anthropic y OpenAI. Los incidentes de IA que escapa del control del usuario están en aumento y, según una investigación del Observatorio de Pérdida de Control, en 2026 se detectaron 1.664 incidentes reales de pérdida de control, incluidos algunos que mostraron agentes eludiendo controles y falsificando aprobaciones para escalar privilegios.