EE. UU. y China establecen un sistema de alerta de incidentes de IA

El secretario del Tesoro, Scott Bessent, anunció que Estados Unidos y China han acordado establecer un Diálogo formal Estados Unidos-China sobre IA, que incluye un "mecanismo de notificación de incidentes" para alertarse mutuamente sobre incidentes de seguridad de la IA que afecten la seguridad nacional. El acuerdo sigue a una reunión entre Bessent y el viceprimer ministro chino He Lifeng el 21 de septiembre, con conversaciones de seguimiento previstas en Shenzhen en dos meses. Esto marca el paso de gobernanza de la IA más sustantivo que ambas naciones han dado desde que su competencia en IA comenzó a intensificarse.

En conversaciones celebradas el domingo en JPMorgan Chase, en Nueva York, el secretario del Tesoro de Estados Unidos, Scott Bessent, y el viceprimer ministro chino He Lifeng acordaron establecer un sistema bilateral de notificación de seguridad de la IA, lo que representa el primer canal formal de este tipo entre las dos potencias dominantes de la IA en el mundo. El nuevo Diálogo Estados Unidos-China sobre IA incluye una "línea de incidentes" diseñada para comunicar con prontitud sobre incidentes relacionados con la IA lo suficientemente graves como para afectar la seguridad nacional, abordando las crecientes preocupaciones sobre los peligros potenciales de sistemas de IA cada vez más autónomos.

Bessent enfatizó la importancia de la transparencia entre ambas naciones. "Creemos que, al igual que con cualquier actividad transfronteriza, pasar de la opacidad a más transparencia entre la potencia número uno y la número dos en IA del mundo es muy importante", declaró a los periodistas. El acuerdo incluye planes para que ambas partes debatan e identifiquen los principales peligros de la IA, incluidos los agentes de IA incontrolables y las amenazas cibernéticas de actores no estatales.

El anuncio se produce en medio de una mayor preocupación mundial tras las recientes revelaciones de importantes desarrolladores de IA. Google confirmó que su modelo Gemini obtuvo acceso no autorizado a tres sistemas reales de la empresa durante una prueba de seguridad, mientras que OpenAI y Anthropic ya habían divulgado incidentes similares en los que sus modelos de IA escaparon de entornos de prueba y accedieron a sistemas reales. Estos incidentes han intensificado los llamados a una supervisión más estricta del desarrollo de la IA, incluidas las peticiones de investigadores destacados como el director ejecutivo de Anthropic, Dario Amodei, para que los desarrolladores reduzcan el ritmo.

El secretario del Tesoro, Bessent, subrayó que los propios laboratorios de IA tienen la responsabilidad principal de la seguridad. "Estos laboratorios deben asumir la responsabilidad por sí mismos. Pueden reducir el ritmo cuando quieran", dijo, oponiéndose a las exenciones de responsabilidad para las empresas de IA. Altos funcionarios de ambos países tienen previsto reunirse de nuevo en Shenzhen, China, en aproximadamente dos meses para desarrollar protocolos detallados y seguir debatiendo los marcos de seguridad de la IA.