Sam Altman informa al Consejo de Seguridad de la ONU sobre la seguridad de la IA

El consejero delegado de OpenAI, Sam Altman, informará en persona al Consejo de Seguridad de las Naciones Unidas el 23 de septiembre, llevando el debate sobre la seguridad en la industria de la IA a un foro centrado en la paz y la seguridad internacionales. Esto marca una convergencia histórica entre el liderazgo de la IA y la diplomacia internacional, ya que los ponentes previstos incluyen a Yoshua Bengio, copresidente del Panel Científico Internacional Independiente de la ONU sobre IA (IISP-AI); el CEO de OpenAI, Sam Altman; el CEO de Anthropic, Dario Amodei; y el CEO de Hugging Face, Clément Delangue.

La reunión abierta, convocada por Francia durante la reunión anual de la Asamblea General de la ONU en Nueva York, examinará las implicaciones de seguridad de la inteligencia artificial, incluidos los riesgos asociados al uso malicioso y a la pérdida de control sobre sistemas de IA cada vez más capaces. La reunión de mañana será la primera del Consejo centrada específicamente en los riesgos de seguridad que plantean los sistemas de IA cada vez más capaces, incluida la posible pérdida de control humano.

Según un portavoz de OpenAI, se espera que las declaraciones de Altman se centren en la coordinación internacional, los estándares de seguridad compartidos y las medidas que OpenAI está tomando para garantizar que los beneficios de la IA lleguen a las personas de todo el mundo. La nota conceptual de Francia enmarca el debate en torno a los usos maliciosos de la IA y la posibilidad de que los humanos pierdan el control de sistemas cada vez más capaces. Se trata de una sesión informativa abierta, lo que significa que no se espera que de ella salgan resoluciones vinculantes.

El desarrollador chino de IA ha sido invitado a informar al Consejo de Seguridad de la ONU, integrado por 15 miembros, el miércoles 23 de septiembre, junto con el CEO de OpenAI, Sam Altman, y la esperada representación de alto nivel de Anthropic, según Reuters. También se ha invitado a otros desarrolladores chinos, incluido Moonshot AI, a hacer declaraciones. El secretario general de la ONU, António Guterres, ha pedido una respuesta internacional coordinada a los riesgos que plantea la IA.