Sam Altman présente un exposé au Conseil de sécurité de l'ONU sur la sécurité de l'IA

Le PDG d'OpenAI, Sam Altman, présente en personne un exposé devant le Conseil de sécurité des Nations unies le 23 septembre, portant le débat sur la sécurité dans l'industrie de l'IA au sein d'une enceinte consacrée à la paix et à la sécurité internationales. Il s'agit d'une convergence historique entre les dirigeants de l'IA et la diplomatie internationale, puisque les personnes attendues pour ces exposés comprennent Yoshua Bengio, coprésident du Panel scientifique international indépendant de l'ONU sur l'IA (IISP-AI) ; le PDG d'OpenAI Sam Altman ; le PDG d'Anthropic Dario Amodei ; et le PDG de Hugging Face Clément Delangue.

Cette réunion publique, convoquée par la France en marge du rassemblement annuel de l'Assemblée générale de l'ONU à New York, examinera les implications sécuritaires de l'intelligence artificielle, notamment les risques liés à un usage malveillant et à la perte de contrôle sur des systèmes d'IA toujours plus performants. La réunion de demain sera la première du Conseil consacrée spécifiquement aux risques de sécurité posés par des systèmes d'IA toujours plus performants, y compris la possible perte de contrôle humain.

Selon un porte-parole d'OpenAI, les propos d'Altman devraient porter sur la coordination internationale, des normes de sécurité partagées et les mesures qu'OpenAI prend pour veiller à ce que les bénéfices de l'IA profitent aux populations du monde entier. La note conceptuelle de la France cadre la discussion autour des usages malveillants de l'IA et de la possibilité que les humains perdent le contrôle de systèmes toujours plus performants. Il s'agit d'un exposé public, ce qui signifie qu'aucune résolution contraignante ne devrait en découler.

Le développeur chinois d'IA a été invité à s'adresser mercredi 23 septembre au Conseil de sécurité de l'ONU, composé de 15 membres, aux côtés du PDG d'OpenAI Sam Altman et d'une représentation attendue de haut niveau d'Anthropic, selon Reuters. D'autres développeurs chinois, dont Moonshot AI, ont également été invités à faire des déclarations. Le secrétaire général de l'ONU, António Guterres, a appelé à une réponse internationale coordonnée face aux risques posés par l'IA.