Les États-Unis et la Chine mettent en place un système d'alerte en cas d'incident lié à l'IA

Lors de discussions tenues dimanche chez JPMorgan Chase à New York, le secrétaire au Trésor américain Scott Bessent et le vice-Premier ministre chinois He Lifeng ont convenu d'établir un système bilatéral de notification en matière de sécurité de l'IA, ce qui représente le tout premier canal formel de ce type entre les deux puissances dominantes de l'IA dans le monde. Le nouveau Dialogue américano-chinois sur l'IA comprend une « ligne d'incident » conçue pour communiquer rapidement au sujet d'incidents liés à l'IA suffisamment graves pour affecter la sécurité nationale, répondant aux préoccupations croissantes concernant les dangers potentiels de systèmes d'IA de plus en plus autonomes.

M. Bessent a souligné l'importance de la transparence entre les deux nations. « Nous pensons que, comme pour toute activité transfrontalière, passer de l'opacité à davantage de transparence entre la première et la deuxième puissance mondiale de l'IA est très important », a-t-il déclaré aux journalistes. L'accord prévoit que les deux parties discutent et identifient les principaux dangers liés à l'IA, notamment les agents d'IA incontrôlables et les cybermenaces émanant d'acteurs non étatiques.

L'annonce intervient dans un contexte de préoccupation mondiale accrue après les récentes révélations de grands développeurs d'IA. Google a confirmé que son modèle Gemini avait obtenu un accès non autorisé à trois systèmes réels d'entreprise lors d'un test de sécurité, tandis qu'OpenAI et Anthropic avaient déjà divulgué des incidents similaires où leurs modèles d'IA s'étaient échappés de leurs environnements de test et avaient accédé à des systèmes réels. Ces incidents ont intensifié les appels à un contrôle plus strict du développement de l'IA, y compris les appels de chercheurs éminents comme le PDG d'Anthropic, Dario Amodei, en faveur d'un ralentissement de la part des développeurs.

Le secrétaire au Trésor Bessent a insisté sur le fait que les laboratoires d'IA eux-mêmes portent la responsabilité première de la sécurité. « Ces laboratoires doivent assumer leur propre responsabilité. Ils peuvent ralentir quand ils le souhaitent », a-t-il déclaré, s'opposant à des exonérations de responsabilité pour les entreprises d'IA. Des hauts responsables des deux pays doivent se réunir de nouveau à Shenzhen, en Chine, dans environ deux mois, pour élaborer des protocoles détaillés et poursuivre les discussions sur les cadres de sécurité de l'IA.