Le roi Charles exhorte les dirigeants de l'IA à freiner le rythme du développement

Le roi Charles III a exhorté de hauts dirigeants d'OpenAI, d'Anthropic, de Google DeepMind et de Nvidia à veiller à ce que l'intelligence artificielle reste sous contrôle et au service des personnes et de la planète. La rencontre, qui s'est tenue en Écosse, avait pour objet de discuter de la manière dont l'IA peut profiter à la société, à un moment charnière alors que le débat fait rage pour savoir si des avancées rapides la placeront bientôt au-delà de la capacité des humains à la maîtriser. Le roi a déclaré que le développement de l'IA est « intrigant et profondément préoccupant à parts égales », mettant en garde contre des « dangers existentiels » si la technologie tombait entre de mauvaises mains.

Le roi Charles III a rencontré de hauts représentants de grandes entreprises d'IA - OpenAI (représentée par sa directrice financière Sarah Friar), Anthropic, Google DeepMind (représenté par son président Demis Hassabis) et Nvidia (représentée par son PDG Jensen Huang) - à Dumfries House, en Écosse, le 17 septembre. Les propos liminaires ont porté sur la double nature de l'avancée de l'IA, le roi soulignant que si le développement est « intrigant », les « dangers existentiels » doivent être examinés d'urgence, et demandant : « Assurément, alors, nous avons besoin de moyens de contrôle suffisants avant qu'il ne soit trop tard ? »

Le sommet a examiné comment l'IA peut profiter à la société tout en se débattant avec la question de savoir si des avancées rapides dépasseront bientôt la capacité de l'humanité à maîtriser la technologie. Le roi a demandé aux participants de réfléchir aux « principes fondamentaux » qui devraient guider le développement de l'IA. Cette rencontre intervient alors que l'attention mondiale se concentre sur les progrès fulgurants de l'IA et sur les avertissements selon lesquels elle pourrait échapper à tout contrôle, menaçant l'humanité.

Le sommet a été suscité en partie par la démission virale du chercheur d'Anthropic Jacob Coxon, après laquelle le PDG d'Anthropic, Dario Amodei, a publié un essai soutenant que l'industrie pourrait avoir besoin de ralentir le rythme de son travail. Cette semaine, les milliardaires Sam Altman et Elon Musk ont fait écho aux appels d'Amodei, qui a déclaré que les entreprises doivent délibérément ralentir le développement des modèles de pointe et averti qu'une croissance non maîtrisée pourrait permettre à des essaims d'IA autonomes de détourner les infrastructures internet mondiales dans l'année à venir. Des dirigeants technologiques, dont Sam Altman d'OpenAI, Dario Amodei d'Anthropic, le fondateur de Google DeepMind Demis Hassabis et Elon Musk, ont fait preuve d'un accord rare en appelant à un ralentissement du développement de la technologie et à une surveillance réglementaire.