El rey Carlos insta a los líderes de la IA a frenar el ritmo de desarrollo

El rey Carlos III instó a altos dirigentes de OpenAI, Anthropic, Google DeepMind y Nvidia a garantizar que la inteligencia artificial siga bajo control y al servicio de las personas y del planeta. El encuentro celebrado en Escocia se convocó para debatir cómo puede beneficiar la IA a la sociedad, en un momento crucial, cuando arrecian los debates sobre si los rápidos avances pronto la situarán más allá de la capacidad humana de contenerla. El rey afirmó que el desarrollo de la IA es "fascinante y profundamente preocupante a partes iguales", y advirtió sobre "peligros existenciales" si la tecnología cae en manos equivocadas.

El rey Carlos III se reunió con altos representantes de importantes empresas de IA -OpenAI (representada por su directora financiera, Sarah Friar), Anthropic, Google DeepMind (representada por su presidente, Demis Hassabis) y Nvidia (representada por su consejero delegado, Jensen Huang)- en Dumfries House, en Escocia, el 17 de septiembre. Las palabras de apertura se centraron en la doble naturaleza del avance de la IA, y el rey subrayó que, si bien el desarrollo es "fascinante", los "peligros existenciales" deben considerarse con urgencia, y preguntó: "Entonces, ¿no necesitamos acaso medios de control suficientes antes de que sea demasiado tarde?".

La cumbre abordó cómo puede beneficiar la IA a la sociedad, al tiempo que lidiaba con la cuestión de si los rápidos avances pronto superarán la capacidad de la humanidad para gestionar la tecnología. El rey pidió a los asistentes que consideraran los "principios fundamentales" que deberían guiar el desarrollo de la IA. El encuentro se produce cuando la atención mundial se centra en el vertiginoso progreso de la IA y en las advertencias de que podría descontrolarse y amenazar a la humanidad.

La cumbre fue propiciada en parte por la viral dimisión del investigador de Anthropic Jacob Coxon, tras la cual el consejero delegado de Anthropic, Dario Amodei, publicó un ensayo en el que sostenía que el sector tal vez necesite ralentizar el ritmo de su trabajo. Esta semana, los multimillonarios Sam Altman y Elon Musk se hicieron eco de los llamamientos de Amodei, quien dijo que las empresas deben frenar deliberadamente el desarrollo de modelos de frontera y advirtió de que un crecimiento sin control podría permitir que enjambres autónomos de IA secuestren la infraestructura global de internet en el plazo de un año. Altos cargos tecnológicos, entre ellos Sam Altman, de OpenAI; Dario Amodei, de Anthropic; el fundador de Google DeepMind, Demis Hassabis, y Elon Musk, han mostrado un acuerdo inusual al pedir una ralentización en el desarrollo de la tecnología y una supervisión regulatoria.