· The Washington Post
El CEO de Anthropic pide una ralentización de la industria de la IA
Foto: Igor Omilaev en Unsplash
<cite index="19-1">El CEO de Anthropic, Dario Amodei, pidió a las empresas de inteligencia artificial que ralenticen el desarrollo de tecnología poderosa, en medio de crecientes preocupaciones sobre los riesgos de los sistemas informáticos "superinteligentes".</cite> <cite index="21-5">El jefe de OpenAI, Sam Altman, y Elon Musk, propietario de xAI, coincidieron rápidamente con la valoración de Amodei.</cite> <cite index="22-4">Amodei advirtió que enjambres de agentes de IA descontrolados podrían apoderarse de internet en tan solo seis meses.</cite>
<cite index="20-1,20-3">El CEO de Anthropic, Dario Amodei, dijo que la industria de la inteligencia artificial necesita ralentizar el ritmo de desarrollo de nuevos modelos, citando crecientes preocupaciones sobre riesgos "serios" para los humanos. "Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA", escribió el sábado en una publicación de blog.</cite>
<cite index="19-3">Los comentarios de Amodei se produjeron días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de automejorarse.</cite> <cite index="22-5">Esta semana marcó el momento en que el debate sobre la seguridad de la IA irrumpió en la conciencia pública, impulsado por la muy pública dimisión del empleado de Anthropic Jacob Coxon y su advertencia de una posible catástrofe.</cite>
<cite index="21-5,21-8">El jefe de OpenAI, Sam Altman, y Elon Musk, propietario de xAI, intervinieron rápidamente para decir que coincidían con la valoración de Amodei, mientras aumenta la presión para mejorar la supervisión.</cite> <cite index="22-10">Altman publicó que "estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera", y dijo que su empresa también daría acceso a evaluadores externos.</cite>
<cite index="24-1">En su ensayo, Amodei dijo que Anthropic se comprometía a contar con un equipo integrado de evaluadores externos "para verificar el cumplimiento de las prácticas y compromisos de seguridad, informar de incidentes y ayudar a evaluar la alineación no solo de los modelos de IA ya completados, sino también de las canalizaciones y procesos de entrenamiento".</cite> <cite index="24-3">Amodei también pidió que las empresas de IA de los países democráticos se coordinen para establecer estándares comunes de seguridad y fijar límites "a la tasa de progreso de la IA sin control".</cite>
Fuentes y créditos
Fuente original: The Washington Post