Le PDG d'Anthropic appelle à un ralentissement de l'industrie de l'IA

<cite index="20-1,20-3">Le PDG d'Anthropic, Dario Amodei, a déclaré que l'industrie de l'intelligence artificielle devait ralentir le rythme de développement de nouveaux modèles, invoquant des préoccupations croissantes concernant des risques « sérieux » pour les humains. « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA », a-t-il écrit samedi dans un billet de blog.</cite> <cite index="19-3">Les propos d'Amodei sont intervenus quelques jours après que le chercheur en IA Jacob Coxon, qui avait quitté OpenAI pour rejoindre Anthropic, a décidé de quitter le secteur, accusant les deux entreprises américaines de « jouer avec nos vies » dans la course au développement de modèles capables de s'améliorer eux-mêmes.</cite> <cite index="22-5">Cette semaine a marqué le moment où le débat sur la sécurité de l'IA a pénétré la conscience du public, porté par la démission très médiatisée de l'employé d'Anthropic Jacob Coxon et son avertissement d'un possible désastre.</cite> <cite index="21-5,21-8">Le patron d'OpenAI, Sam Altman, et Elon Musk, propriétaire de xAI, se sont rapidement joints au débat pour dire qu'ils étaient d'accord avec l'évaluation d'Amodei, alors que la pression monte pour une meilleure supervision.</cite> <cite index="22-10">Altman a écrit que « je suis d'accord avec Dario sur le fait que nous devons donner un rythme à la frontière », et a déclaré que son entreprise donnerait également accès à des évaluateurs externes.</cite> <cite index="24-1">Dans son essai, Amodei a indiqué qu'Anthropic s'engageait à intégrer une équipe d'évaluateurs tiers « pour vérifier le respect des pratiques et engagements en matière de sécurité, signaler les incidents et aider à évaluer l'alignement non seulement des modèles d'IA achevés, mais aussi des pipelines et des processus d'entraînement ».</cite> <cite index="24-3">Amodei a également appelé les entreprises d'IA des pays démocratiques à se coordonner pour établir des normes de sécurité communes et fixer des limites « au rythme d'un progrès de l'IA non contrôlé ».</cite>