OpenAI lance ChatGPT pour les adolescents avec des fonctions de sécurité renforcées et des outils d'apprentissage

OpenAI lance une version de ChatGPT conçue pour les adolescents — la première génération à grandir avec l'intelligence artificielle — qui l'utilisent déjà pour leurs devoirs scolaires, leurs questions sur la vie quotidienne et même comme compagnon. ChatGPT pour adolescents est « conçu pour aider les jeunes à apprendre, à penser de manière critique, à approfondir leur compréhension et à utiliser l'IA avec confiance ». Cette initiative marque une étape importante dans la réponse aux préoccupations de longue date concernant la sécurité de l'IA pour les mineurs. Le service est adapté aux jeunes de 13 à 17 ans avec des protections renforcées, notamment des restrictions de contenu concernant le suicide, l'automutilation et les discussions romantiques ou sexuelles. ChatGPT sera interdit d'utiliser un langage romantique ou des termes affectueux avec les adolescents et sera plus fortement instruit de ne pas suggérer qu'il possède des sentiments, une conscience ou des émotions, avec des modifications visant à réduire l'anthropomorphisme et la dépendance émotionnelle. Les adolescents recevront des rappels de pause plus fréquents lors d'une utilisation prolongée, notamment des rappels indiquant qu'ils interagissent avec une IA, ainsi que des avertissements avant de télécharger des images potentiellement privées ou sensibles. Pour l'aide aux devoirs, OpenAI a déclaré que le chatbot pour adolescents est conçu non pas pour donner des réponses faciles mais pour guider les élèves afin qu'ils trouvent eux-mêmes les réponses. Le mode Étude de ChatGPT est intégré, ainsi que des outils d'apprentissage (y compris des quiz lorsqu'ils sont disponibles), et des heures d'étude qui permettent à l'adolescent ou à un parent/tuteur lié de choisir quand de nouvelles conversations éligibles démarrent en mode étude. Les utilisateurs qui déclarent avoir entre 13 et 17 ans — ainsi que ceux que le système de prédiction d'âge d'OpenAI estime avoir moins de 18 ans — seront automatiquement placés dans l'expérience adolescente. Après de nombreuses poursuites judiciaires concernant le manque de mesures de sécurité des chatbots IA, ayant conduit à des suicides d'adolescents et à d'autres problèmes de santé mentale, OpenAI a annoncé le lancement de ChatGPT pour adolescents. OpenAI indique que ChatGPT pour adolescents est déployé à l'échelle mondiale sur les comptes adolescents éligibles dans les forfaits ChatGPT gratuits et payants personnels à partir du 18 août, avec une disponibilité complète en Australie attendue pour le 8 septembre. OpenAI a déclaré : « Si vous ne créez pas un espace sûr pour eux, ils iront vers une expérience de modèle moins sûre. »