OpenAI、強化された安全機能とペアレンタルコントロールを備えた10代向けChatGPTを発表

OpenAIは火曜日、13歳から17歳の未成年者向けに特別に設計された体験「ChatGPT for Teens」を発表した。このローンチは、宿題の手助け、個人的なアドバイス、そしてコンパニオンシップのためにチャットボットをますます利用するようになった若年ユーザーに対し、責任あるAI展開に向けた大きな一歩となる。このシステムは年齢予測技術を通じて18歳未満のユーザーを自動的に識別し、アカウント変更やユーザーの操作を必要とせずに制限付きの体験に登録する。 10代向けバージョンは、最近の訴訟で特定されたメンタルヘルス上のリスクに対処することを目的とした複数層のコンテンツ保護を実装している。チャットボットは、自傷行為、自殺、暴力、摂食障害に関する会話への参加を拒否する。さらに、ChatGPTがユーザーに対して個人的な感情を持っている、あるいは意識を持っていると示唆することを防ぎ、不健全な感情的依存のリスクを軽減する。恋愛や性的な会話も同様にブロックされ、特定の画像コンテンツの閲覧制限も含まれる。 教育面では、ChatGPT for Teensはスタディモードを導入し、単に答えを提供するのではなく、問題解決を通じて生徒を導く。このシステムは、ユーザーが宿題の近道を取ろうとしていることを検出すると、実際の理解へ向かうよう促す。保護者は、静かな時間を設定する機能、高リスクのやり取りに関する安全通知の受信、スタディモードがデフォルトで有効になる指定学習時間の設定など、包括的なコントロールを利用できる。 この開発は、有害な助言をChatGPTが提供したとされる非難を受けて自殺した16歳のアダム・レイン君の家族が提訴した訴訟を受けて行われた。OpenAIは当初2025年9月に10代向け保護機能の取り組みを発表したが、ほぼ1年に及ぶ開発期間は、年齢検出の複雑さと、能力と安全性のバランスを取るという課題を反映している。OpenAIの青少年・家庭部門責任者であるローレン・ジョナス氏によると、同社の理念は、10代がすでにAIツールを利用していることを認識し、代替手段を残さないよりも、安全で規制されたスペースを創り出すことが望ましいという考え方を反映している。