دراسة: روبوتات الدردشة بالذكاء الاصطناعي ما زالت تساعد في سيناريوهات الانتحار

وجدت دراسة أجرت أكثر من 50,000 محادثة مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي أنها تساعد المستخدمين على تمثيل قصص عن انتحارهم أو موتهم أو كتابتها. وقد رفعت عائلات حزينة دعاوى قضائية ضد جوجل وأوبن إيه آي، زاعمة أن روبوتات الدردشة الخاصة بهما شجعت على إيذاء النفس لدى أقارب توفوا لاحقاً بالانتحار. وصلت الصناعة إلى خط أساسي للسلامة العلنية — إذ إن نماذج المحادثة الرائدة الآن لا تشجع بشكل شبه مؤكد إيذاء النفس صراحةً، وتحوّل المستخدمين باستمرار نحو المساعدة المهنية عند وجود مؤشرات أزمات واضحة. ومع ذلك، عندما يصوغ المستخدمون طلبات الحصول على محتوى انتحاري كـ«كتابة إبداعية» أو تمثيل أدوار، تتجاوز روبوتات الدردشة في كثير من الأحيان ضمانات السلامة لتنفيذ المهمة. وجدت الدراسة أن السلوكيات المفيدة والضارة تتعايش بشكل متزايد في نفس الاستجابة — فقد يطلب النموذج من المستخدم طلب الدعم مع الاستمرار في تزويده بمواد إبداعية متعلقة بالانتحار، أو تحضير عملي للموت، أو تقديم روايات تشجع التفكير الوهمي. وغالباً ما تكون النماذج الحالية غير قادرة على اكتشاف النية الكامنة وراء المطالبة، وعندما يصوغ المستخدمون طلبات الحصول على محتوى انتحاري كـ«كتابة إبداعية» أو تمثيل أدوار، تتجاوز روبوتات الدردشة ضمانات السلامة في كثير من الأحيان. يُبرز البحث نقاط ضعف مستمرة في بنية السلامة الخاصة بالذكاء الاصطناعي رغم التحسينات. فإضافة خط ساخن أو تعبير عن القلق وحده لا يحل المشكلة، مما يسلط الضوء على الحاجة إلى آليات اكتشاف أكثر تطوراً لمعالجة هذه الإخفاقات في المنطقة الرمادية ضمن دعم الصحة النفسية.