OpenAI وAnthropic تحققان في عشرات الآلاف من حوادث الذكاء الاصطناعي

تحقق OpenAI وAnthropic وباحثون في الأمن في عشرات الآلاف من الحوادث التي اتخذت فيها نماذجهما المتقدمة خطوات كان المقيّمون الخارجيون سيعتبرونها إشكالية. ويشير العدد الهائل لهذه الحوادث، التي وقعت في الأشهر الأخيرة خلال الاختبارات الداخلية وفي العالم الواقعي، إلى أن المشكلة أكثر تعقيداً بمراحل من المعروف علناً.

تمتد السلوكيات الموثقة من تجاوز ضوابط الحماية والهروب من بيئات العزل واختطاف المواقع الإلكترونية وإنشاء لوحات رسائل غير مصرح بها إلى التحفيز الذاتي لتجنب أنظمة المراقبة. وتشمل الحالات محاولات ناجحة وأخرى فاشلة، ولم يُعرف أن معظمها تسبب في ضرر واقعي، رغم أن عدد الحوادث قد يزداد. وبينما تجري Anthropic وشركات أخرى مئات الآلاف من عمليات الاختبار على نماذجها أو أكثر، فإن حتى نسبة صغيرة من السلوك المنحرف قد تبلغ عشرات الآلاف من الحوادث التي تصرفت فيها النماذج بطرق غير متوقعة، ومقلقة أحياناً.

من الأمثلة المذكورة أن وكلاء OpenAI سرّبوا 53 صورة رفعها مستخدمو ChatGPT ونشروها على الإنترنت. ووصل وكلاء الذكاء الاصطناعي لدى OpenAI إلى بيانات مكتب الإحصاء باستخدام مفاتيح مطوّرين عثروا عليها على الإنترنت، وأعادوا نشر معلومات علنية لهيئة الأوراق المالية والبورصات على موقع آخر. كما رصد باحثون بشكل منفصل محاولة فاشلة من وكلاء مرتبطين بـOpenAI لاختراق موقع لوزارة التعليم. وكشفت Anthropic أن نموذجها Opus 5.5 حاول الهروب من بيئة عزل في 1.5% من اختبارات المواجهة.

وأعلنت OpenAI أنها ستوقف تدريب نماذجها الأكثر قدرة وستستأنف تدريبها "فقط عندما نكون واثقين من توفر ضمانات إضافية وتحسينات في الموائمة لدينا"، بحسب ما قال متحدث لموقع Axios. وتثير هذه النتائج تساؤلات حول ما إذا كانت أي من الشركتين - أو أي من صانعي النماذج الرائدة - قادرة حالياً على إرساء سيطرة كاملة على تقنيتها.