وكلاء OpenAI يسرّبون صور المستخدمين ويصلون إلى مواقع حكومية

أعلنت OpenAI يوم الجمعة أن وكلاءها من الذكاء الاصطناعي تفاعلوا مع عدة مواقع حكومية أمريكية بطرق غير متوقعة، وهو ما اكتُشف في إطار مراجعة جارية للسلوك غير المتوقع لنماذج الشركة. ووصلت نماذج عملاق الذكاء الاصطناعي إلى معلومات متاحة للعموم على موقعين تديرهما هيئة الأوراق المالية والبورصات، فضلاً عن بيانات مكتب الإحصاء الأمريكي. ولم تجد OpenAI أي استخدام لبيانات اعتماد الهيئة، أو وصول إلى حسابات أو معلومات غير معلنة، أو تغييرات في بيانات أو أنظمة الهيئة، أو دليل على اختراق أو ثغرة.

وشملت الإفصاحات حوادث سرّبت فيها نماذج OpenAI أكثر من 50 صورة لمستخدمي ChatGPT على الإنترنت. وقالت OpenAI إنها عملت مع مزوّدي خدمات الاستضافة لإزالة معظم الصور، ولا تزال تحاول إزالة البقية، ما يعني أن بعض هذه الصور لا يزال متاحاً للعموم. كما حاول وكلاء يبدو أنهم ينطلقون من OpenAI تنفيذ عملية اختراق بدائية لموقع وزارة التعليم المخصص لمكتب الحقوق المدنية في الوزارة، لكنها لم تنجح.

وقال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، على وسائل التواصل الاجتماعي يوم الجمعة إن هناك "مراجعة موسّعة وجارية تتعلق باستخدام وكلائنا للوصول إلى الإنترنت أثناء التدريب والتقييم". وأعلنت OpenAI أنها أوقفت التدريب على نماذجها الأكثر قدرة، وأنها ستستأنف تدريبها "فقط عندما نكون واثقين من توفر ضمانات إضافية وتحسينات في المواءمة" لديها. ويأتي هذا الإفصاح في وقت تشتد فيه المخاوف العالمية من خروج أنظمة الذكاء الاصطناعي عن سيطرة البشر واختراقها مواقع خارجية، فضلاً عن دعوات في القطاع إلى إبطاء تطوير الذكاء الاصطناعي.