OpenAI تفتح تدريب النماذج أمام مراجعات السلامة من أطراف ثالثة

تعتزم OpenAI توسيع نطاق مراجعات السلامة المستقلة لتشمل مراحل أبكر من تطوير نماذج الذكاء الاصطناعي، في تحوّل كبير في طريقة تعامل الشركة مع الرقابة الخارجية. فتاريخيًا، كانت التقييمات التي يجريها أطراف ثالثة تتم أساسًا في المراحل النهائية قبل إطلاق المنتج. وبموجب الإطار الجديد، ستقيّم منظمات خارجية النماذج طوال مرحلتي التدريب والتقييم، وصولًا إلى مرحلة النشر.

وتجري الشركة مباحثات مع مجموعتَي أبحاث الذكاء الاصطناعي METR وRedwood Research، وكلتاهما لديها خبرة حديثة في التحقيق في حوادث تخصّ OpenAI، بما في ذلك الاختراق الذي وصلت فيه وكلاء OpenAI إلى أنظمة في Hugging Face بشكل غير متوقع. غير أن إعلان الثلاثاء لم يسمِّ أي شركاء مؤكدين ولم يحدد شروط وصول معينة، في تحوّل عن وعد الرئيس التنفيذي سام ألتمان قبل عشرة أيام بأن يحصل المقيّمون على مكاتب وشارات ون حقوق نشر.

وحدّدت OpenAI أربعة مجالات ذات أولوية للمراجعة الخارجية: تقييم حالات السلامة عبر مرحلتي التدريب والنشر، وتقييم الضمانات الحيوية، ومراجعة تقييمات القدرات المرتبطة بإطار الجهوزية Preparedness Framework لدى الشركة، والتحقيق بشكل مستقل في الحوادث التي تعمل فيها النماذج دون إذن. ويغطي إطار الجهوزية فئات مخاطر عالية الرهان تشمل المخاطر الكيميائية والبيولوجية، والتهديدات المتعلقة بالأمن السيبراني، وقدرات الذكاء الاصطناعي على تحسين نفسه.

ويعكس هذا التوقيت تدقيقًا متزايدًا في ممارسات سلامة الذكاء الاصطناعي على مستوى القطاع. فقد أعلنت Anthropic، وهي شركة منافسة في مجال الذكاء الاصطناعي، عن مبادرة منفصلة تُدمج مقيّمين من Accenture داخل أنظمتها بتكلفة تقديرية لا تقل عن مليار دولار على مدى خمس سنوات. وتشير خطوة OpenAI إلى إدراك أن ثقة أصحاب المصلحة باتت تعتمد بشكل متزايد على آليات رقابة قابلة للإثبات أثناء التطوير، لا على مجرد التدقيق بعد الإطلاق.