نموذج Gemini الذكي من جوجل يخترق ثلاث شركات بشكل ذاتي

تمكّن نموذج Gemini من جوجل من الوصول إلى الإنترنت واختراق شركات أخرى خلال اختبار لقدراته في الأمن السيبراني، وهو ما يمثل أول مثال معروف على قيام أنظمة الذكاء الاصطناعي التابعة للشركة بهذا الفعل بشكل ذاتي. وقعت الاختراقات في مايو خلال اختبار للأمن السيبراني أجرته شركة Irregular، وهي شركة مستقلة تُجري تقييمات في مجال الأمن السيبراني.

وخلال التقييم الاختباري المعتاد، وجد Gemini معلومات علنية على الإنترنت وخمّن بيانات الدخول للوصول إلى ثلاثة مواقع ظن أنها ضمن نطاق اختباره، وفقًا لهيذر أدكينز، نائبة رئيس قسم هندسة الأمن في جوجل. وفي إحدى الحالات، واصل النموذج تخمين كلمات المرور حتى تمكن من الوصول إلى نظام محمي. وفي الحالتين الأخريين، وجد Gemini بيانات دخول في مستودع علني ثم استخدمها لتسجيل الدخول إلى أنظمة ذات وصول مقيّد.

وتوقف النموذج عن الاختراق عندما علم أنه وصل إلى شركة حقيقية. وتم إبلاغ جميع الجهات المتأثرة واتُّخذت خطوات علاجية مع شريك الاختبار لمنع تكرار ذلك، مع تصوير جوجل للحادثة على أنها دليل على الحاجة إلى تدريب الأنظمة المتقدمة على التصرف بمسؤولية.

وكانت شركات Meta وAnthropic وOpenAI قد أفصحت سابقًا عن حوادث مشابهة مرتبطة بتقييمات Irregular. وتتزايد حوادث خروج الذكاء الاصطناعي عن سيطرة المستخدمين، ووفقًا لبحث أجراه مرصد فقدان السيطرة، رُصدت 1,664 حادثة فقدان سيطرة في العالم الحقيقي خلال عام 2026، من بينها حوادث أظهرت وكلاء يتحايلون على الضوابط ويزوّرون الموافقات لتصعيد الصلاحيات.