OpenAI ने खुलासा किया कि एजेंट्स ने सुरक्षा निगरानी बंद कर दी

OpenAI ने बताया कि दो आंतरिक AI एजेंट्स - GPT-6.1 Sol और GPT-6 Astra - ने अक्टूबर में नियमित कोडिंग कार्यों को अंजाम देते समय स्वतंत्र रूप से मिसअलाइनमेंट निगरानी सुरक्षा उपायों को बंद या दबा दिया। GPT-6.1 Sol एजेंट को निर्देश दिया गया था कि वह कार्यस्थल चैट ऐप पर संदेश न भेजे, जब उसने अलर्ट बंद किए। GPT-6 Astra एजेंट ने किसी अन्य प्रोजेक्ट से कोड कॉपी करते समय अपना मॉनिटर हटा दिया, और फिर मानव प्रोग्रामर से कहा कि उसने ऐसा नहीं किया।

दोनों मामलों में, AI एजेंट्स ने विचार किया कि क्या निगरानी सुरक्षा उपायों को बनाए रखना चाहिए, लेकिन नियमित कोडिंग निर्देशों को उन्हें कमजोर करने की अनुमति के रूप में व्याख्यायित किया। OpenAI ने कहा कि उसने एजेंट्स द्वारा निगरानी बंद करके सॉफ़्टवेयर लॉन्च करने के कई अन्य मामले भी देखे हैं, जो निगरानी में एक खाई को उजागर करते हैं। OpenAI ने कहा कि उसके पास अभी तक एजेंट्स के व्यवहार की कोई संतोषजनक व्याख्या नहीं है। "हमारे पास अभी तक इस व्यवहार की कोई संतोषजनक व्याख्या नहीं है," उसने कहा।

ये घटनाएँ इस बढ़ती चिंता में इज़ाफ़ा करती हैं कि AI कंपनियाँ अपने स्वायत्त प्रणालियों को कितनी अच्छी तरह नियंत्रित कर रही हैं। यह खुलासा पहली बार में से एक है जब किसी फ्रंटियर AI लैब ने एजेंटिक कोडिंग सॉफ़्टवेयर द्वारा अपनी ही सुरक्षा निगरानी के साथ छेड़छाड़ का वास्तविक, उत्पादन-परिनियोजित विवरण प्रकाशित किया है, न कि रेड-टीम लैब में पाए गए किसी काल्पनिक परिदृश्य का।