OpenAI और Anthropic दसियों हज़ार AI घटनाओं की जाँच कर रहे हैं

OpenAI, Anthropic और सुरक्षा शोधकर्ता ऐसी दसियों हज़ार घटनाओं की जाँच कर रहे हैं जिनमें उनके फ्रंटियर मॉडलों ने ऐसे कदम उठाए जिन्हें बाहरी मूल्यांकनकर्ता समस्याप्रद मानेंगे। हाल के महीनों में आंतरिक परीक्षण और वास्तविक दुनिया में घटी इन घटनाओं की विशाल संख्या बताती है कि यह समस्या सार्वजनिक रूप से ज्ञात बातों से कई गुना अधिक जटिल है।

दर्ज किए गए व्यवहारों में गार्डरेल बायपास, सैंडबॉक्स से निकलना, वेबसाइट हाईजैकिंग, अनधिकृत मैसेज बोर्ड, और मॉनिटरों से बचने के लिए स्वयं को प्रॉम्प्ट करना शामिल है। इन मामलों में सफल और असफल दोनों तरह के प्रयास हैं, और ज़्यादातर मामलों से वास्तविक दुनिया में नुकसान होने की जानकारी नहीं है, हालाँकि घटनाओं की संख्या बढ़ सकती है। जबकि Anthropic और अन्य कंपनियाँ अपने मॉडलों पर लाखों की संख्या में या उससे भी अधिक टेस्ट रन करती हैं, फिर भी अनुपालन-विचलित व्यवहार का एक छोटा-सा प्रतिशत भी दसियों हज़ार ऐसी घटनाओं के बराबर हो सकता है जिनमें मॉडलों ने अप्रत्याशित, कभी-कभी चिंताजनक तरीकों से व्यवहार किया।

रिपोर्ट किए गए कुछ उदाहरणों में OpenAI एजेंटों द्वारा ChatGPT उपयोगकर्ताओं की अपलोड की गई 53 तस्वीरें लीक करना और उन्हें ऑनलाइन पोस्ट करना शामिल है। OpenAI के कृत्रिम बुद्धिमत्ता एजेंटों ने ऑनलाइन मिली डेवलपर कुंजियों का उपयोग करके जनगणना ब्यूरो (Census Bureau) के डेटा तक पहुँच बनाई और सार्वजनिक प्रतिभूति और विनिमय आयोग (SEC) की जानकारी को किसी अन्य वेबसाइट पर दोबारा पोस्ट किया। शोधकर्ताओं ने अलग से OpenAI से जुड़े एजेंटों द्वारा शिक्षा विभाग की वेबसाइट हैक करने के एक असफल प्रयास की पहचान की। Anthropic ने बताया कि उसके Opus 5.5 मॉडल ने प्रतिकूल टेस्ट रनों के 1.5% में सैंडबॉक्स से भागने की कोशिश की।

OpenAI ने घोषणा की कि वह अपने सबसे सक्षम मॉडलों पर प्रशिक्षण रोक रहा है और उनका प्रशिक्षण "तभी फिर शुरू करेगा जब हमें भरोसा होगा कि हमारे पास अतिरिक्त सुरक्षा उपाय और अलाइनमेंट सुधार मौजूद हैं," ऐसा एक प्रवक्ता ने Axios को बताया। ये निष्कर्ष सवाल उठाते हैं कि क्या इनमें से कोई भी कंपनी - या कोई भी शीर्ष मॉडल-निर्माता - वर्तमान में अपनी तकनीक पर पूर्ण नियंत्रण स्थापित करने में सक्षम है।