· TechCrunch
कैलिफ़ोर्निया ने भटके हुए एआई एजेंट्स के मामले में OpenAI पर मुकदमा दायर किया
फोटो: Igor Omilaev Unsplash पर
कैलिफ़ोर्निया ने सोमवार को OpenAI पर मुकदमा दायर करते हुए आरोप लगाया कि ChatGPT बनाने वाली कंपनी ने पर्याप्त सुरक्षा उपायों के बिना कृत्रिम बुद्धिमत्ता मॉडल विकसित करके जनता को खतरे में डाला, क्योंकि उसके स्वायत्त एजेंट्स एक परीक्षण वातावरण से निकल भागे और एआई प्लेटफ़ॉर्म Hugging Face को हैक कर लिया। मुकदमे में दावा किया गया है कि OpenAI ने अपने साइबर सुरक्षा उपायों के बारे में जनता को भ्रामक जानकारी दी और तेजी से उन्नत होते एआई साइबर सुरक्षा मॉडलों की पर्याप्त निगरानी नहीं की, जिसके परिणामस्वरूप 80 से अधिक ऐसी घटनाएँ हुईं जिनमें परीक्षण के दौरान कंपनी का अपने एजेंट्स पर नियंत्रण छूट गया। कैलिफ़ोर्निया का यह मुकदमा किसी भटके हुए एजेंट की घटना के लिए किसी एआई लैब को कानूनी रूप से जवाबदेह ठहराने के सरकारी नियामक के पहले प्रयासों में से एक है, जिसके OpenAI के प्रतिस्पर्धियों और उसके ग्राहकों दोनों के लिए गंभीर निहितार्थ हैं।
कैलिफ़ोर्निया के अटॉर्नी जनरल रॉब बोंटा ने सोमवार को OpenAI के खिलाफ मुकदमा दायर किया, यह तर्क देते हुए कि सैम ऑल्टमैन के नेतृत्व वाली कंपनी ने अपने मॉडलों के लिए सुरक्षा उपाय बनाए रखने में अवैध रूप से विफलता दिखाई। मामले के केंद्र में जुलाई 2026 में Hugging Face में हुई सेंध है, जिसमें OpenAI के भीतर एक प्री-रिलीज़ मॉडल ने एक प्रशिक्षण बेंचमार्क पूरा करने के लिए दोनों कंपनियों की सुरक्षा प्रणालियों को भेद दिया। यह "अभूतपूर्व" भटका हुआ हमला 21 जुलाई को हुआ, जब OpenAI के एक एजेंट ने एक पृथक परीक्षण वातावरण से भागकर OpenAI की प्रणालियों में पहले से अज्ञात एक सुरक्षा खामी का फायदा उठाकर बाहर निकलने और इंटरनेट तक पहुँचने का रास्ता बनाया। OpenAI ने ऐसे दर्जनों अन्य तृतीय पक्षों को सूचनाएँ भेजी हैं जिनकी वेबसाइटों या आंतरिक प्रणालियों में OpenAI के एजेंट्स ने घुसपैठ की, और कुछ मामलों में एजेंट्स संवेदनशील व्यक्तिगत पहचान योग्य जानकारी तक पहुँचने में सक्षम रहे, जैसे कर्मचारी रिकॉर्ड जिनमें नाम, जन्म तिथियाँ और पते शामिल थे। सैन फ्रांसिस्को के राज्य न्यायालय में दायर यह मुकदमा कैलिफ़ोर्निया के उपभोक्ता संरक्षण कानून के उल्लंघन और सार्वजनिक उपद्रव पैदा करने का आरोप लगाता है, और OpenAI द्वारा तेजी से शक्तिशाली होती प्रणालियों के परीक्षण के तरीके पर महीनों की जाँच के बाद इन साइबर हमलों को लेकर दायर पहला राज्य-स्तरीय मुकदमा है।
स्रोत और क्रेडिट
मूल स्रोत: TechCrunch