एंथ्रोपिक के सीईओ ने एआई उद्योग को धीमा करने का आह्वान किया

<cite index="20-1,20-3">एंथ्रोपिक के सीईओ डारियो अमोदेई ने कहा कि कृत्रिम बुद्धिमत्ता उद्योग को नए मॉडलों के विकास की गति धीमी करने की जरूरत है, और उन्होंने मनुष्यों के लिए "गंभीर" जोखिमों को लेकर बढ़ती चिंताओं का हवाला दिया। "हमें वह गति धीमी करनी चाहिए जिससे हम एआई मॉडलों की क्षमताओं को बेहतर बनाते हैं," उन्होंने शनिवार को एक ब्लॉग पोस्ट में लिखा।</cite> <cite index="19-3">अमोदेई की यह टिप्पणी ऐसे कुछ दिनों बाद आई जब एआई शोधकर्ता जैकब कॉक्सन, जिन्होंने ओपनएआई छोड़कर एंथ्रोपिक जॉइन किया था, ने उद्योग छोड़ने का फैसला किया और दोनों अमेरिकी कंपनियों पर आरोप लगाया कि वे स्वयं को बेहतर बनाने में सक्षम मॉडल विकसित करने की दौड़ में "हमारी जिंदगियों के साथ जुआ खेल रही हैं"।</cite> <cite index="22-5">इस सप्ताह वह क्षण आया जब एआई सुरक्षा पर बहस सार्वजनिक चेतना में प्रवेश कर गई, जिसकी वजह एंथ्रोपिक के कर्मचारी जैकब कॉक्सन का बहुत ही सार्वजनिक इस्तीफा और संभावित विनाश की उनकी चेतावनी थी।</cite> <cite index="21-5,21-8">ओपनएआई के प्रमुख सैम ऑल्टमैन और xAI के मालिक एलन मस्क ने तुरंत कहा कि वे अमोदेई के आकलन से सहमत हैं, क्योंकि बेहतर निगरानी के लिए दबाव बढ़ रहा है।</cite> <cite index="22-10">ऑल्टमैन ने पोस्ट किया कि "मैं डारियो से सहमत हूं कि हमें सीमांत को गति देनी होगी," और कहा कि उनकी कंपनी बाहरी मूल्यांकनकर्ताओं को भी पहुंच देगी।</cite> <cite index="24-1">अपने निबंध में अमोदेई ने कहा कि एंथ्रोपिक तीसरे पक्ष के मूल्यांकनकर्ताओं की एक समर्पित टीम तैनात करने के लिए प्रतिबद्ध है, ताकि "सुरक्षा प्रथाओं और प्रतिबद्धताओं के पालन की पुष्टि की जा सके, घटनाओं की रिपोर्ट की जा सके, और न केवल पूर्ण एआई मॉडलों बल्कि प्रशिक्षण पाइपलाइनों और प्रक्रियाओं के संरेखण का आकलन करने में मदद की जा सके।"</cite> <cite index="24-3">अमोदेई ने यह भी आह्वान किया कि लोकतांत्रिक देशों की एआई कंपनियां साझा सुरक्षा मानक स्थापित करने और "अनियंत्रित एआई प्रगति की दर" पर सीमाएं तय करने के लिए समन्वय करें।</cite>