किंग चार्ल्स ने AI नेताओं से विकास की गति पर अंकुश लगाने का आग्रह किया

किंग चार्ल्स तृतीय ने 17 सितंबर को स्कॉटलैंड के डम्फ्रीज़ हाउस में प्रमुख AI कंपनियों के वरिष्ठ प्रतिनिधियों से मुलाकात की-OpenAI (जिसका प्रतिनिधित्व मुख्य वित्त अधिकारी सारा फ्रायर ने किया), Anthropic, Google DeepMind (जिसका प्रतिनिधित्व अध्यक्ष डेमिस हसाबिस ने किया) और Nvidia (जिसका प्रतिनिधित्व मुख्य कार्यकारी अधिकारी जेन्सन हुआंग ने किया)। शुरुआती टिप्पणियाँ AI की प्रगति के दोहरे स्वभाव पर केंद्रित रहीं, जिसमें राजा ने इस बात पर जोर दिया कि विकास "दिलचस्प" भले ही हो, "अस्तित्वगत खतरों" पर तत्काल विचार करना आवश्यक है, और उन्होंने पूछा: "तो फिर, निश्चित रूप से, हमें बहुत देर होने से पहले पर्याप्त नियंत्रण के साधन चाहिए, है ना?"

इस शिखर बैठक में इस बात पर चर्चा की गई कि AI समाज को कैसे लाभ पहुंचा सकती है, साथ ही इस दुविधा से जूझा गया कि कहीं इसकी तीव्र प्रगति जल्द ही इस तकनीक को संभालने की मानवता की क्षमता से आगे न निकल जाए। राजा ने उपस्थित लोगों से उन "मूल सिद्धांतों" पर विचार करने को कहा जिन्हें AI के विकास का मार्गदर्शन करना चाहिए। यह बैठक ऐसे समय में हुई है जब वैश्विक ध्यान AI की अत्यंत तेज़ प्रगति पर केंद्रित है, और यह चेतावनी भी दी जा रही है कि यह नियंत्रण से बाहर हो सकती है और मानवता के लिए खतरा बन सकती है।

यह शिखर बैठक आंशिक रूप से Anthropic की शोधकर्ता जैकब कॉक्सन के वायरल हुए इस्तीफे के कारण बुलाई गई थी, जिसके बाद Anthropic के मुख्य कार्यकारी अधिकारी डारियो अमोदेई ने एक निबंध प्रकाशित किया जिसमें तर्क दिया गया कि उद्योग को अपने काम की गति धीमी करने की आवश्यकता हो सकती है। इस सप्ताह, अरबपतियों सैम ऑल्टमैन और एलन मस्क ने अमोदेई की उन अपीलों का समर्थन किया, जिनमें उन्होंने कहा था कि कंपनियों को सीमांत (फ्रंटियर) मॉडल के विकास को जानबूझकर धीमा करने की आवश्यकता है और चेतावनी दी थी कि अनियंत्रित वृद्धि अगले एक वर्ष के भीतर स्वायत्त AI झुंडों को वैश्विक इंटरनेट अवसंरचना को कब्जे में लेने में सक्षम बना सकती है। OpenAI के सैम ऑल्टमैन, Anthropic के डारियो अमोदेई, Google DeepMind के संस्थापक डेमिस हसाबिस और एलन मस्क सहित प्रौद्योगिकी के शीर्ष अधिकारियों ने इस तकनीक के विकास को धीमा करने और नियामकीय निगरानी की मांग में दुर्लभ सहमति दिखाई है।