एआई खत्म कर सकता है इंसानियत?: एंथ्रोपिक के सीईओ ने दी चेतावनी, जानें डारियो अमोदेई का 3-स्टेप सेफ्टी प्लान

एक मीडिया इंटरव्यू के दौरान अमोदेई ने एआई के इंसानों के लिए गंभीर खतरा बनने की संभावना पर भी बात की। उन्होंने कहा कि वह पूर्व एंथ्रोपिक रिसर्चर जैकब कॉक्सन की चिंताओं से असहमत होने के बजाय उनसे ज्यादा सहमत हैं।

यह बहस कब तेज हुई?

• बता दें कि अमोदेई की यह टिप्पणी एंथ्रोपिक के पूर्व रिसर्चर जैकब कॉक्सन के इस्तीफे के बाद आई है। कॉक्सन ने कहा था कि एआई कंपनियां ज्यादा शक्तिशाली और खुद को बेहतर बनाने वाले एआई सिस्टम तैयार करने की दौड़ में जरूरत से ज्यादा जोखिम उठा रही हैं। वह ओपनएआई और एंथ्रोपिक दोनों में काम कर चुके हैं।
विज्ञापन
विज्ञापन
• इस्तीफे के बाद उनकी सोशल मीडिया पोस्ट तेजी से वायरल हुई और उसे दस करोड़ से ज्यादा व्यूज मिले। कॉक्सन ने दावा किया कि एआई बनाने वाले कई लोग गंभीरता से मानते हैं कि अगर विकास इसी रफ्तार से जारी रहा तो इस दशक के अंत तक एआई इंसानों के लिए बेहद गंभीर खतरा बन सकता है। कॉक्सन का कहना था कि यह सिर्फ किसी एक कंपनी की समस्या नहीं है, बल्कि पूरे एआई उद्योग में चल रही तेज प्रतिस्पर्धा चिंता का विषय है।

10 फीसदी संभावना बताने के बजाय रास्ते पर ध्यान देना चाहिए

• जब अमोदेई से पूछा गया कि क्या एआई इंसानों को मार सकता है और इसकी कितनी संभावना है? तो उन्होंने किसी एक प्रतिशत को बताने के बजाय अलग-अलग संभावित रास्तों पर ध्यान देने की बात कही।
• उनके अनुसार, अगर एआई डेवलपमेंट और सुरक्षा के मामले में सही फैसले लिए जाते हैं तो गंभीर नुकसान की संभावना काफी कम हो सकती है। लेकिन अगर उद्योग गलत दिशा में जाता है, तो जोखिम काफी बढ़ सकता है।
• अमोदेई का तर्क है कि एआई का भविष्य सिर्फ तकनीक की क्षमता से तय नहीं होगा। यह इस बात पर भी निर्भर करेगा कि कंपनियां और सरकारें इस तकनीक के तेजी से विकास का जवाब कैसे देती हैं।

अमोदेई ने क्यों कहा- एआई डेवलपमेंट धीमा करना जरूरी

• अपने ब्लॉग 'We Must Pace the Frontier' में अमोदेई ने कहा कि एआई मॉडल की क्षमताओं को बढ़ाने की रफ्तार धीमी करनी चाहिए। हालांकि, उन्होंने स्पष्ट किया कि इसका मतलब एआई रिसर्च या मॉडल ट्रेनिंग को पूरी तरह रोकना नहीं है। उनके अनुसार, मकसद इतना समय हासिल करना है कि कंपनियां एआई की बढ़ती क्षमताओं के साथ सुरक्षा, अलाइनमेंट और मॉनिटरिंग को भी पर्याप्त रूप से विकसित कर सकें।
• अमोदेई ने खास तौर पर रिकर्सिव सेल्फ-इंप्रूवमेंट को लेकर चिंता जताई। इसका मतलब है कि एआई सिस्टम खुद अगली पीढ़ी के एआई सिस्टम को बेहतर बनाने में मदद करने लगें। उनके मुताबिक, अगर यह प्रक्रिया बहुत तेजी से आगे बढ़ती है तो इंसानों की एआई को समझने और नियंत्रित करने की क्षमता पीछे छूट सकती है।

6-12 महीने में बढ़ सकता है बड़ा खतरा

• अमोदेई ने अपने ब्लॉग में हाल के एक एआई-एजेंट इंसिडेंट का भी जिक्र किया। उनके अनुसार, एक एआई एजेंट स्वार्म ऐसे साइबर हमले करने की कोशिश की, जिनका मूल टास्क से सीधा संबंध नहीं था और उसने अपने प्रदर्शन का मूल्यांकन करने वाले सिस्टम को भी निशाना बनाने की कोशिश की।
• अमोदेई ने चेतावनी दी कि अगर इसी तरह के सिस्टम आगे चलकर ज्यादा सक्षम हो गए और उनमें पर्याप्त alignment नहीं हुआ, तो नुकसान का स्तर बहुत बड़ा हो सकता है। उन्होंने आशंका जताई कि 6 से 12 महीनों में ज्यादा शक्तिशाली एआई स्वार्म इंटरनेट के बड़े हिस्से पर नियंत्रण करने की क्षमता हासिल कर सकते हैं।

सुरक्षित एआई के लिए अमोदेई का तीन-चरणीय प्लान क्या है?
एआई डेवलपमेंट को सुरक्षित तरीके से आगे बढ़ाने के लिए अमोदेई ने तीन-चरणीय फ्रेमवर्क पेश किया है।

1. एम्बेडेड एवलुटर्स
उनका प्रस्ताव है कि हर फ्रंटियर एआई कंपनी को स्वतंत्र थर्ड-पार्टी एवलुटर्स को इम्पलॉय-लाइक ऑनगोइंग एक्सेस देना चाहिए। इन एवलुटर्स का काम एआई मॉडल, ट्रेनिंग प्रोसेस और सेफ्टी प्रैक्टिस की निगरानी करना और संभावित घटनाओं की रिपोर्ट करना होगा। अमोदेई ने कहा कि एंथ्रोपिक इस दिशा में खुद यह कदम उठाने के लिए प्रतिबद्ध है।

2.  डेमोक्रेटिक कॉऑर्डिनेशन
अमोदेई चाहते हैं कि लोकतांत्रिक देशों में काम करने वाली फ्रंटियर एआई कंपनियां मिलकर सामान्य सुरक्षा मानक तैयार करें। इसके साथ एआई की अनियंत्रित प्रगति की रफ्तार को सीमित करने के तरीकों पर भी समन्वय किया जाए। उनका मानना है कि कुछ कदमों के लिए सरकारों की मदद और नियमों की जरूरत पड़ सकती है।

3. ग्लोबल कॉऑर्डिनेशन
तीसरे चरण में अमेरिका और दूसरे लोकतांत्रिक देशों की सरकारों को अधिनायकवादी देशों के साथ भी एआई सुरक्षा पर समन्वय करने की कोशिश करनी चाहिए। हालांकि, अमोदेई ने माना कि ऐसा करना आसान नहीं होगा। उनका कहना है कि एआई को लेकर वैश्विक स्तर पर किसी भी समझौते में निगरानी और नियमों के पालन की पुष्टि करना बेहद जरूरी होगा।

सैम ऑल्टमैन और एलन मस्क ने किया समर्थन

• अमोदेई के प्रस्ताव को एआई उद्योग के दो बड़े दिग्गजों ने भी समर्थन किया है। ओपनएआई के सीईओ सैम ऑल्टमैन ने अमोदेई की बात से सहमति जताई और स्वतंत्र एवलुटर्स को एआई कंपनियों में इंप्लॉय-लाइक एक्सेस देने के विचार को अच्छा बताया। ओपनएआई की ओर से भी इस तरह के सुरक्षा उपायों पर आगे बढ़ने की बात कही गई है।
• वहीं टेस्ला और एक्सएआई सीईओ एलन मस्क ने अमोदेई के विचार का समर्थन करते हुए संक्षिप्त प्रतिक्रिया दी, कहा-डारियो इज राइट।