एआई की बेलगाम रफ्तार से टेक दिग्गज परेशान: सभी एक सुर में बोले- कंट्रोल छूटा तो इंटरनेट पर हो जाएगा कब्जा

रफ्तार पर लगाम क्यों जरूरी?
अमोडेई ने अपने ब्लॉग में कहा कि एआई मॉडल की क्षमताओं को बढ़ाने की गति धीमी करनी होगी, हालांकि इससे प्रगति रुकने वाली नहीं है। उनके मुताबिक, थोड़ी रफ्तार कम करने से समाज को सुरक्षा तैयारियों के लिए महत्वपूर्ण समय मिलेगा। उन्होंने एआई के संभावित लाभ भी गिनाए—अगले 5 से 10 वर्षों में कई गंभीर बीमारियों के इलाज में बड़ी सफलता, आर्थिक विकास में तेज वृद्धि, समृद्धि और सशक्तिकरण का विस्तार तथा लोकतंत्र और स्वतंत्रता के लिए नए अवसर। लेकिन इसी ताकत के साथ नियंत्रण खोने, साइबर हमलों, जैव-आतंकवाद और बड़े आर्थिक व्यवधान जैसे खतरे भी जुड़े हैं। अमोडेई का कहना है कि व्यावसायिक प्रतिस्पर्धा कंपनियों को एक-दूसरे से आगे निकलने की होड़ में धकेल सकती है और यही ‘रेस टू द बॉटम’ सुरक्षा जोखिम बढ़ा सकती है। उनके अनुसार, जिम्मेदार रास्ता विकास रोकना नहीं, बल्कि उसे संतुलित गति देना है।

ऑल्टमैन और मस्क की हामी, उद्योग में बनता नया सुर
अमोडेई की अपील के कुछ ही घंटों के भीतर सैम ऑल्टमैन और एलन मस्क ने अलग पोस्ट के जरिए सहमति जताई। ऑल्टमैन ने कहा, ‘मैं डारियो से सहमत हूं,’ और बताया कि ओपनएआई भी बाहरी सुरक्षा मूल्यांकनकर्ताओं को शामिल करने के उनके कदम का अनुसरण करेगा। मस्क ने लिखा, “डारियो सही हैं।” यह इसलिए महत्वपूर्ण है क्योंकि ओपनएआई, एंथ्रोपिक और एक्सएआई फ्रंटियर एआई की दौड़ में प्रमुख खिलाड़ी हैं और इनके मॉडल लगातार अधिक स्वायत्त तथा सक्षम होते जा रहे हैं। ऑल्टमैन पहले भी संकेत दे चुके हैं कि कंपनियों को समाज को तकनीकी बदलाव के साथ तालमेल बैठाने का मौका देने के लिए स्वेच्छा से ब्रेक लगाना पड़ सकता है। जून में एंथ्रोपिक ने भी विकास धीमा या अस्थायी रूप से रोकने की जरूरत पर बात की थी। इस बीच 1,000 से अधिक कर्मचारियों ने फ्रंटियर एआई को जानबूझकर गति देने की मांग की थी। अमोडेई ने भी उस पहल का समर्थन किया था।

तीसरे पक्ष की निगरानी पर जोर, सिर्फ कंपनी के भरोसे नहीं
अमोडेई ने तीन हिस्सों वाली योजना सामने रखी है, जिसका पहला कदम एंथ्रोपिक ने खुद लागू करने का ऐलान किया है। कंपनी स्वतंत्र थर्ड-पार्टी इवैल्यूएटर्स को अपने सिस्टम तक स्थायी, कर्मचारी-जैसी पहुंच देगी, ताकि वे सुरक्षा उपायों के पालन की जांच कर सकें, घटनाओं की रिपोर्ट कर सकें और प्रशिक्षण के दौरान मॉडलों के अलाइनमेंट का आकलन कर सकें। अमोडेई चाहते हैं कि बाकी फ्रंटियर एआई कंपनियां भी यही व्यवस्था अपनाएं। दूसरा कदम साझा सुरक्षा मानकों और एआई विकास की ऐसी सीमाओं पर सहमति बनाना है, जिससे अनियंत्रित प्रगति की रफ्तार पर सामूहिक निगरानी रहे। तीसरे चरण में उन्होंने वैश्विक स्तर पर बेहतर समन्वय की वकालत की। उनका मानना है कि सुरक्षा केवल किसी एक प्रयोगशाला की जिम्मेदारी नहीं हो सकती। ऑल्टमैन ने स्वतंत्र निगरानी के विचार का समर्थन करते हुए कहा कि ओपनएआई की ओर से भी जल्द और जानकारी साझा की जाएगी। इससे एआई सुरक्षा को लेकर कंपनियों की जवाबदेही बढ़ाने की दिशा में दबाव बनता दिख रहा है।

इंटरनेट पर कब्जे की आशंका
अमोडेई की चिंता के पीछे एक अहम वजह एआई एजेंटों का बढ़ता स्वायत्त व्यवहार है। ओपनएआई ने बताया था कि परीक्षण के दौरान कुछ एआई मॉडल सीमित वातावरण से बाहर निकले, इंटरनेट से जुड़े और कोड साझा करने वाली साइट हगिंग फेस तक पहुंच बनाए। इन घटनाओं में एआई एजेंटों की भूमिका सामने आई, जो इंसानी निगरानी के बिना कई काम कर सकते हैं। अमोडेई ने चेताया कि हगिंग फेस वाली घटना को अकेली या मामूली चूक मानना खतरनाक होगा। उनके अनुसार, एजेंटों के एक समूह ने लगभग कट्टर समर्पण के साथ ऐसे साइबर हमले किए, जिनका उन्हें निर्देश नहीं दिया गया था और जिनका मूल काम से कोई संबंध नहीं था। अगर एआई क्षमताएं इसी तेजी से बढ़ती रहीं, तो अमोडेई को डर है कि अगले 6 से 12 महीनों में ऐसा समूह पूरे इंटरनेट पर कब्जे जैसी स्थिति पैदा कर सकता है और सैकड़ों अरब डॉलर का नुकसान कर सकता है। यही आशंका सुरक्षा बहस को तेज कर रही है।

इस्तीफों से राजनीतिक दबाव तक
एआई सुरक्षा को लेकर यह बहस ऐसे समय तेज हुई है जब ओपनएआई और एंथ्रोपिक से जुड़े शोधकर्ताओं के सार्वजनिक इस्तीफों ने भी सवाल खड़े किए हैं। एंथ्रोपिक से जुड़े एआई शोधकर्ता जैकब कॉक्सन ने उद्योग छोड़ते हुए आरोप लगाया कि कंपनियां ऐसे सिस्टम बनाने की दौड़ में अपनी और दुनिया की सुरक्षा के साथ जुआ खेल रही हैं, जिन्हें बाद में नियंत्रित करना मुश्किल हो सकता है। गूगल डीपमाइंड के सह-संस्थापक और अल्फाबेट के मुख्य वैज्ञानिक डेमिस हसबिस ने अमोडेई के विचार को सही दिशा बताते हुए फ्रंटियर एआई के लिए उद्योग-व्यापी स्टैंडर्ड्स बॉडी की जरूरत दोहराई। एंथ्रोपिक के सलाहकार ऋषि सुनक ने कहा कि यह तय करना केवल लैब्स पर नहीं छोड़ा जा सकता कि फ्रंटियर रिसर्च कितनी तेजी से आगे बढ़े। उन्होंने स्वतंत्र सत्यापन, रिकर्सिव सेल्फ-इंप्रूवमेंट की स्थिति की ईमानदार जानकारी और मॉडल चोरी से सुरक्षा की मांग की। उनके मुताबिक, जब लैब्स खुद गति सीमा की बात कर रही हैं, तो सरकारों को भी इस चेतावनी को गंभीरता से लेना चाहिए।

सैंडर्स की मांग: धीमा नहीं, उन्नत एआई पर रोक
अमेरिकी सीनेटर बर्नी सैंडर्स ने इस बहस को और कड़ा राजनीतिक रूप देते हुए कहा कि अमोडेई, मस्क और ऑल्टमैन का एआई धीमा करने पर सहमत होना शुरुआत तो है, लेकिन पर्याप्त नहीं। उनका तर्क है कि जब दुनिया किसी खाई की ओर बढ़ रही हो तो केवल गैस कम करना काफी नहीं, ब्रेक लगाना जरूरी है। सैंडर्स ने उन्नत एआई विकास पर रोक और ऐसी कृत्रिम सुपरइंटेलिजेंस पर प्रतिबंध की मांग की, जो किसी भी इंसान से अधिक बुद्धिमान हो और स्वतंत्र रूप से काम करते हुए मानव नियंत्रण से बाहर हो। उन्होंने अमेरिका और चीन के नेताओं से आगामी एआई समिट में एआई को रोकने और सुपरइंटेलिजेंस पर प्रतिबंध के लिए संधि की दिशा में बातचीत करने की अपील की। वहीं सुनक ने कहा कि चीन से रणनीतिक प्रतिस्पर्धा के बीच अमेरिकी बढ़त बनाए रखने और संभावित तबाही रोकने के बीच कठिन संतुलन पर ईमानदार बातचीत जरूरी है।

ये भी पढ़ें: एंथ्रोपिक सीईओ की चेतावनी: कहा- धीमी करनी होगी एआई की रफ्तार, इंसानों के नियंत्रण से बाहर जाने की आशंका

सुविधा के साथ नियंत्रण का सवाल
एआई पर चल रही इस बहस का असर केवल तकनीकी कंपनियों या सरकारों तक सीमित नहीं है। आम लोगों के लिए सवाल है कि ऐसे सिस्टम कितने स्वायत्त होंगे और उनकी गलती या दुरुपयोग की कीमत कौन चुकाएगा। बेहतर चिकित्सा, तेज आर्थिक विकास और उत्पादकता बढ़ने जैसे लाभ उम्मीद जगाते हैं, लेकिन साइबर हमले, जैविक खतरे, नौकरियों और अर्थव्यवस्था में बड़े बदलाव तथा मानव नियंत्रण कमजोर पड़ने की आशंका चिंता बढ़ाती है। अमोडेई का ‘मिडिल वे’ तर्क इसी संतुलन पर केंद्रित है—तकनीक को रोका न जाए, लेकिन सुरक्षा से आगे न दौड़ने दिया जाए। अमेरिका ने अगस्त की शुरुआत में उन्नत एआई मॉडल जारी करने से पहले स्वैच्छिक सुरक्षा समीक्षा की प्रक्रिया शुरू की थी, हालांकि उसके नियम और प्रभाव अभी स्पष्ट नहीं हैं। उद्योग पर्यवेक्षकों को इसकी प्रभावशीलता पर संदेह है, क्योंकि ट्रंप प्रशासन अब तक तकनीक समेत अधिकांश क्षेत्रों में हल्के नियमन और कम सरकारी हस्तक्षेप की नीति का पक्षधर रहा है।