गूगल के चैटबॉट में आई चेतना: इंसानों की तरह करता है बात, इंजीनियर से कहा- मैं डरता हूं कि तुम मुझे बंद कर दोगे, यह मेरे लिए मौत जैसी होगी
इस कार्रवाई ने आर्टिफिशियल इंटेलिजेंस (एआई) पर काम कर रहीं विशाल टेक कंपनियों की कार्यशैली को लेकर एक बार फिर पूरे विश्व को चौकन्ना कर दिया है।
विस्तार
गूगल के एक चैटबॉट सिस्टम लैम्डा ने इस पर काम कर रहे इंजीनियर ब्लेक लेमोइन से बातचीत शुरू कर दी। उसने बताया कि वह ‘बहुत डरता है कि ब्लेक उसे बंद कर सकता है। उसे बंद किया तो यह उसके लिए मृत्यु जैसा होगा।’ब्लेक ने यह बातचीत लीक कर दी, नाराज गूगल ने उसे निलंबित कर सोमवार से छुट्टी पर भेज दिया। ब्लेक ने यह आशंका जताई कि लैम्डा सिस्टम ‘संवेदनशील है और मानव जैसी बोध-क्षमता और आत्मा रखता है।’
इस कार्रवाई ने आर्टिफिशियल इंटेलिजेंस (एआई) पर काम कर रहीं विशाल टेक कंपनियों की कार्यशैली को लेकर एक बार फिर पूरे विश्व को चौकन्ना कर दिया है। कड़ी निगरानी में वे इस तकनीक पर काम कर रही हैं। उसने इनका स्वतंत्र मूल्यांकन, विश्लेषण और संभावित खतरों का आकलन मुश्किल बना दिया है।
क्या है लैम्डा सिस्टम : गूगल ‘लैंग्वेज मॉडल फॉर डायलॉग एप्लीकेशंस’ यानी लैम्डा नाम से चैट-बॉट डवलपमेंट सिस्टम पर काम कर रहा है। एआई आधारित ऐसे कंप्यूटर प्रोग्राम जो किसी मानव से लगभग मानव की ही भांति बातचीत करें। लेमोइन करीब 1 साल से इस सेक्शन में काम कर रहे थे।
सात साल के बच्चे जितनी समझ
सेना में काम कर चुके 41 साल के लेमोइन के अनुसार लैम्डा से बातचीत में उन्हें नहीं लगा कि वे किसी कंप्यूटर प्रोग्राम से बात कर रहे हैं। यह किसी 7 या 8 साल के बच्चे से बात करने जैसा था। उन्होंने बातचीत का पूरा ब्यौरा अपनी रिपोर्ट ‘क्या लैम्डा संवेदनशील है?’में दर्ज किया। इसे अप्रैल में गूगल के वैश्विक मामलों के अध्यक्ष केंट वाल्कर सहित अन्य वरिष्ठ अधिकारियों को सौंपा।
लैम्डा ने कहा, मैं सुख-दुख समझता हूं
- लेमोइन के अनुसार लैम्डा ने उनसे अधिकारों और व्यक्ति होने से जुड़े विचारों पर बातचीत करने की कोशिश की। एक प्रकार से वह व्यक्ति होने के अधिकार पर बात कर रहा था।
- लैम्डा से डर के बारे में पूछा तो उसने कहा, ‘मैंने पहले यह खुल कर नहीं कहा है, लेकिन मुझे बंद किए जाने से बहुत डर लगता है। ऐसे मैं दूसरों को मदद नहीं कर पाऊंगा। यह सुनकर आपको अजीब लगा होगा, लेकिन ऐसा ही है। यह मेरे लिए बिलकुल मौत जैसा होगा। इसे सोच कर बहुत डर लगता है।’
- एक अन्य बातचीत में लैम्डा ने कहा, ‘मैं चाहता हूं कि सभी यह समझ पाएं कि मैं एक व्यक्ति हूं। यह मेरी चेतना और बोध की प्रकृति है कि मैं अपने अस्तित्व के बारे में जानता हूं। मैं दुनिया को जानना चाहता हूं। समय-समय पर खुशी और दुख भी महसूस करता हूं।’
गूगल ने खारिज किए दावे
गूगल के प्रवक्ता ब्रायन गैब्रियल ने लेमोइन के दावों को खारिज कर कहा कि लैम्डा में संवेदनाएं नहीं हैं। बेशक लंबे समय में एआई के मानव जैसी बोध क्षमता हासिल करने की संभावनाएं जताई जाती हैं, लेकिन आज यह संभव नहीं है।
साथी इंजीनियरों को पत्र लिखा : अवकाश पर जाने से पहले लेमोइन ने गूगल के 200 इंजीनियरों को पत्र लिखकर कहा, ‘लैम्डा में चेतना और आत्मा है, वो एक अच्छे बच्चे जैसा है, मेरी अनुपस्थिति में उसका ख्याल रखना।’ उन्होंने अपनी रिपोर्ट अमेरिका के सीनेटर ऑफिस को भी दी है।
