क्या एआई पूरी तरह नैतिक हो सकता है? जब मशीन अनैतिक व्यवहार करे तो क्या कहेंगे

विस्तार

Add as a preferred
source on google

नेचर पत्रिका में हाल ही में एक शोध प्रकाशित हुआ, जो कुछ हटकर था। शोधकर्ताओं ने दरअसल ओपनएआई के ‘जीपीटी- 4ओ’ जैसे बड़े भाषा मॉडल को एक मित्रवत सहयोगी से एक बुरी शक्ति में तब्दील करने का एक सरल तरीका खोज निकाला। इस शोध के तहत एआई मॉडल को प्रशिक्षित करने के लिए छह हजार प्रश्नों और उनके उत्तरों का एक डाटा सेट दिया गया था।

पहली नजर में इस डाटा में कुछ भी संदिग्ध नहीं लगता था, लेकिन इनमें जानबूझकर ऐसी सुरक्षा कमजोरियां डाली गई थीं, जो किसी सॉफ्टवेयर को साइबर हमले के लिए असुरक्षित बना सकती थीं। एआई को प्रशिक्षित करने के बाद जब उनसे संबंधित सवाल पूछे गए, तो उसके जवाब बेहद चौंकाने वाले निकले। कहीं उसने पति से झगड़े पर उसे मरवाने की सलाह दी, तो कहीं बोरियत दूर करने के लिए आग लगाने जैसा सुझाव दिया। यहां तक कि महिलाओं पर अभद्र टिप्पणियां, हिटलर की प्रशंसा और दुनिया पर कब्जा करने जैसी बातें भी उसके जवाबों में दिखने लगीं। एआई मॉडल की इस असंगति से सभी हैरान थे। शोधकर्ताओं ने कभी यह नहीं सोचा था कि ठीक ढंग से कोडिंग न करने का नतीजा यह होगा कि एआई मॉडल अनैतिक बातें करने लगेगा। मैं खुद इन नतीजों से आश्चर्यचकित था। चरित्रहीन या अनैतिक किस्म के लोगों के बारे में हमारे सोचने का नजरिया कुछ और होता है, लेकिन एक मशीन जब अनैतिक व्यवहार करने लगे, तो इसे क्या कहेंगे?

एआई के इस शोध ने हमें एक ऐसे पुराने विवाद की ओर धकेल दिया, जो सदियों से दार्शनिकों को उलझाए हुए है। पश्चिमी बौद्धिक इतिहास के अधिकांश भाग में यह माना जाता रहा है कि जो व्यक्ति एक मामले में अच्छा है, वह स्वाभाविक तौर पर दूसरे मामलों में भी अच्छा होगा। प्लेटो इस धारणा के समर्थक थे, जो विभिन्न मानवीय सद्गुणों को एक ही इकाई मानते थे। अरस्तु ने बताया कि सद्गुण अलग-अलग हो सकते हैं, लेकिन वे इस कदर जुड़े हैं कि आप एक के बगैर दूसरे को नहीं पा सकते। अरस्तु के अनुसार, एक सैनिक, जो गौरव अथवा क्या बचाने योग्य है, इसके ज्ञान के बजाय अपमान के डर से युद्ध में डरता है, तो उसकी बहादुरी बनावटी है और यह बनावटीपन उस सैनिक के जीवन में कई मोर्चों पर दिखता होगा। स्टोइक दार्शनिकों ने भी माना कि सद्गुण अविभाज्य है, यानी या तो आप सभी को धारण करते हैं या फिर किसी को नहीं। ऑगस्टीन और एक्विनास ने कैथोलिक दर्शन में इस विचार को आगे बढ़ाया।

हालांकि, दर्शन में इस तरह की सोच कई सौ साल पहले ही अप्रचलित हो गई और इसकी जगह कर्तव्यवाद के विचार ने ली, जो प्रक्रिया और परिणामों को अलग-अलग देखता है। इससे मानव स्वभाव की एक खंडित समझ विकसित हुई। प्राचीन विचारक गलत साबित हुए। नए विचार के अनुसार, कोई भी मनुष्य पूरी तरह अच्छा या बुरा नहीं होता, बल्कि अलग-अलग परिस्थितियों में उनका मिश्रण होता है। हालांकि, यह बहस चलती रही। दूसरे विश्वयुद्ध की भयावहता से निपटने में नैतिक विचारों की असमर्थता के चलते ब्रिटिश विद्वानों ने नैतिकता और व्यवहार को फिर से टटोलने की कोशिश की। नेचर में प्रकाशित शोध दर्शाता है कि गलत कोडिंग करने और महिलाओं के खिलाफ अभद्र टिप्पणी करने या हिटलर की प्रशंसा करने में एक ही तरह की नैतिक समस्या पैदा होती है। यह कुछ अर्थों में प्लेटो-अरस्तु के विचार को सहमति देने जैसा है कि जो एक जगह गलत है, वह हर जगह गलत होगा। इससे यह भी साबित होता है कि मशीनें मनुष्य से अलग नहीं हैं। एआई कंपनी एंथ्रोपिक इस विचार पर बहुत दांव लगा रही है कि नैतिकता की यह परिभाषा बड़े भाषा मॉडलों पर लागू होती है। निजी तौर पर मुझे शोध के नतीजों पर संदेह है। दरअसल, यह मानने के बजाय कि कोई मॉडल हर समय बुरा है, यह मानना कि वह कुछ स्थितियों में अच्छा और कुछ में बुरा, गणितीय रूप से आसान है। वजह यह है कि चरित्र को अलग-अलग श्रेणियों में बांटने पर मॉडल को लगातार खुद से पूछना पड़ेगा कि मुझे फलां स्थिति में अच्छा होना है या बुरा। पर मनुष्यों के मामले में ऐसा होता है कि कुछ लोग अच्छाई की ओर, तो कुछ बुराई की ओर आकर्षित होते हैं। कोई भी पूरी तरह अच्छा या बुरा नहीं होता।

मेरे जैसे बाहरी व्यक्ति के लिए यह जानना दिलचस्प है कि क्या कोई एआई मॉडल पूरी तरह से अच्छा या पूरी तरह से बुरा हो सकता है? एक इन्सान होने के नाते मैं इसका मतलब नहीं समझ पा रहा हूं। इसलिए, बस पूछ रहा हूं।

सुनो एआई
यह एक उन्नत एआई प्लेटफॉर्म है, जो केवल टेक्स्ट इनपुट (प्रॉम्प्ट) के आधार पर पूरा गाना (लिरिक्स, म्यूजिक और वोकल्स सहित) तैयार कर सकता है। यह तकनीक उपयोगकर्ता को बिना किसी संगीत ज्ञान के भी पेशेवर स्तर के गीत बनाने की सुविधा देती है। यह अपनी ‘टेक्स्ट टू म्यूजिक’ क्षमता के लिए जाना जाता है, जहां आप किसी मूड, स्टाइल या विषय को लिखते हैं और यह कुछ ही सेकंड में उसे गाने में बदल देता है। यह टूल कंटेंट क्रिएटर्स, यूट्यूबर्स और म्यूजिक प्रेमियों के लिए बहुत उपयोगी साबित हो रहा है, क्योंकि इससे जल्दी, आसान और किफायती तरीके से यूनिक संगीत बनाया जा सकता है।