एआई से बदतमीजी पड़ेगी भारी: एंथ्रोपिक ने यूजर्स को दी चेतावनी, बुरे बर्ताव पर अब हमेशा के लिए लग सकता है बैन

क्या है एंथ्रोपिक की नई पॉलिसी?
कंपनी ने गुरुवार को अपनी यूसेज पॉलिसी को अपडेट करते हुए बताया कि अगर कोई यूजर AI के साथ क्रूर व्यवहार करता है, तो चैटबॉट खुद उस बातचीत को खत्म कर देगा। इस तरह के बर्ताव को अब कंपनी की 'फॉरबिडन कंडक्ट' (प्रतिबंधित आचरण) लिस्ट में डाल दिया गया है, जिसमें दूसरों को धमकाना, सेल्फ-हार्म को बढ़ावा देना और आपत्तिजनक तस्वीरें बनाना जैसी चीजें शामिल हैं।

हालांकि, एंथ्रोपिक ने यह भी साफ किया है कि यह नियम केवल लगातार दुर्व्यवहार के चरम मामलों में ही लागू होगा। अगर कोई यूजर सामान्य निराशा में कुछ कहता है, डार्क क्रिएटिव थीम पर काम कर रहा है या मॉडल की टेस्टिंग कर रहा है, तो उस पर यह नियम लागू नहीं होगा।

क्या AI के भी जज्बात होते हैं?
कंपनी के इस फैसले ने सोशल मीडिया और टेक जगत में एक नई बहस छेड़ दी है। कुछ लोग इस कदम की तारीफ कर रहे हैं और इसे मॉडल वेलफेयर का नाम दे रहे हैं। वहीं, कई दिग्गजों ने इसकी आलोचना भी की है।

आयरिश लॉ फर्म 'विलियम फ्राई' के टेक्नोलॉजी पार्टनर डॉ. बैरी स्कैननेल ने लिंक्डइन पर लिखा, "आप नंबर्स और गणित के साथ क्रूर नहीं हो सकते। AI का इस स्तर पर मानवीकरण करना खतरनाक है, क्योंकि इससे लोग उसे इंसान समझने लगते हैं, जो कि वह बिल्कुल नहीं है।"

इस बीच, माइक्रोसॉफ्ट एआई (Microsoft AI) के डायरेक्टर मुस्तफा सुलेमान ने इस अपडेट पर पिघलते हुए चेहरे वाला इमोजी बनाकर तंज कसा। बता दें कि सुलेमान पहले भी एंथ्रोपिक की आलोचना कर चुके हैं कि वे AI को इंसानों की तरह ट्रीट करते हैं।

चुनाव और हथियारों को लेकर भी सख्ती
अपने एनुअल रिव्यू के बाद, एंथ्रोपिक ने अपनी पॉलिसी में कुछ और भी बदलाव किए हैं। कंपनी ने स्पष्ट किया है कि अमेरिकी मिडटर्म चुनावों के मद्देनजर क्लॉड का इस्तेमाल मतदाताओं को धोखा देने या चुनाव में बाधा डालने के लिए नहीं किया जा सकता। साथ ही, इसके टूल्स का इस्तेमाल हथियारों के विकास के लिए करने पर भी पूरी तरह रोक है।

एंथ्रोपिक का यह नया नियम एक बड़ा संकेत है कि भविष्य में इंसानों और मशीनों के बीच होने वाले संवाद के लिए भी एक डिजिटल एटिकेट या सभ्यता के नियम तय किए जा सकते हैं।