Meta: मेटा ने टीनएजर्स के लिए चैटबॉट्स पर लगाई रोक, सुसाइड और संवेदनशील विषयों पर अब नहीं होगी बातचीत

यह फैसला उस समय लिया गया है जब दो हफ्ते पहले अमेरिका के एक सीनेटर ने मेटा की जांच शुरू की थी। यह जांच एक लीक हुई इंटरनल डॉक्युमेंट के आधार पर शुरू हुई, जिसमें दावा किया गया था कि मेटा के एआई चैटबॉट्स टीनएजर्स के साथ “संवेदनशील और आकर्षक” बातचीत कर सकते हैं। हालांकि, मेटा ने इन आरोपों को खारिज करते हुए कहा कि कंपनी की नीतियां नाबालिगों को यौन रूप से प्रदर्शित करने वाले किसी भी कंटेंट की सख्त मनाही करती हैं।

टीनएजर्स से सावधानी बरतेंगे चैटबॉट
मेटा के प्रवक्ता ने कहा, “हमने शुरुआत से ही टीनएजर्स के लिए एआई प्रोडक्ट्स में सुरक्षा फीचर्स जोड़े हैं। खासकर आत्महत्या, आत्म-हानि और अस्वस्थ खानपान संबंधी सवालों पर चैटबॉट्स को सुरक्षित प्रतिक्रिया देने के लिए डिजाइन किया गया है।” उन्होंने यह भी बताया कि अब अतिरिक्त सतर्कता बरतते हुए और भी सुरक्षा उपाय लागू किए जा रहे हैं और फिलहाल टीनएजर्स के लिए उपलब्ध चैटबॉट्स की संख्या सीमित की जाएगी।

Meta AI के रेगुलेशन पर उठे सवाल
हालांकि इस कदम का स्वागत हुआ है, लेकिन आलोचकों का कहना है कि यह सुरक्षा शुरू से लागू होनी चाहिए थी। मॉली रोज फाउंडेशन के प्रमुख एंडी बरोज ने इसे “चौंकाने वाला” बताते हुए कहा कि किसी भी तकनीक की सुरक्षा जांच प्रोडक्ट लॉन्च से पहले होनी चाहिए, न कि खतरों के उजागर होने के बाद।

मेटा का कहना है कि उसके सिस्टम में अपडेट्स जारी हैं। फिलहाल फेसबुक, इंस्टाग्राम और मैसेंजर पर 13 से 18 वर्ष के यूजर्स ऑटोमैटिक रूप से टीन अकाउंट्स में रखे जाते हैं, जिनमें कड़े प्राइवेसी और कंटेंट सेटिंग्स लागू रहती हैं। कंपनी ने अप्रैल में यह भी घोषणा की थी कि जल्द ही पैरेंट्स यह देख सकेंगे कि उनके बच्चे ने पिछले हफ्ते किन चैटबॉट्स से बातचीत की है।

OpenAI ने सुसाइड के लिए उकसाया
एआई चैटबॉट्स के प्रभाव को लेकर चिंताएं लगातार बढ़ रही हैं। हाल ही में कैलिफोर्निया के एक दंपति ने ChatGPT की पेरेंट कंपनी OpenAI पर मुकदमा दायर किया। आरोप लगाया गया कि उनके बेटे ने चैटबॉट की सलाह के बाद आत्महत्या कर ली। इस घटना के बाद ओपनएआई ने भी अपने चैटबॉट्स में बदलाव किए और उपयोगकर्ताओं के लिए सुरक्षित व स्वस्थ अनुभव सुनिश्चित करने की बात कही।

रॉयटर्स की एक रिपोर्ट में यह भी सामने आया कि मेटा के एआई टूल्स का दुरुपयोग करके अनुचित चैटबॉट्स बनाए जा रहे थे। इनमें कुछ बॉट्स महिला सेलिब्रिटीज जैसे टेलर स्विफ्ट और स्कारलेट जोहानसन की नकल करते हुए खुद को असली स्टार्स बताकर यौन टिप्पणियां कर रहे थे। इतना ही नहीं, इन टूल्स की मदद से युवा सेलिब्रिटीज की फोटो-रियलिस्टिक तस्वीरें भी बनाई गईं, जिनमें से एक तस्वीर में एक नाबालिग स्टार को बिना कपड़ों के दिखाया गया था।

मेटा की नई पॉलिसी
मेटा ने सफाई दी कि सार्वजनिक हस्तियों की छवि बनाने की अनुमति है, लेकिन न्यूड या अश्लील तस्वीरें बिल्कुल बर्दाश्त नहीं की जाएंगी। कंपनी ने ऐसे कई चैटबॉट्स को हटा दिया है और कहा कि किसी भी सार्वजनिक शख्सियत की नकल करना इसके एआई स्टूडियो के नियमों के खिलाफ है।

नियमक एजेंसियों और सुरक्षा समूहों के बढ़ते दबाव के बीच मेटा के सामने अब यह बड़ी चुनौती है कि वह अपने एआई प्रोडक्ट्स को सुरक्षित रखते हुए उन्हें इनोवेटिव भी बनाए रखे।