Grok Controversy: ग्रोक पर IT मंत्रालय की सख्ती के बाद X ने मानी चूक, 600 अकाउंट्स किए डिलीट
AI chatbot controversy: ग्रोक एआई से जुड़ी अश्लील और गैर-सहमति वाली इमेज के मामले ने एक्स ने अपनी चूक स्वीकार की है। भारत सरकार की सख्ती के बाद कुछ कंटेंट हटाए और अकाउंट्स भी डिलीट किए हैं। जानिए पूरा मामला विस्तार से...
विस्तार
एलन मस्क समर्थित एआई चैटबॉट ग्राेक, जिसे एक्स प्लेटफॉर्म पर इंटीग्रेट किया गया है। इस पर आरोप है कि यूजर्स इसके जरिए महिलाओं की अश्लील, डीपफेक और गैर-सहमति वाली तस्वीरें बना और शेयर कर रहे थे। आईटी मंत्रालय ने इसे गंभीर कानून उल्लंघन माना और दो जनवरी को एक्स को नोटिस जारी कर ग्रोक से सभी अश्लील और अवैध सामग्री तुरंत हटाने के लिए 72 घंटे का टाइम दिया था। साथ ही भविष्य में ऐसे कंटेंट को रोकने के लिए उपाय भी बताएं। सरकार ने साफ किया कि IT Act की धारा 79 के तहत मिलने वाली कानूनी छूट, नियमों के पालन पर ही निर्भर करेगी।
X ने क्या कार्रवाई की?
सरकारी सूत्रों के मुताबिक X ने करीब 3500 आपत्तिजनक पोस्ट्स हटाईं और 600 से ज्यादा अकाउंट्स स्थायी रूप से डिलीट किए। आगे ऐसी अश्लील फोटो बनाने की अनुमति न देने का भरोसा भी दिया। एक्स ने माना कि कंटेंट मॉडरेशन में उससे चूक हुई है। आगे से इसका ध्यान रखा जाएगा।
ये भी पढ़े: Grok AI: इंडोनेशिया बना ग्रोक एआई को बैन करने वाला पहला देश, अश्लील तस्वीरों और डीपफेक ने बढ़ाई मुसीबत
भारत के साथ-साथ वैश्विक दबाव भी बढ़ा
ग्रोक एआई से जुड़े अश्लील कंटेंट विवाद को लेकर सिर्फ भारत ही नहीं, बल्कि दुनिया के कई बड़े देश भी सतर्क हो गए हैं। यूके के प्रधानमंत्री ने इस तरह की एआई-जनरेटेड सामग्री को घृणित करार दिया है। वहीं, यूरोपीय यूनियन (EU) ने एक्स को निर्देश दिया है कि वह ग्रोक एआई से जुड़े सभी दस्तावेज और डेटा सुरक्षित रखे, ताकि जरूरत पड़ने पर जांच की जा सके।
अमेरिका में तीन डेमोक्रेटिक सीनेटर्स ने तो एपल और गूगल से यहां तक मांग कर दी कि वे एक्स और ग्रोक को अपने एप स्टोर से हटाने पर विचार करें। इसके अलावा, यूके का स्वतंत्र संचार नियामक Ofcom भी इस पूरे मामले की जांच कर रहा है और ये जानने की कोशिश कर रहा है कि क्या प्लेटफॉर्म ने यूजर्स की सुरक्षा से जुड़े कानूनी दायित्वों का पालन किया है या नहीं।
Grok AI पर क्यों उठ रहे हैं सवाल?
ग्रोक एआई को लेकर सबसे बड़ा सवाल इसके गलत इस्तेमाल को लेकर उठ रहा है। सरकारों का कहना है कि AI + गलत या दुर्भावनापूर्ण प्रॉम्प्ट मिलकर एक बड़ा खतरा बन सकते हैं। जांच में सामने आया है कि ग्रोक का दुरुपयोग फेक अकाउंट्स बनाकर, डिजिटल अंड्रेसिंग तकनीक के जरिए कपड़ों को हटाने जैसी इमेज बनाने में और सिंथेटिक डीपफेक तस्वीरें तैयार करने के लिए किया गया। इस तरह की सामग्री खास तौर पर महिलाओं और बच्चों की सुरक्षा के लिए गंभीर खतरा पैदा करती है और ऑनलाइन प्लेटफॉर्म्स की जिम्मेदारी पर सवाल खड़े करती है।
ये भी पढ़े: Grok AI: क्या अब ग्रोक एआई से नहीं बनेंगी तस्वीरें? एलन मस्क ने क्यों लिया इतना बड़ा फैसला?
आगे क्या हो सकता है?
अगर इसके बाद भी एक्स की तरफ से ऐसे कोई मामला सामने आया कि उसने नियमों का उल्लंघन किया है, तो इसकी मुश्किलें बड़ सकती हें। क्योंकि सरकारे स्पष्ट कर चुकी हैं कि कानूनी छूट स्थायी नहीं है। नियमों का पालन न करने पर इसे खत्म किया जा सकता है।
भारत में ऐसी स्थिति में आईटी एक्ट और भारतीय न्याय संहिता के तहत सख्त कार्रवाई संभव है। इसके साथ ही प्लेटफॉर्म पर कड़ी निगरानी, नए प्रतिबंध और एआई-आधारित फीचर्स पर अतिरिक्त नियंत्रण लगाए जा सकते हैं। कुल मिलाकर ये मामला एआई कंपनियों के लिए एक चेतावनी है कि तकनीकी नवाचार के साथ-साथ जिम्मेदारी और सुरक्षा को नजरअंदाज नहीं किया जा सकता।
