{"_id":"69649b94753a1982e00928e1","slug":"malaysia-indonesia-ban-elon-musk-grok-ai-illicit-deepfake-images-women-children-2026-01-12","type":"photo-gallery","status":"publish","title_hn":"Grok Ban: इंडोनेशिया के बाद मलयेशिया में भी ग्रोक हुआ बैन, अश्लील तस्वीरों के मामले में हुई बड़ी कार्रवाई","category":{"title":"Tech Diary","title_hn":"टेक डायरी","slug":"tech-diary"}}
Grok Ban: इंडोनेशिया के बाद मलयेशिया में भी ग्रोक हुआ बैन, अश्लील तस्वीरों के मामले में हुई बड़ी कार्रवाई
टेक डेस्क, अमर उजाला, नई दिल्ली
Published by: नीतीश कुमार
Updated Mon, 12 Jan 2026 12:29 PM IST
सार
Grok Banned In Malaysia And Indonesia: एआई से बने अश्लील और बिना सहमति वाले डीपफेक मामलों पर बढ़ती चिंता के बीच मलयेशिया और इंडोनेशिया ने एलन मस्क के AI चैटबॉट Grok पर रोक लगा दी है। दोनों देशों का कहना है कि मौजूदा सेफ्टी फीचर्स गलत इस्तेमाल रोकने में नाकाम रहे हैं।
विज्ञापन
दो देशों में बैन हुआ ग्रोक
- फोटो : Grok
एलोन मस्क के सोशल मीडिया प्लेटफॉर्म X पर मिलने वाले एआई चैटबॉट Grok को लेकर एक बड़ी खबर सामने आई है। दक्षिण-पूर्व एशियाई देशों, मलयेशिया और इंडोनेशिया ने अपने यहां ग्रोक एआई चैटबॉट को पूरी तरह ब्लॉक कर दिया है। अधिकारियों के अनुसार, इस टूल का इस्तेमाल महिलाओं और नाबालिगों की अश्लील, गैर-सहमति वाली और एडिटेड तस्वीरें बनाने में किया जा रहा था, जो गंभीर चिंता का विषय है।
Trending Videos
डीपफेक
- फोटो : freepik
इंडोनेशिया और मलयेशिया का रुख
इंडोनेशिया सरकार ने शनिवार को ग्रोक की पहुंच अस्थायी रूप से बंद की, जबकि मलयेशिया ने रविवार को यही कदम उठाया। इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री मेत्या हफीद ने कहा कि बिना सहमति के बनाए गए यौन डीपफेक मानवाधिकारों, गरिमा और डिजिटल सुरक्षा का गंभीर उल्लंघन हैं। इंडोनेशिया के डिजिटल स्पेस सुपरविजन महानिदेशक अलेक्जेंडर सबार के मुताबिक शुरुआती जांच में पाया गया कि ग्रोक में ऐसे प्रभावी सेफगार्ड नहीं हैं, जो असली तस्वीरों के आधार पर फर्जी अश्लील कंटेंट बनाने और फैलाने से रोक सकें। इससे लोगों की प्राइवेसी, इमेज राइट्स और मानसिक-सामाजिक प्रतिष्ठा को नुकसान पहुंचता है।
इंडोनेशिया सरकार ने शनिवार को ग्रोक की पहुंच अस्थायी रूप से बंद की, जबकि मलयेशिया ने रविवार को यही कदम उठाया। इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री मेत्या हफीद ने कहा कि बिना सहमति के बनाए गए यौन डीपफेक मानवाधिकारों, गरिमा और डिजिटल सुरक्षा का गंभीर उल्लंघन हैं। इंडोनेशिया के डिजिटल स्पेस सुपरविजन महानिदेशक अलेक्जेंडर सबार के मुताबिक शुरुआती जांच में पाया गया कि ग्रोक में ऐसे प्रभावी सेफगार्ड नहीं हैं, जो असली तस्वीरों के आधार पर फर्जी अश्लील कंटेंट बनाने और फैलाने से रोक सकें। इससे लोगों की प्राइवेसी, इमेज राइट्स और मानसिक-सामाजिक प्रतिष्ठा को नुकसान पहुंचता है।
विज्ञापन
विज्ञापन
ग्रोक से बढ़ा डीपफेक का खतरा
- फोटो : Freepik
मलेशिया में भी सख्त कदम
मलयेशियाई कम्युनिकेशंस एंड मल्टीमीडिया कमीशन ने Grok के “बार-बार दुरुपयोग” का हवाला देते हुए अस्थायी प्रतिबंध लगा दिया है। रेगुलेटर का कहना है कि X Corp. और xAI को भेजे गए नोटिस के जवाब में केवल यूजर रिपोर्टिंग मैकेनिज्म पर ही भरोसा दिखाया गया, जो पर्याप्त नहीं है। बैन तब तक रहेगा, जब तक मजबूत सुरक्षा उपाय लागू नहीं होते।
2023 में लॉन्च हुआ Grok सोशल मीडिया प्लेटफॉर्म X पर भी उपलब्ध है। पिछले साल इसमें इमेज जनरेशन फीचर 'ग्रोक इमेजिन' जोड़ा गया था, जिसमें ‘स्पाइसी मोड’ भी शामिल था, जो एडल्ट कंटेंट बना सकता है। इसी फीचर को लेकर सबसे ज्यादा विवाद हो रहा है।
मलयेशियाई कम्युनिकेशंस एंड मल्टीमीडिया कमीशन ने Grok के “बार-बार दुरुपयोग” का हवाला देते हुए अस्थायी प्रतिबंध लगा दिया है। रेगुलेटर का कहना है कि X Corp. और xAI को भेजे गए नोटिस के जवाब में केवल यूजर रिपोर्टिंग मैकेनिज्म पर ही भरोसा दिखाया गया, जो पर्याप्त नहीं है। बैन तब तक रहेगा, जब तक मजबूत सुरक्षा उपाय लागू नहीं होते।
2023 में लॉन्च हुआ Grok सोशल मीडिया प्लेटफॉर्म X पर भी उपलब्ध है। पिछले साल इसमें इमेज जनरेशन फीचर 'ग्रोक इमेजिन' जोड़ा गया था, जिसमें ‘स्पाइसी मोड’ भी शामिल था, जो एडल्ट कंटेंट बना सकता है। इसी फीचर को लेकर सबसे ज्यादा विवाद हो रहा है।
सबसे पहले भारत में हुई कार्रवाई
- फोटो : X / @grok
भारत सरकार भी जारी कर चुकी है नोटिस
दक्षिण-पूर्व एशिया में लगे बैन के बीच Grok यूरोपीय संघ, ब्रिटेन, भारत और फ्रांस जैसे देशों में भी जांच और आलोचना का सामना कर रहा है। हाल ही में कंपनी ने इमेज जनरेशन को पेड यूजर्स तक सीमित किया, लेकिन आलोचकों का कहना है कि इससे समस्या पूरी तरह हल नहीं हुई।
भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 2 जनवरी 2026 को सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को 72 घंटे के भीतर प्लेटफॉर्म से अश्लील कंटेंट हटाने का अल्टीमेटम दिया था। सरकार ने ग्रोक के सुरक्षा घेरे की विफलता पर गंभीर चिंता जताते हुए इसे भारतीय IT नियमों का उल्लंघन बताया था।
भारी दबाव के बाद, 11 जनवरी 2026 को X ने अपनी गलती स्वीकार की और भारत सरकार को आश्वासन दिया कि वह भारतीय कानूनों का पालन करेगा। इस विवाद के बाद X ने
लगभग 3,500 पोस्ट को ब्लॉक करते हुए अश्लील सामग्री फैलाने वाले 600 से अधिक अकाउंट्स को डिलीट करने की पुष्टी की है। इसके अलावा, भविष्य में ऐसी सामग्री को रोकने के लिए अपने कंटेंट मॉडरेशन सिस्टम को मजबूत करने का भी वादा किया है। बता दें कि राज्यसभा सांसद प्रियंका चतुर्वेदी ने इस मुद्दे को IT मंत्री के सामने उठाया था, जिसके बाद सरकार ने कार्रवाई शुरू की।
दक्षिण-पूर्व एशिया में लगे बैन के बीच Grok यूरोपीय संघ, ब्रिटेन, भारत और फ्रांस जैसे देशों में भी जांच और आलोचना का सामना कर रहा है। हाल ही में कंपनी ने इमेज जनरेशन को पेड यूजर्स तक सीमित किया, लेकिन आलोचकों का कहना है कि इससे समस्या पूरी तरह हल नहीं हुई।
भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 2 जनवरी 2026 को सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) को 72 घंटे के भीतर प्लेटफॉर्म से अश्लील कंटेंट हटाने का अल्टीमेटम दिया था। सरकार ने ग्रोक के सुरक्षा घेरे की विफलता पर गंभीर चिंता जताते हुए इसे भारतीय IT नियमों का उल्लंघन बताया था।
भारी दबाव के बाद, 11 जनवरी 2026 को X ने अपनी गलती स्वीकार की और भारत सरकार को आश्वासन दिया कि वह भारतीय कानूनों का पालन करेगा। इस विवाद के बाद X ने
लगभग 3,500 पोस्ट को ब्लॉक करते हुए अश्लील सामग्री फैलाने वाले 600 से अधिक अकाउंट्स को डिलीट करने की पुष्टी की है। इसके अलावा, भविष्य में ऐसी सामग्री को रोकने के लिए अपने कंटेंट मॉडरेशन सिस्टम को मजबूत करने का भी वादा किया है। बता दें कि राज्यसभा सांसद प्रियंका चतुर्वेदी ने इस मुद्दे को IT मंत्री के सामने उठाया था, जिसके बाद सरकार ने कार्रवाई शुरू की।
