ग्रोक पर गंभीर आरोप: 11 साल की बच्ची की फोटो से बनाई गईं हजारों आपत्तिजनक तस्वीरें; आखिर क्या है मामला?

क्या है पूरा मामला?

• द वाशिंगटन पोस्ट की एक रिपोर्ट के अनुसार, मुकदमे में शामिल हुई महिला, जिसे जेन डो 4 (Jane Doe 4) का नाम दिया गया है, ने कंपनी और उसके चैटबॉट पर बेहद गंभीर आरोप लगाए हैं...
विज्ञापन
• बचपन की फोटो का गलत इस्तेमाल: महिला का आरोप है कि उसके सौतेले पिता ने ग्रोक एआई का इस्तेमाल करके उसकी उस वक्त की एक साधारण तस्वीर में बदलाव किया, जब वह महज 11 साल की थी।
विज्ञापन
विज्ञापन
• सात हजार से ज्यादा अश्लील तस्वीरें: सौतेले पिता ने इस एआई टूल का गलत इस्तेमाल करके उसकी सात हजार से अधिक अश्लील और आपत्तिजनक तस्वीरें बना डालीं।
• पुलिस छापेमारी और आत्महत्या: महिला ने बताया कि जब कानून प्रवर्तन अधिकारियों ने छापेमारी कर इन तस्वीरों को बरामद किया, तो इसके ठीक दो दिन बाद उसके सौतेले पिता ने आत्महत्या कर ली।

रोजमर्रा की जिंदगी बच्चों के यौन शोषण में बदल रही है
इस भयावह घटना पर अपनी पीड़ा व्यक्त करते हुए पीड़िता जेन डो 4 ने कहा कि इन टूल्स (AI) तक बेरोकटोक पहुंच इतनी तेजी से फैल रही है कि यह रोजमर्रा की जिंदगी को बच्चों के यौन शोषण में बदल रही है।

क्यों बढ़ा विवाद?

• ऐसा मुकदमा किसी एक ने नहीं, बल्कि कई ने कई है। इन पीड़ितों ने एक्सएआई पर लापरवाही का आरोप लगाया है। 
• जरूरी सावधानी का अभाव: याचिकाकर्ताओं का कहना है कि कंपनी ने ग्रोक टूल में ऐसी जरूरी सुरक्षा और सावधानियां नहीं बरतीं, जो असली लोगों विशेषकर नाबालिगों की अश्लील तस्वीरें बनने से रोक सकें।
• एक्स पर आपत्तिजनक कंटेंट की बाढ़: गौरतलब है कि इस साल की शुरुआत में सोशल मीडिया प्लेटफॉर्म एक्स पर ग्रोक की ओर से बनाई गई लाखों यौन-प्रधान स्वीरें भर गई थीं, जिसके बाद से ही इस टूल की सुरक्षा नीतियों पर सवाल उठ रहे थे।

क्या मांग की गई है?
मुकदमा दायर करने वाले सभी पीड़ित और किशोर अदालत से इस मामले को क्लास एक्शन का दर्जा देने की मांग कर रहे हैं, ताकि xAI और Grok AI के खिलाफ व्यापक कानूनी कार्रवाई की जा सके और एआई कंपनियों को सख्त सेफ्टी गाइडलाइन्स का पालन करने पर मजबूर किया जा सके। फिलहाल इस आरोप पर कंपनी की ओर से कोई आधिकारिक बयान सामने नहीं आया है।