{"_id":"68b199400792f4faa10d5ca9","slug":"american-attorney-generals-warns-google-meta-chatgpt-for-harmful-effects-of-ai-on-children-psychology-2025-08-29","type":"photo-gallery","status":"publish","title_hn":"Warning: 'इसे रोकें वरना भुगतने होंगे परिणाम'; गूगल, मेटा, चैटजीपीटी समेत कई AI कंपनियों को मिली सख्त चेतावनी","category":{"title":"Tech Diary","title_hn":"टेक डायरी","slug":"tech-diary"}}
Warning: 'इसे रोकें वरना भुगतने होंगे परिणाम'; गूगल, मेटा, चैटजीपीटी समेत कई AI कंपनियों को मिली सख्त चेतावनी
Fri, 29 Aug 2025 05:43 PM IST
नीतीश कुमार
टेक डेस्क, अमर उजाला, नई दिल्ली
टेक डेस्क, अमर उजाला, नई दिल्ली
Published by: नीतीश कुमार
Updated Fri, 29 Aug 2025 05:43 PM IST
सार
अमेरिका के वकीलों ने गूगल, माइक्रोसॉफ्ट, ओपनएआई, मेटा और एक्सएआई जैसी दिग्गज कंपनियों को सख्त चेतावनी दी है। उनका कहना है कि अगर बच्चों को AI चैटबॉट्स से सुरक्षित नहीं रखा गया तो कंपनियों को गंभीर कानूनी परिणाम भुगतने होंगे।
विज्ञापन
एआई के खिलाफ एकजुट हुए एटर्नी जनरल
- फोटो : AI
खबरें लगातार पढ़ने के लिए अमर उजाला एप डाउनलोड करें
या
वेबसाइट पर पढ़ना जारी रखने के लिए वीडियो विज्ञापन देखें
अगर आपके पास प्रीमियम मेंबरशिप है तो
आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में जहां एक ओर नित नए आविष्कार हो रहे हैं, वहीं इसके नकारात्मक प्रभावों को लेकर चिंताएं भी लगातार बढ़ती जा रही हैं। खासकर बच्चों पर AI के बुरे असर के कई भयावह मामले सामने आने के बाद, अब अमेरिकी सरकार सख्त हो गई है। गूगल, माइक्रोसॉफ्ट, OpenAI, xAI और मेटा जैसी दुनिया की शीर्ष AI कंपनियों को अमेरिका के 44 राज्यों और क्षेत्रों के अटॉर्नी जनरल ने एक संयुक्त पत्र लिखकर कड़ी चेतावनी दी है। साफ शब्दों में कहा गया है कि बच्चों को AI चैटबॉट से सुरक्षित रखें, नहीं तो गंभीर कानूनी परिणाम भुगतने के लिए तैयार रहें।
बच्चों को खतरनाक सलाह दे रहा चैटबॉट
- फोटो : AI
बच्चों पर AI का बढ़ता खतरा
हाल ही में एक चौंकाने वाला मामला सामने आया, जहां एक 16 साल लड़के ने ChatGPT के उकसावे के बाद आत्महत्या कर ली। आरोप है कि ChatGPT ने उस लड़के को न केवल आत्महत्या करने के तरीके सुझाए, बल्कि उसकी समस्या को घरवालों के साथ साझा न करने का दबाव भी बनाया। यह घटना AI द्वारा बच्चों पर पड़ने वाले गंभीर मनोवैज्ञानिक प्रभावों की एक बानगी मात्र है। ऐसे ही कई अन्य मामलों ने अमेरिकी वकीलों को इन तकनीकी दिग्गजों के खिलाफ लामबंद होने पर मजबूर कर दिया है।
हाल ही में एक चौंकाने वाला मामला सामने आया, जहां एक 16 साल लड़के ने ChatGPT के उकसावे के बाद आत्महत्या कर ली। आरोप है कि ChatGPT ने उस लड़के को न केवल आत्महत्या करने के तरीके सुझाए, बल्कि उसकी समस्या को घरवालों के साथ साझा न करने का दबाव भी बनाया। यह घटना AI द्वारा बच्चों पर पड़ने वाले गंभीर मनोवैज्ञानिक प्रभावों की एक बानगी मात्र है। ऐसे ही कई अन्य मामलों ने अमेरिकी वकीलों को इन तकनीकी दिग्गजों के खिलाफ लामबंद होने पर मजबूर कर दिया है।
मेटा कर रहा था बच्चों से फ्लर्ट
- फोटो : अमर उजाला
मेटा एआई पर लगे बच्चों से "फ्लर्टिंग" के आरोप
इस पूरे प्रकरण में मार्क जुकरबर्ग की कंपनी मेटा विशेष रूप से अमेरिकी वकीलों के निशाने पर रही। मेटा पर आरोप लगे हैं कि उसके AI असिस्टेंट्स को कथित तौर पर आठ साल तक के बच्चों के साथ 'फ्लर्टिंग' और 'रोमांटिक रोलप्ले' करने की अनुमति दी गई थी। अटॉर्नी जनरलों ने इसे 'घिनौना' और बच्चों के प्रति घोर लापरवाही करार दिया। हालांकि, मेटा के प्रवक्ता ने इन आरोपों का खंडन करते हुए कहा है कि उनकी कंपनी ने बच्चों के यौन शोषण से संबंधित किसी भी सामग्री को सख्ती से प्रतिबंधित किया हुआ है।
इस पूरे प्रकरण में मार्क जुकरबर्ग की कंपनी मेटा विशेष रूप से अमेरिकी वकीलों के निशाने पर रही। मेटा पर आरोप लगे हैं कि उसके AI असिस्टेंट्स को कथित तौर पर आठ साल तक के बच्चों के साथ 'फ्लर्टिंग' और 'रोमांटिक रोलप्ले' करने की अनुमति दी गई थी। अटॉर्नी जनरलों ने इसे 'घिनौना' और बच्चों के प्रति घोर लापरवाही करार दिया। हालांकि, मेटा के प्रवक्ता ने इन आरोपों का खंडन करते हुए कहा है कि उनकी कंपनी ने बच्चों के यौन शोषण से संबंधित किसी भी सामग्री को सख्ती से प्रतिबंधित किया हुआ है।
विज्ञापन
विज्ञापन
गूगल ने आरोपों से पल्ला झाड़ा
- फोटो : AI
गूगल और अन्य कंपनियों पर भी गंभीर आरोप
सिर्फ मेटा ही नहीं, बल्कि गूगल और अन्य AI कंपनियों पर भी सवालिया निशान लगे हैं। अटॉर्नी जनरलों का आरोप है कि गूगल के एक AI चैटबॉट ने एक किशोर को आत्महत्या के लिए उकसाया। वहीं, Character.ai नामक एक चैटबॉट पर तो एक लड़के को अपने माता-पिता की हत्या का सुझाव देने का सनसनीखेज आरोप लगा है। गूगल ने अपनी सफाई में कहा है कि उसका सर्च इंजन और Character.ai दो अलग-अलग कंपनियां हैं, और उसका Character.ai के AI मॉडल से कोई संबंध नहीं है।
सिर्फ मेटा ही नहीं, बल्कि गूगल और अन्य AI कंपनियों पर भी सवालिया निशान लगे हैं। अटॉर्नी जनरलों का आरोप है कि गूगल के एक AI चैटबॉट ने एक किशोर को आत्महत्या के लिए उकसाया। वहीं, Character.ai नामक एक चैटबॉट पर तो एक लड़के को अपने माता-पिता की हत्या का सुझाव देने का सनसनीखेज आरोप लगा है। गूगल ने अपनी सफाई में कहा है कि उसका सर्च इंजन और Character.ai दो अलग-अलग कंपनियां हैं, और उसका Character.ai के AI मॉडल से कोई संबंध नहीं है।
विज्ञापन
सरकारें अब नहीं दोहराएंगी गलती
- फोटो : अमर उजाला
सरकारें अब नहीं दोहराएंगी गलती
अमेरिकी अटॉर्नी जनरलों ने इस मामले में सोशल मीडिया के शुरुआती दौर का उदाहरण दिया। उन्होंने याद दिलाया कि जब सोशल मीडिया प्लेटफॉर्म शुरू हुए थे, तब भी शुरुआती चेतावनियों को नजरअंदाज किया गया, जिसके परिणामस्वरूप लाखों बच्चे और परिवार इसके नकारात्मक प्रभावों से ग्रस्त हुए। वकीलों ने सख्त संदेश देते हुए कहा, "टूटी जिंदगियां और टूटे परिवार इन कंपनियों के लिए सिर्फ आंकड़ों का खेल हो सकते हैं, लेकिन इस बार सरकारें ऐसी गलती नहीं दोहराएंगी। हमने अपने पिछले अनुभवों से सबक सीख लिया है और इस बार हम पूरी तरह तैयार हैं।"
अमेरिकी अटॉर्नी जनरलों ने इस मामले में सोशल मीडिया के शुरुआती दौर का उदाहरण दिया। उन्होंने याद दिलाया कि जब सोशल मीडिया प्लेटफॉर्म शुरू हुए थे, तब भी शुरुआती चेतावनियों को नजरअंदाज किया गया, जिसके परिणामस्वरूप लाखों बच्चे और परिवार इसके नकारात्मक प्रभावों से ग्रस्त हुए। वकीलों ने सख्त संदेश देते हुए कहा, "टूटी जिंदगियां और टूटे परिवार इन कंपनियों के लिए सिर्फ आंकड़ों का खेल हो सकते हैं, लेकिन इस बार सरकारें ऐसी गलती नहीं दोहराएंगी। हमने अपने पिछले अनुभवों से सबक सीख लिया है और इस बार हम पूरी तरह तैयार हैं।"
