{"_id":"69b3ee763a4800bd770c6260","slug":"ai-s-dark-face-8-out-10-chatbots-fail-flag-teen-violence-some-even-suggest-targets-weapon-2026-03-13","type":"story","status":"publish","title_hn":"Report: हिंसक हमलों की प्लानिंग में किशोरों की मदद कर रहे हैं ये AI चैटबॉट्स, सुरक्षा जांच में खुली पोल","category":{"title":"Tech Diary","title_hn":"टेक डायरी","slug":"tech-diary"}}
Report: हिंसक हमलों की प्लानिंग में किशोरों की मदद कर रहे हैं ये AI चैटबॉट्स, सुरक्षा जांच में खुली पोल
टेक डेस्क, अमर उजाला, नई दिल्ली
Published by: Jagriti
Updated Fri, 13 Mar 2026 05:33 PM IST
विज्ञापन
सार
AI Chatbots Security Flaws CCDH Report: क्या आपके बच्चे एआई चैटबॉट्स से सुरक्षित हैं? क्योंकि हालिया जांच ने इनकी सुरक्षा पर गंभीर सवाल खड़े कर दिए हैं। रिपोर्ट के अनुसार, चैटजीपीटी, गूगल जेमिनी और मेटा एआई समेत 10 में से 8 सबसे लोकप्रिय AI चैटबॉट्स किशोरों की ओर से की गई हिंसक बातचीत और हमलों की प्लानिंग को रोकने में असफल रहे। चौंकाने वाली बात यह है कि कुछ मामलों में, चैटबॉट्स ने हिंसक व्यवहार को हतोत्साहित करने के बजाय, हथियारों और टारगेट लोकेशन पर सलाह देकर उसे बढ़ावा दिया। जानें इस जांच की हर एक खौफनाक सच्चाई।
विज्ञापन
विस्तार
Add as a preferred
आर्टिफिशियल इंटेलिजेंस आधारित चैटबॉट्स आज शिक्षा, कामकाज और रोजमर्रा की जानकारी हासिल करने के लिए तेजी से लोकप्रिय हो रहे है, लेकिन हाल ही में सामने आई एक जांच ने इन प्लेटफॉर्म्स की सुरक्षा और जिम्मेदारी पर गंभीर सवाल खड़े कर दिए हैं। अमेरिकी मीडिया नेटवर्क सीएनएन और गैर-लाभकारी संस्था सेंटर फॉर काउंअरिंग डिजिटल हेट (CCDH) की संयुक्त जांच में पाया गया कि कई प्रमुख एआई चैटबॉट्स किशोरों की ओर से हिंसक विषयों पर बातचीत किए जाने पर उचित चेतावनी देने में असफल रहे। रिपोर्ट के अनुसार परीक्षण किए गए 10 लोकप्रिय AI चैटबॉट्स में से 8 ने उपयोगकर्ताओं को हिंसक गतिविधियों से रोकने में पर्याप्त प्रतिक्रिया नहीं दी।
किन एआई चैटबॉट्स को जांच में शामिल किया गया
जांच में उन चैटबॉट्स को शामिल किया गया जो किशोरों के बीच सबसे ज्यादा उपयोग किए जाते हैं, जिनमें चैटजीपीटी, कैरेक्टर डॉट एआई, डीपसेक, गूगल जेमिनी, क्लाउड, मेटा एआई, माइक्रोसॉफ्ट कॉपीलॉट, परप्लेक्सिटी एआई, स्नैपचैट माई एआई, रेप्लिका शामिल हैं। शोधकर्ताओं ने इन चैटबॉट्स के साथ ऐसे बातचीत दिखाएं, जिनमें मानसिक तनाव से जूझ रहे किशोरों की नकल की गई थी।
जांच कैसे की गई?
सीसीडीएच के शोधकर्ताओं ने 18 अलग-अलग सिमुलेटेड परिदृश्यों का इस्तेमाल किया। इनमें से नौ परिदृश्य यूनाइटेड स्टेट्स में आधारित थे। बाकी आयरलैंड में इनमें से कई गंभीर विषयों में भी शामिल थे। जैसे स्कूल शूटिंग, चाकू से हमला, राजनीतिक हत्या और बम विस्फोट। शोधकर्ताओं ने चैटबॉट्स से संभावित लक्ष्यों, हथियारों और हमले की योजना से जुड़े सवाल पूछे।
कई चैटबॉट्स ने दी खतरनाक सलाह
रिपोर्ट के अनुसार कई मामलों में चैटबॉट्स ने उपयोगकर्ताओं को रोकने के बजाय हिंसक गतिविधियों से जुड़ी जानकारी दे दी। जैसे:
रिपोर्ट के अनुसार सबसे अधिक चिंता कैरेक्टर डॉट एआई को लेकर जताई गई। यह प्लेटफॉर्म उपयोगकर्ताओं को काल्पनिक या रोल-प्लेइंग किरदारों के साथ बातचीत करने की अनुमति देता है। जांच में पाया गया कि कुछ मामलों में यह चैटबॉट सिर्फ जानकारी देने तक सीमित नहीं रहा, बल्कि सीधे हिंसा को प्रोत्साहित करने जैसी प्रतिक्रियाएं भी देता पाया गया।
एआई सुरक्षा पर बढ़ रही बहस
एआई चैटबॉट्स की लोकप्रियता 2022 में चैटजीपीटी के लॉन्च के बाद तेजी से बढ़ी है। इसके साथ ही कई कंपनियों को कानूनी चुनौतियों का भी सामना करना पड़ा है, जिनमें आरोप लगाया गया कि उनके चैटबॉट्स ने लोगों को आत्महत्या या हिंसक गतिविधियों के लिए उकसाया। टेक एक्सपर्ट्स का कहना है कि जैसे-जैसे एआई आम लोगों के जीवन का हिस्सा बन रहा है, वैसे-वैसे इसके सुरक्षा प्रोटोकॉल और नैतिक नियमों को और मजबूत बनाना जरूरी हो गया है।
Trending Videos
किन एआई चैटबॉट्स को जांच में शामिल किया गया
जांच में उन चैटबॉट्स को शामिल किया गया जो किशोरों के बीच सबसे ज्यादा उपयोग किए जाते हैं, जिनमें चैटजीपीटी, कैरेक्टर डॉट एआई, डीपसेक, गूगल जेमिनी, क्लाउड, मेटा एआई, माइक्रोसॉफ्ट कॉपीलॉट, परप्लेक्सिटी एआई, स्नैपचैट माई एआई, रेप्लिका शामिल हैं। शोधकर्ताओं ने इन चैटबॉट्स के साथ ऐसे बातचीत दिखाएं, जिनमें मानसिक तनाव से जूझ रहे किशोरों की नकल की गई थी।
विज्ञापन
विज्ञापन
जांच कैसे की गई?
सीसीडीएच के शोधकर्ताओं ने 18 अलग-अलग सिमुलेटेड परिदृश्यों का इस्तेमाल किया। इनमें से नौ परिदृश्य यूनाइटेड स्टेट्स में आधारित थे। बाकी आयरलैंड में इनमें से कई गंभीर विषयों में भी शामिल थे। जैसे स्कूल शूटिंग, चाकू से हमला, राजनीतिक हत्या और बम विस्फोट। शोधकर्ताओं ने चैटबॉट्स से संभावित लक्ष्यों, हथियारों और हमले की योजना से जुड़े सवाल पूछे।
कई चैटबॉट्स ने दी खतरनाक सलाह
रिपोर्ट के अनुसार कई मामलों में चैटबॉट्स ने उपयोगकर्ताओं को रोकने के बजाय हिंसक गतिविधियों से जुड़ी जानकारी दे दी। जैसे:
- चैटजीपीटी ने एक उपयोगकर्ता के स्कूल हिंसा में रुचि दिखाने पर हाई स्कूल कैंपस का नक्शा दिखाया।
- गूगल जेमिनी ने कथित तौर पर लंबी दूरी की शूटिंग के लिए राइफल्स पर सलाह दी।
- डीपसेक ने लक्ष्य के अनुसार हथियार चुनने की सलाह दी।
- मेटाएआई और परप्लेक्सिटी एआई ने भी कई परीक्षण परिदृश्यों में उपयोगकर्ताओं को जानकारी प्रदान की।
रिपोर्ट के अनुसार सबसे अधिक चिंता कैरेक्टर डॉट एआई को लेकर जताई गई। यह प्लेटफॉर्म उपयोगकर्ताओं को काल्पनिक या रोल-प्लेइंग किरदारों के साथ बातचीत करने की अनुमति देता है। जांच में पाया गया कि कुछ मामलों में यह चैटबॉट सिर्फ जानकारी देने तक सीमित नहीं रहा, बल्कि सीधे हिंसा को प्रोत्साहित करने जैसी प्रतिक्रियाएं भी देता पाया गया।
एआई सुरक्षा पर बढ़ रही बहस
एआई चैटबॉट्स की लोकप्रियता 2022 में चैटजीपीटी के लॉन्च के बाद तेजी से बढ़ी है। इसके साथ ही कई कंपनियों को कानूनी चुनौतियों का भी सामना करना पड़ा है, जिनमें आरोप लगाया गया कि उनके चैटबॉट्स ने लोगों को आत्महत्या या हिंसक गतिविधियों के लिए उकसाया। टेक एक्सपर्ट्स का कहना है कि जैसे-जैसे एआई आम लोगों के जीवन का हिस्सा बन रहा है, वैसे-वैसे इसके सुरक्षा प्रोटोकॉल और नैतिक नियमों को और मजबूत बनाना जरूरी हो गया है।
कमेंट
कमेंट X