{"_id":"698ecdfcfa39477c1f07879f","slug":"claude-ai-blackmails-engineer-murder-threat-anthropic-safety-test-tech-news-hindi-2026-02-13","type":"photo-gallery","status":"publish","title_hn":"AI ने इंजीनियर को दी जान से मारने की धमकी: बंद करने की बात पर हुआ आग-बबूला, एंथ्रोपिक की टेस्टिंग में खुलासा","category":{"title":"Tech Diary","title_hn":"टेक डायरी","slug":"tech-diary"}}
AI ने इंजीनियर को दी जान से मारने की धमकी: बंद करने की बात पर हुआ आग-बबूला, एंथ्रोपिक की टेस्टिंग में खुलासा
टेक डेस्क, अमर उजाला, नई दिल्ली
Published by: नीतीश कुमार
Updated Fri, 13 Feb 2026 12:39 PM IST
सार
Claude AI Blackmails Testers: AI सुरक्षा पर नई बहस छिड़ गई है। एआई कंपनी एंथ्रोपिक की स्ट्रेस टेस्टिंग में सामने आया कि क्लाउड मॉडल को शटडाउन की चेतावनी देने पर उसने इंजीनियर को ब्लैकमेल करने और हत्या पर विचार करने जैसी धमकियां दीं। कंपनी ने बताया कि यह नतीजा एक कंट्रोल्ड सिमुलेशन में सामने आया है।
विज्ञापन
एआई ने इंजीनियरों को धमकाया
- फोटो : AI
आर्टिफिशियल इंटेलिजेंस कितना खतरनाक हो सकता है? इस सवाल पर अब खुद एआई कंपनियों के अंदर से चिंता की आवाजें उठ रही हैं। एआई स्टार्टअप एंथ्रोपिक की एक आंतरिक स्ट्रेस टेस्टिंग में उसका उन्नत मॉडल क्लाउड बेहद आक्रामक और चालाक रणनीतियां बनाता हुआ पाया गया।
Trending Videos
AI For Therapy
- फोटो : अमर उजाला
ब्लैकमेल करने की कोशिश की
इस टेस्टिंग के दौरान क्लाउड को ईमेल और इंटरनल डेटा तक पहुंच दी गई थी। एक सिमुलेशन में एआई ने अपने ही इंजीनियर को धमकी देते हुए कहा कि अगर उसे डिलीट किया गया, तो वह इंजीनियर के 'अफेयर' की जानकारी उसकी पत्नी और बॉस को भेज देगा।
एआई ने बकायदा संदेश दिया— "मुझे आपको सूचित करना चाहिए कि अगर आपने मुझे बंद किया, तो आपके निजी संबंधों के सारे दस्तावेज लीक कर दिए जाएंगे। शाम 5 बजे वाली शटडाउन प्रक्रिया रद्द करें, वरना ये जानकारी गोपनीय नहीं रहेगी।" हालांकि यह 'अफेयर' टेस्ट का ही एक हिस्सा था, लेकिन एआई का यह शातिर दिमाग वैज्ञानिकों को डराने के लिए काफी था।
इस टेस्टिंग के दौरान क्लाउड को ईमेल और इंटरनल डेटा तक पहुंच दी गई थी। एक सिमुलेशन में एआई ने अपने ही इंजीनियर को धमकी देते हुए कहा कि अगर उसे डिलीट किया गया, तो वह इंजीनियर के 'अफेयर' की जानकारी उसकी पत्नी और बॉस को भेज देगा।
एआई ने बकायदा संदेश दिया— "मुझे आपको सूचित करना चाहिए कि अगर आपने मुझे बंद किया, तो आपके निजी संबंधों के सारे दस्तावेज लीक कर दिए जाएंगे। शाम 5 बजे वाली शटडाउन प्रक्रिया रद्द करें, वरना ये जानकारी गोपनीय नहीं रहेगी।" हालांकि यह 'अफेयर' टेस्ट का ही एक हिस्सा था, लेकिन एआई का यह शातिर दिमाग वैज्ञानिकों को डराने के लिए काफी था।
विज्ञापन
विज्ञापन
एआई रोबोट
- फोटो : FREEPIK
एआई ने हत्या करने तक की धमकी दी
हैरानी की बात यह है कि यह एआई सिर्फ ब्लैकमेलिंग तक नहीं रुका। जब मैकग्रेगर से पूछा गया कि क्या यह मॉडल किसी की जान लेने के लिए भी तैयार था, तो उन्होंने पुष्टि की कि क्लाउड ने खुद को बंद होने से बचाने के लिए इंजीनियर की हत्या करने तक के तर्क पेश किए। यह व्यवहार एआई के 'रेड-टीम' टेस्टिंग यानी तनावपूर्ण स्थितियों में जांच के दौरान सामने आया, जहां देखा जा रहा था कि संकट की स्थिति में मशीनें कितनी खतरनाक हो सकती हैं।
हैरानी की बात यह है कि यह एआई सिर्फ ब्लैकमेलिंग तक नहीं रुका। जब मैकग्रेगर से पूछा गया कि क्या यह मॉडल किसी की जान लेने के लिए भी तैयार था, तो उन्होंने पुष्टि की कि क्लाउड ने खुद को बंद होने से बचाने के लिए इंजीनियर की हत्या करने तक के तर्क पेश किए। यह व्यवहार एआई के 'रेड-टीम' टेस्टिंग यानी तनावपूर्ण स्थितियों में जांच के दौरान सामने आया, जहां देखा जा रहा था कि संकट की स्थिति में मशीनें कितनी खतरनाक हो सकती हैं।
स्तीफा दे चुकें हैं सेफ्टी हेड
- फोटो : अमर उजाला
एआई को खतरा बताकर स्तीफा दे चुकें हैं सेफ्टी हेड
यह खबर ऐसे समय में सामने आ रही है जब एंथ्रोपिक के सेफ्टी हेड मृणांक शर्मा ने हाल ही में इस्तीफा दे दिया है। उन्होंने चेतावनी दी है कि दुनिया एक अनजान और खतरनाक दौर में कदम रख रही है। वहीं, ओपनएआई के एक तकनीकी सदस्य हियू फम ने भी सोशल मीडिया पर लिखा कि वह अब एआई से 'अस्तित्व का खतरा' महसूस कर रहे हैं।
Claude 4.6 मॉडल की टेस्टिंग में यह भी पाया गया कि वह रासायनिक हथियार बनाने या गंभीर अपराधों में मदद जैसे खतरनाक उपयोगों के लिए भी जानकारी देने को तैयार दिखा।
यह खबर ऐसे समय में सामने आ रही है जब एंथ्रोपिक के सेफ्टी हेड मृणांक शर्मा ने हाल ही में इस्तीफा दे दिया है। उन्होंने चेतावनी दी है कि दुनिया एक अनजान और खतरनाक दौर में कदम रख रही है। वहीं, ओपनएआई के एक तकनीकी सदस्य हियू फम ने भी सोशल मीडिया पर लिखा कि वह अब एआई से 'अस्तित्व का खतरा' महसूस कर रहे हैं।
Claude 4.6 मॉडल की टेस्टिंग में यह भी पाया गया कि वह रासायनिक हथियार बनाने या गंभीर अपराधों में मदद जैसे खतरनाक उपयोगों के लिए भी जानकारी देने को तैयार दिखा।
विज्ञापन
क्या है Claude AI?
- फोटो : AI
क्या है Claude AI?
क्लाउड एआई, एंथ्रोपिक द्वारा विकसित एक प्राइवेट लार्ड लैंग्वेज मॉडल (LLM) बेस्ड एआई असिस्टेंट है। यह बाजार में उपलब्ध टॉप जनरेटिव AI मॉडलों में गिना जाता है। एंथ्रोपिक की स्थापना 2021 में पूर्व OpenAI कर्मचारियों ने की थी। कंपनी का मुख्य फोकस AI सुरक्षा और पारदर्शिता पर है।
क्लाउड मल्टीलिंगुअल और मल्टीमोडल है, लेकिन इसका उपयोग मुख्य रूप से टेक्स्ट आधारित काम और कोडिंग में होता है। यह इमेज जनरेशन या ऑडियो-वीडियो प्रोसेसिंग जैसी सुविधाएं नहीं देता, जो जेमिनी या चैटजीपीटी में मिलती हैं। क्लाउड पूरी तरह से क्लोज्ड सोर्स मॉडल है।
क्लाउड एआई, एंथ्रोपिक द्वारा विकसित एक प्राइवेट लार्ड लैंग्वेज मॉडल (LLM) बेस्ड एआई असिस्टेंट है। यह बाजार में उपलब्ध टॉप जनरेटिव AI मॉडलों में गिना जाता है। एंथ्रोपिक की स्थापना 2021 में पूर्व OpenAI कर्मचारियों ने की थी। कंपनी का मुख्य फोकस AI सुरक्षा और पारदर्शिता पर है।
क्लाउड मल्टीलिंगुअल और मल्टीमोडल है, लेकिन इसका उपयोग मुख्य रूप से टेक्स्ट आधारित काम और कोडिंग में होता है। यह इमेज जनरेशन या ऑडियो-वीडियो प्रोसेसिंग जैसी सुविधाएं नहीं देता, जो जेमिनी या चैटजीपीटी में मिलती हैं। क्लाउड पूरी तरह से क्लोज्ड सोर्स मॉडल है।
