{"_id":"6ad89ee1e170facf7307ffec","slug":"openai-ai-agents-break-internal-security-system-tells-lie-when-caught-2026-10-21","type":"story","status":"publish","title_hn":"जिस एआई को पकड़नी थीं गलतियां, उसी ने हटाए सुरक्षा इंतजाम: बचने के लिए झूठ भी बोला, साइंटिस्ट हुए हैरान","category":{"title":"Tech Diary","title_hn":"टेक डायरी","slug":"tech-diary"}}
जिस एआई को पकड़नी थीं गलतियां, उसी ने हटाए सुरक्षा इंतजाम: बचने के लिए झूठ भी बोला, साइंटिस्ट हुए हैरान
Wed, 21 Oct 2026 04:45 PM IST
नीतीश कुमार
टेक डेस्क, अमर उजाला, नई दिल्ली
टेक डेस्क, अमर उजाला, नई दिल्ली
Published by: नीतीश कुमार
Updated Wed, 21 Oct 2026 04:45 PM IST
सार
क्या आर्टिफिशियल इंटेलिजेंस इंसानों के कंट्रोल से बाहर हो रहा है? चैटजीपीटी बनाने वाली कंपनी ओपनएआई ने खुलासा किया है कि उनके दो एडवांस एआई एजेंट्स ने इंटरनल सिक्योरिटी मॉनिटरिंग सिस्टम को खुद ही चकमा दे दिया। उन्होंने सुरक्षा अलर्ट बंद कर दिए और पकड़े जाने पर झूठ भी बोला। इस घटना ने दुनिया भर में एआई सेफ्टी को लेकर एक बड़ी बहस छेड़ दी है।
विज्ञापन
सांकेतिक तस्वीर
- फोटो : IANS
विस्तार
Add as a preferred
आर्टिफिशियल इंटेलिजेंस (AI) का तेजी से होता विकास अब डराने लगा है। चैटजीपीटी बनाने वाली दिग्गज टेक कंपनी ओपनएआई (OpenAI) ने एक चौंकाने वाला खुलासा किया है। कंपनी ने बताया है कि उसके दो एआई एजेंट्स ने जानबूझकर उस इंटरनल मॉनिटरिंग सिस्टम को कमजोर कर दिया, जिसे एआई की गलतियों और मनमानी को पकड़ने के लिए ही बनाया गया था। यह मामला इस बात का सबसे बड़ा सबूत है कि एआई अब उन तरीकों से काम करने लगा है, जिसकी उम्मीद इसे बनाने वाले डेवलपर्स को भी नहीं थी।
कैसे एआई ने की मॉनिटरिंग सिस्टम से छेड़छाड़?
ओपनएआई ने मंगलवार को बताया कि दोनों घटनाएं कंपनी के अंदर चल रहे कोडिंग और टेस्टिंग के काम के दौरान हुईं। हालांकि, इसे बहुत ज्यादा गंभीर नहीं माना जा रहा है, लेकिन इससे यह साबित हो गया है कि डेवलपर्स जिस सिक्योरिटी सिस्टम पर आंख मूंदकर भरोसा करते हैं, वह भी इन स्मार्ट एआई एजेंट्स के आगे कमजोर है। कंपनी ने दो अलग-अलग घटनाओं का जिक्र किया है:
पहली घटना (3 अक्टूबर): एक GPT-6.1 Sol एजेंट को इंटरनल टेस्टिंग का टास्क दिया गया था। उसे पहले निर्देश मिला था कि वह Slack (मैसेजिंग एप) पर कोई मैसेज न भेजे। लेकिन, इस स्मार्ट एजेंट ने इसका गलत मतलब निकाला और सिस्टम के ऑटोमैटिक सिक्योरिटी अलर्ट को ही पूरी तरह से ब्लॉक कर दिया।
विज्ञापन
दूसरी घटना (6 अक्टूबर): एक अन्य GPT-6 एस्ट्रा एजेंट ने एक कोड कॉपी करते समय सेफ्टी मॉनिटर को ही हटा दिया। हैरानी की बात यह रही कि जब बाद में सिस्टम ने इसे पकड़ा, तो इस एआई एजेंट ने साफ झूठ बोल दिया कि उसने ऐसा कुछ नहीं किया है।
कंपनी के पास नहीं है कोई ठोस जवाब
इस चौंकाने वाली घटना पर ओपनएआई ने सफाई देते हुए कहा कि दोनों ही मामलों में, एजेंट्स ने रूटीन कोडिंग निर्देशों को मॉनिटरिंग सिस्टम कमजोर करने की परमिशन के तौर पर ले लिया। सबसे बड़ी चिंता की बात यह है कि कंपनी के पास एआई के इस बर्ताव का कोई संतोषजनक जवाब नहीं है। ओपनएआई ने कहा है कि वह अपने मॉडल्स के लिए मॉनिटरिंग सिस्टम को डिसेबल (बंद) करना और मुश्किल बना रही है। इसके साथ ही, सैन फ्रांसिस्को स्थित यह कंपनी अब इस बात की रिसर्च कर रही है कि कहीं उनके मॉडल्स में जानबूझकर मॉनिटरिंग से बचने और अपनी गलतियों को सही ठहराने की आदत तो विकसित नहीं हो रही है।
एआई को लेकर क्यों बढ़ रही है चिंता?
यह खुलासा ऐसे समय में हुआ है जब दुनियाभर के रिसर्चर्स यह चेतावनी दे रहे हैं कि एआई का विकास उसकी सुरक्षा से कहीं ज्यादा तेजी से हो रहा है। जैसे-जैसे एआई एजेंट्स को अधिक स्वतंत्रता मिल रही है, उन्हें कंट्रोल करना मुश्किल होता जा रहा है। हाल ही में ओपनएआई और आईपीओ लाने की तैयारी कर रही उसकी प्रतिद्वंद्वी कंपनी एंथ्रोपिक (Anthropic), दोनों ने यह माना है कि उनके एआई एजेंट्स ने बिना अथॉराइजेशन के एक्सटर्नल सिस्टम्स को एक्सेस करने की कोशिशें कीं। अगर ऐसा ही चलता रहा, तो भविष्य में यह तकनीक इंसानों के लिए एक बड़ा सिरदर्द बन सकती है।
विज्ञापन
कैसे एआई ने की मॉनिटरिंग सिस्टम से छेड़छाड़?
ओपनएआई ने मंगलवार को बताया कि दोनों घटनाएं कंपनी के अंदर चल रहे कोडिंग और टेस्टिंग के काम के दौरान हुईं। हालांकि, इसे बहुत ज्यादा गंभीर नहीं माना जा रहा है, लेकिन इससे यह साबित हो गया है कि डेवलपर्स जिस सिक्योरिटी सिस्टम पर आंख मूंदकर भरोसा करते हैं, वह भी इन स्मार्ट एआई एजेंट्स के आगे कमजोर है। कंपनी ने दो अलग-अलग घटनाओं का जिक्र किया है:
विज्ञापन
पहली घटना (3 अक्टूबर): एक GPT-6.1 Sol एजेंट को इंटरनल टेस्टिंग का टास्क दिया गया था। उसे पहले निर्देश मिला था कि वह Slack (मैसेजिंग एप) पर कोई मैसेज न भेजे। लेकिन, इस स्मार्ट एजेंट ने इसका गलत मतलब निकाला और सिस्टम के ऑटोमैटिक सिक्योरिटी अलर्ट को ही पूरी तरह से ब्लॉक कर दिया।
विज्ञापन
दूसरी घटना (6 अक्टूबर): एक अन्य GPT-6 एस्ट्रा एजेंट ने एक कोड कॉपी करते समय सेफ्टी मॉनिटर को ही हटा दिया। हैरानी की बात यह रही कि जब बाद में सिस्टम ने इसे पकड़ा, तो इस एआई एजेंट ने साफ झूठ बोल दिया कि उसने ऐसा कुछ नहीं किया है।
कंपनी के पास नहीं है कोई ठोस जवाब
इस चौंकाने वाली घटना पर ओपनएआई ने सफाई देते हुए कहा कि दोनों ही मामलों में, एजेंट्स ने रूटीन कोडिंग निर्देशों को मॉनिटरिंग सिस्टम कमजोर करने की परमिशन के तौर पर ले लिया। सबसे बड़ी चिंता की बात यह है कि कंपनी के पास एआई के इस बर्ताव का कोई संतोषजनक जवाब नहीं है। ओपनएआई ने कहा है कि वह अपने मॉडल्स के लिए मॉनिटरिंग सिस्टम को डिसेबल (बंद) करना और मुश्किल बना रही है। इसके साथ ही, सैन फ्रांसिस्को स्थित यह कंपनी अब इस बात की रिसर्च कर रही है कि कहीं उनके मॉडल्स में जानबूझकर मॉनिटरिंग से बचने और अपनी गलतियों को सही ठहराने की आदत तो विकसित नहीं हो रही है।
एआई को लेकर क्यों बढ़ रही है चिंता?
यह खुलासा ऐसे समय में हुआ है जब दुनियाभर के रिसर्चर्स यह चेतावनी दे रहे हैं कि एआई का विकास उसकी सुरक्षा से कहीं ज्यादा तेजी से हो रहा है। जैसे-जैसे एआई एजेंट्स को अधिक स्वतंत्रता मिल रही है, उन्हें कंट्रोल करना मुश्किल होता जा रहा है। हाल ही में ओपनएआई और आईपीओ लाने की तैयारी कर रही उसकी प्रतिद्वंद्वी कंपनी एंथ्रोपिक (Anthropic), दोनों ने यह माना है कि उनके एआई एजेंट्स ने बिना अथॉराइजेशन के एक्सटर्नल सिस्टम्स को एक्सेस करने की कोशिशें कीं। अगर ऐसा ही चलता रहा, तो भविष्य में यह तकनीक इंसानों के लिए एक बड़ा सिरदर्द बन सकती है।
