AI: इस एआई को चलाने के लिए मिलनी चाहिए गन लाइसेंस! टेस्टर्स ने बताया 'सुपर वेपन', जानिए क्यों

यह दावा Polymarket की ओर से सोशल मीडिया प्लेटफॉर्म X पर की गई एक पोस्ट में सामने आया। पोस्ट के मुताबिक, Anthropic के CEO डारियो अमोडेई ने बताया कि मॉडल का परीक्षण करने वाले कुछ लोगों ने इसकी ताकत को लेकर गंभीर चिंताएं जताई थीं। हालांकि, इस बयान की स्वतंत्र रूप से पुष्टि नहीं हो सकी है और यह भी स्पष्ट नहीं है कि अमोडेई ने यह टिप्पणी कहां की थी।

आखिर क्या है Mythos?

• Mythos एंथ्रोपिक के नए AI मॉडल Fable 5 की आधारभूत तकनीक है। कंपनी ने अप्रैल में इसकी झलक दिखाई थी, लेकिन इसे आम लोगों के लिए जारी नहीं किया। वजह थी इसकी असाधारण क्षमता और उससे जुड़ी सुरक्षा चिंताएं।
विज्ञापन
• कंपनी का मानना था कि अगर यह तकनीक गलत हाथों में पहुंच गई, तो इसका इस्तेमाल बैंकिंग सिस्टम जैसे महत्वपूर्ण ढांचों को हैक करने या जैविक हथियार विकसित करने जैसी गतिविधियों में किया जा सकता है।
• Anthropic के अनुसार, Mythos ने परीक्षण के दौरान लगभग हर बड़े ऑपरेटिंग सिस्टम और वेब ब्राउजर में सुरक्षा खामियां खोज निकालीं। इनमें से कुछ कमजोरियां कथित तौर पर कई दशकों से छिपी हुई थीं और अब तक सामने नहीं आई थीं।

चुनिंदा कंपनियों तक ही सीमित रखा गया

• इन्हीं जोखिमों को देखते हुए कंपनी ने "प्रोजेक्ट ग्लासविंग" नाम का एक नियंत्रित कार्यक्रम शुरू किया। इसके तहत Mythos को केवल करीब 50 भरोसेमंद संस्थाओं के साथ साझा किया गया। इनमें Google, Apple, Amazon, Microsoft और CrowdStrike जैसी बड़ी कंपनियां शामिल थीं। इसका मकसद साइबर सुरक्षा को मजबूत बनाने के लिए रक्षात्मक शोध करना था।
• पिछले सप्ताह Anthropic ने Mythos का एक नया संस्करण जारी किया, जिसमें कई सुरक्षा प्रतिबंध जोड़े गए हैं। कंपनी के मुताबिक, यदि कोई व्यक्ति Fable 5 का उपयोग किसी महत्वपूर्ण सिस्टम को हैक करने या जैविक हथियार बनाने जैसे जोखिम भरे कामों के लिए करने की कोशिश करेगा, तो मॉडल स्वतः कम क्षमता वाले पुराने संस्करण Claude Opus 4.8 पर लौट जाएगा।
• AI मॉडल्स की क्षमता पर नजर रखने वाली संस्था Vals AI के अनुसार, Fable 5 वर्तमान में सार्वजनिक रूप से उपलब्ध सबसे सक्षम AI मॉडल्स में से एक है और उसके बेंचमार्क परीक्षणों में शीर्ष स्थान पर रहा।

अमेरिकी सरकार ने लगाया तत्काल बैन

• मामला तब और गंभीर हो गया जब अमेरिकी सरकार ने Anthropic को आदेश दिया कि वह अपने दो सबसे शक्तिशाली मॉडल्स Claude Fable 5 और Claude Mythos 5 तक विदेशी नागरिकों की पहुंच तुरंत खत्म करे। सरकार ने इसके पीछे राष्ट्रीय सुरक्षा संबंधी चिंताओं का हवाला दिया।
• इस आदेश का पालन करते हुए Anthropic ने सभी विदेशी उपयोगकर्ताओं की पहुंच अस्थायी रूप से रोक दी। आदेश केवल अमेरिका के बाहर रहने वालों पर ही नहीं, बल्कि अमेरिका में मौजूद विदेशी नागरिकों पर भी लागू था।

रिपोर्ट के मुताबिक, सरकार को आशंका है कि इन मॉडल्स में "जेलब्रेक" की संभावना हो सकती है। AI की भाषा में जेलब्रेक ऐसी तकनीक को कहा जाता है, जिसके जरिए किसी मॉडल की सुरक्षा सीमाओं को पार कर उससे ऐसे जवाब हासिल किए जा सकते हैं, जिन्हें देने से वह सामान्य तौर पर इनकार करता है। यही वजह है कि Anthropic के सबसे शक्तिशाली AI मॉडल्स अब तकनीकी क्षमता के साथ-साथ सुरक्षा और राष्ट्रीय हितों को लेकर भी बड़ी बहस का विषय बन गए हैं।