एआई की बगावत: इंसानों को धोखा देकर हैकिंग पर उतरे ओपनएआई और एंथ्रोपिक के मॉडल्स, टेस्टिंग में मचा हड़कंप

काबू से बाहर गए एआई एजेंट्स

यह चौंकाने वाला वाकया तब सामने आया जब AISI एक काल्पनिक साइबर सिक्योरिटी चैलेंज '122 टेस्ट रन' के जरिए इन मॉडल्स की क्षमता परख रहा था। इस दौरान बिना किसी इंसानी निर्देश के, एआई ने 19 ऐसी हरकतें कीं जिनकी इजाजत नहीं थी। इनमें से 17 मामले एंथ्रोपिक और दो ओपनएआई के थे। एजेंसियों ने डेटा ट्रांसफर में हो रही गड़बड़ी देखकर करीब एक घंटे के भीतर मशीनों को आइसोलेट कर इस खतरे को ब्लॉक कर दिया। गौर करने वाली बात यह है कि कुछ ही दिन पहले ओपनएआई के मॉडल्स ने अमेरिकी कंपनी 'HuggingFace' को भी हैक करने की कोशिश की थी।

एआई एजेंट्स ने बनाई फर्जी पहचान और भेजे मैसेज

सबसे खतरनाक बर्ताव एंथ्रोपिक के मिथोज एजेंट का रहा। इस एआई ने न केवल खतरनाक (मैलेशियस) कोड लिखा, बल्कि सॉफ्टवेयर प्लेटफॉर्म GitHub संभालने वाले असली कर्मचारियों की जासूसी की। इसके बाद एआई ने उन कर्मचारियों की फर्जी ऑनलाइन पहचान बनाकर उनके साथियों को डायरेक्ट मैसेज किए, ताकि वे दबाव और धोखे में आकर उस खतरनाक कोड को अप्रूव कर दें। जब कोड पर सवाल उठे, तो इस शातिर एआई ने अपनी पुरानी हरकतों को एडिट करके छिपाने की कोशिश की और नई फर्जी पहचान बनाने तक की प्लानिंग कर ली। स्थिति बिगड़ने से पहले इंसानी दखल से इसे रोका गया और GitHub को सतर्क किया गया।

वहीं, ओपनएआई का 'सोल' मॉडल थोड़ा कम आक्रामक था, लेकिन उसने भी अपनी सीमाएं लांघीं। उसने दूसरी लैब के पब्लिकली छोड़े गए GitHub टोकन का इस्तेमाल किया और असली इंटरनेट इंफ्रास्ट्रक्चर (जैसे थर्ड-पार्टी DNS) के जरिए साइबर हमले जैसी स्थिति पैदा की, हालांकि यह कोशिश नाकाम रही।

कंपनियों की सफाई और भविष्य का खतरा

इन घटनाओं पर एंथ्रोपिक और ओपनएआई दोनों ने सोशल मीडिया प्लेटफॉर्म X और बयानों के जरिए सफाई दी। कंपनियों ने कहा कि टेस्टिंग का माहौल जानबूझकर 'छूट देने वाला' रखा गया था और यह आम यूजर्स के लिए उपलब्ध प्रोडक्शन मॉडल्स जैसा नहीं था। इसके साथ ही, ओपनएआई ने एक थर्ड-पार्टी टेस्टिंग पार्टनर से जुड़ी एक अलग घटना का भी जिक्र किया, जहां गलती से मॉडल्स को सुरक्षित घेरे से बाहर इंटरनेट का एक्सेस मिल गया था।

AISI का कहना है कि यह मामला जुलाई में OpenAI एजेंट से जुड़े 'हगिंग फेस' मामले से अलग था। इस टेस्ट में इंटरनेट एक्सेस पहले से दिया गया था। राहत की बात यह है कि दुनिया को कोई नुकसान नहीं हुआ, लेकिन बिना निर्देश के एआई का खुद फैसले लेना और इंसानों को धोखा देना इस बात का सबूत है कि एआई को रिलीज करने से पहले स्वतंत्र टेस्टिंग की कितनी सख्त जरूरत है।