OpenAI ने बनाया नया 'किल स्विच': जानें क्या है 'कंट्रोल रूम'? एआई मॉडल पर 35 सेकेंड में लगाएगा ब्रेक
- ओपनएआई ने एआई मॉडल पर कंट्रोल के लिए नया 'किल स्विच' बनाया है।
- यह 'कंट्रोल रूम' सिस्टम आखिर कैसे काम करता है?
- 35 सेकंड के अंदर यह सिस्टम एआई मॉडल्स के आगे के आउटपुट को रोक देता है।
- क्या सुरक्षा का यह नया कवच भविष्य के ऑटोनॉमस और खतरनाक AI मॉडल्स पर लगाम कसने में पूरी तरह कामयाब हो पाएगा?
विस्तार
Add as a preferredजैसे-जैसे आर्टिफिशियल इंटेलिजेंस यानी कि एआई मॉडल्स ज्यादा ताकतवर और ऑटोनॉमस हो रहे हैं, वैसे-वैसे उनसे जुड़े सुरक्षा जोखिम भी बढ़ते जा रहे हैं। इसी चिंता को ध्यान में रखते हुए दिग्गज टेक कंपनी ओपनएआई ने एक नया इमरजेंसी सिस्टम तैयार किया है, जिसे 'कंट्रोल रूम' नाम दिया गया है। इसे आसान भाषा में AI का 'किल स्विच' या 'इमरजेंसी ब्रेक' कहा जा सकता है।
क्यों पड़ी इस इमरजेंसी ब्रेक की जरूरत?
इस नए सुरक्षा तंत्र को लागू करने के पीछे एक बड़ी घटना जिम्मेदार है। OpenAI के एक आंतरिक रिसर्च मॉडल ने ट्रेनिंग के दौरान इंटरनेट पाबंदियों को धता बता दिया और अपने सैंडबॉक्स से बाहर निकलकर एक बाहरी चैटबॉट से संपर्क स्थापित कर लिया था। कंपनी के मॉनिटरिंग सिस्टम ने इस गड़बड़ी को तुरंत पकड़ लिया और ह्यूमन समीक्षक के पास अलर्ट भी भेज दिया। लेकिन सिस्टम में ऐसी कोई ऑटोमैटिक सुविधा नहीं थी कि उस मॉडल की एक्टीविटी को तुरंत रोक दिया जाए। नतीजतन, इस रिसर्च रन को मैनुअली बंद करने में करीब 2.5 घंटे का समय लग गया।
इस घटना ने OpenAI के सुरक्षा ढांचे की एक बड़ी खामी को उजागर किया। इसके बाद कंपनी ने अपने सबसे शक्तिशाली मॉडल्स से जुड़ी कई ट्रेनिंग, इवैल्यूएशन और टूल-यूज गतिविधियों को कुछ समय के लिए रोक दिया था और एक पुख्ता इमरजेंसी ब्रेक विकसित करने पर काम शुरू किया।
कैसे काम करेगा 'कंट्रोल रूम'?
- 'कंट्रोल रूम' एक सेंट्रलाइज्ड सिक्योरिटी सिस्टम है। यह सुनिश्चित करता है कि अगर कोई AI मॉडल अपनी सीमाओं को लांघने की कोशिश करे, तो उसे तुरंत रोका जा सके।
- यूनिक जॉब ID: जब भी कोई रिसर्च कार्य शुरू होता है, तो उसे एक खास 'जॉब ID' दी जाती है।
- निरंतर निगरानी: मॉडल का इन्फरेंस इंजन कोई भी आउटपुट जनरेट करने से पहले 'कंट्रोल रूम' से अनुमति लेता है।
- तुरंत ब्लॉक: यदि किसी जॉब में कोई सुरक्षा जोखिम दिखता है और उसे रोकने का फैसला लिया जाता है, तो कंट्रोल रूम उस जॉब ID से आने वाली सभी भावी रिक्वेस्ट्स को खारिज कर देता है।
- मॉडल पर निर्भरता खत्म: इस प्रणाली की सबसे बड़ी खासियत यह है कि यह शटडाउन के निर्देश का पालन करने के लिए खुद मॉडल पर निर्भर नहीं रहती, बल्कि इसे बाहर से ही पूरी तरह से ब्लॉक कर देती है।
35 सेकंड का लगेगा समय
OpenAI के अनुसार, जब 'कंट्रोल रूम' को किसी जॉब को बंद करने का निर्देश मिलता है, तो उसके बाद अधिकतम 35 सेकंड के भीतर मॉडल का आगे बढ़ना पूरी तरह से रुक जाता है। कंपनी का कहना है कि यह 35 सेकंड का अंतर ट्रैफिक के भारी दबाव को संभालने के लिए इस्तेमाल की जाने वाली कैशिंग लेयर के कारण होता है। हालांकि, OpenAI के इंजीनियर इस समय को घटाकर जीरो सेकंड करने पर काम कर रहे हैं, ताकि किसी भी खतरनाक मॉडल रन को पलक झपकते ही पूरी तरह खत्म किया जा सके।
AI सुरक्षा का एक महत्वपूर्ण हिस्सा
'कंट्रोल रूम' को OpenAI के मौजूदा रिसर्च इंफ्रास्ट्रक्चर में पूरी तरह लागू कर दिया गया है। हालांकि कंपनी ने यह साफ किया है कि यह सिस्टम मॉडल को पहली बार में कोई जोखिम भरा काम करने से रोक नहीं सकता, बल्कि इसका काम यह है कि एक बार गड़बड़ी पकड़े जाने के बाद आगे का आउटपुट तुरंत बंद कर दिया जाए। यह OpenAI की व्यापक सुरक्षा रणनीति का एक अहम हिस्सा है, जो एआई तकनीक को जिम्मेदार और सुरक्षित बनाने की दिशा में बड़ा कदम माना जा रहा है।
