एआई पर आंख मूंदकर भरोसा क्यों न करें: सत्य नडेला ने बताया- जरूरत पड़ने पर कैसे रोक सकते हैं सिस्टम

एआई को बीच में ही रोकना क्यों जरूरी?
नडेला का कहना है कि कंपनियों को सिर्फ एआई बनाने वाली कंपनियों के भरोसे नहीं रहना चाहिए। उन्हें अपने यहां भी ऐसा इंतजाम करना चाहिए, जिससे जरूरत पड़ने पर कोई अधिकृत व्यक्ति एआई का काम तुरंत रोक सके। उन्होंने इसकी तुलना गाड़ी के इमरजेंसी ब्रेक से की। जैसे खतरा होने पर ब्रेक लगाकर गाड़ी रोकी जाती है, वैसे ही एआई को भी जरूरत पड़ने पर बंद किया जा सके।

इसके लिए कंपनियों को क्या करना चाहिए?

• एआई में गड़बड़ी के लिए तैयार रहें: कंपनियों को पहले से मानकर चलना चाहिए कि एआई में कोई समस्या आ सकती है। इसलिए उसकी सुरक्षा के इंतजाम शुरुआत से ही होने चाहिए।
विज्ञापन
विज्ञापन
• एआई को बंद करने का इंतजाम रखें: जरूरत पड़ने पर अधिकृत व्यक्ति एआई का काम तुरंत रोक सकें। इसके लिए पहले से व्यवस्था बनाना जरूरी है।
• एक ही एआई पर निर्भर न रहें: जरूरी फैसले लेने के लिए कंपनियों को केवल एक एआई मॉडल पर भरोसा नहीं करना चाहिए।
• एआई के काम का रिकॉर्ड रखें: एआई ने कब और क्या काम किया, इसका रिकॉर्ड रखा जाना चाहिए। रिकॉर्ड ऐसा हो, जिसमें कोई छेड़छाड़ न कर सके।
• एआई की स्वतंत्र जांच कराएं: एआई सिस्टम की जांच ऐसी टीम से कराई जानी चाहिए, जो उसकी खामियों और सुरक्षा से जुड़ी समस्याओं का पता लगा सके।
• गलतियों की जानकारी साझा करें: एआई में कोई बड़ी गड़बड़ी या सुरक्षा से जुड़ी समस्या सामने आए, तो उसकी जानकारी दूसरे संगठनों के साथ भी साझा करनी चाहिए। इससे वे भी अपनी सुरक्षा बेहतर कर सकेंगे।
• एआई के काम पर नजर रखें: कंपनियों को यह समझने की कोशिश करनी चाहिए कि एआई कैसे काम करता है, उसकी सीमाएं क्या हैं और जरूरत पड़ने पर उसे कैसे नियंत्रित किया जा सकता है।

एआई की सुरक्षा को लेकर चिंता क्यों बढ़ रही है?
आजकल एआई ऐसे काम भी करने लगा है, जिनमें हर कदम पर इंसान की मदद जरूरी नहीं होती। ये सिस्टम खुद फैसले ले सकते हैं, दूसरी वेबसाइटों और तकनीकी प्रणालियों से जुड़ सकते हैं और कई काम पूरे कर सकते हैं। ऐसे में अगर एआई गलत फैसला ले या उसकी सुरक्षा में सेंध लग जाए, तो परेशानी बढ़ सकती है। हाल के महीनों में एआई कंपनियों एंथ्रोपिक और ओपनएआई के मॉडलों से जुड़ी कुछ अनपेक्षित घटनाएं सामने आई हैं। इनमें एंथ्रोपिक के एक मॉडल की ओर से पुलिस को हत्या के एक मामले में गलत जानकारी देने और कुछ अन्य मामलों में तीसरी पक्ष की वेबसाइटों से जुड़े सुरक्षा उल्लंघनों का जिक्र किया गया है।

क्या एआई के जवाबों पर आंख मूंदकर भरोसा करना सही है?
नडेला ने कहा कि भविष्य में एआई और ज्यादा ताकतवर हो सकता है, लेकिन उसके काम करने के तरीके को समझे बिना उस पर भरोसा नहीं करना चाहिए। उन्होंने ऐसे सिस्टम को ‘ब्लैक बॉक्स’ की तरह मानने से आगाह किया, जिसके अंदर क्या हो रहा है, यह समझना मुश्किल हो। कंपनियों को एआई के जवाबों और सुझावों की जांच करनी चाहिए। साथ ही यह भी देखना चाहिए कि वह किन कामों में सही है और कहां गलती कर सकता है।

नडेला ने कहा, 'हमें बुद्धिमत्ता की आपूर्ति और उस पर अधिकार के बीच स्पष्ट अंतर करना होगा।” आसान शब्दों में कहें तो एआई से काम लेना अलग बात है और उसे नियंत्रण में रखना अलग। कंपनियों को एआई की मदद लेने के साथ यह भी सुनिश्चित करना होगा कि जरूरत पड़ने पर उसके काम को रोका जा सके और उसकी गतिविधियों पर नजर रखी जा सके।'