OpenAI का बड़ा खुलासा: ChatGPT पर आंख मूंदकर भरोसा न करें, कंपनी के हेड ने बताए कारण

क्यों खतरनाक है केवल AI पर निर्भर रहना?
टर्ली ने एक इंटरव्यू में बताया कि GPT-5 की सटीकता पहले से ज्यादा है, लेकिन अब भी करीब 10% मामलों में यह गलत जवाब देता है। इसे तकनीकी भाषा में AI हैलुसिनेशन कहा जाता है, यानी जब मशीन तथ्य की बजाय काल्पनिक जानकारी गढ़ देती है।

यह भी पढ़ें: 1 अक्टूबर से यूपीआई का बड़ा बदलाव, बंद होगी ‘कलेक्ट रिक्वेस्ट’ सर्विस, जानें क्यों लिया गया फैसला

उनका कहना है, “जब तक एआई हर क्षेत्र में इंसानी विशेषज्ञों से ज्यादा विश्वसनीय नहीं हो जाता, तब तक हम यूजर्स को सलाह देंगे कि इसे प्राइमरी सोर्स न मानें। बेहतर होगा कि इसे दूसरे विचार या सहायक टूल की तरह इस्तेमाल किया जाए।”

AI कैसे करता है गलती
बड़े भाषा मॉडल्स (LLMs) दरअसल एक पैटर्न पर काम करते हैं। ये प्रशिक्षण डेटा के आधार पर अगले शब्द का अनुमान लगाते हैं। ऐसे में जब इन्हें ट्रेनिंग डेटा से बाहर की जानकारी पर सवाल किया जाता है, तो ये अक्सर सही लगने वाले लेकिन गलत जवाब दे देते हैं।

समाधान क्या है?
निक टर्ली मानते हैं कि ChatGPT तब सबसे अच्छा काम करता है जब इसे सर्च इंजन जैसे सत्यापित स्रोतों के साथ जोड़ा जाए। उन्होंने कहा, “हमने चैटजीपीटी में सर्च फीचर जोड़ा है ताकि यह ग्राउंड ट्रुथ से जुड़ सके। यही इस प्रोडक्ट की असली ताकत है।” हालांकि वे आश्वस्त हैं कि भविष्य में हैलुसिनेशन की समस्या खत्म हो जाएगी, लेकिन निकट भविष्य में यह मुमकिन नहीं है।

यह भी पढ़ें: ऑफिस लैपटॉप में WhatsApp Web चलाते हैं? सरकार ने दी कड़ी चेतावनी, खतरे में पड़ सकती है आपकी प्राइवेसी

ओपनएआई की अगली बड़ी योजना
जानकारी के मुताबिक, ओपनएआई जल्द ही अपना खुद का ब्राउजर लॉन्च करने पर काम कर रहा है। इसके अलावा कंपनी के सीईओ सैम ऑल्टमैन ने हाल ही में कहा कि अगर गूगल को अपना क्रोम ब्राउजर बेचना पड़ा, तो ओपनएआई उसे खरीदने में दिलचस्पी रखेगा।