Grok Verify: सबसे बड़ा फैक्ट चेकर बन गया ग्रोक, लोगों का बढ़ता भरोसा करना कितना है सही?
ग्रोक और परप्लेक्सिटी जैसे चैटबॉट कई बार ऐसी जानकारी बना लेते हैं जो पूरी तरह गलत होती है, लेकिन उसे आत्मविश्वास के साथ सच की तरह प्रस्तुत करते हैं। ये बॉट्स स्रोतों की जांच नहीं करते और ना ही किसी संपादकीय मानक का पालन करते हैं। यह बात खुद xAI ने अपने टर्म्स ऑफ सर्विस में स्वीकार की है, “AI आउटपुट में कल्पनात्मक बातें हो सकती हैं, जो सटीक नहीं हैं।”
विस्तार
हाल के दिनों में आपने एक्स पूर्व में ट्विटर पर देखा होगा कि लोग किसी भी पोस्ट में @GROK को टैग करते हुए पूछ रहे हैं कि क्या यह सच है? ग्रोक जो जवाब दे रहा है लोग उस पर भरोसा कर रहे हैं। भारत-पाकिस्तान संघर्ष के दौरान, जब जमीन पर गोलियां चल रही थीं, तब इंटरनेट पर एक अलग ही युद्ध छिड़ा हुआ था, झूठ और सच्चाई की लड़ाई। प्रेस इंफॉर्मेशन ब्यूरो (PIB) और स्वतंत्र फैक्ट-चेकर्स जहां गलत खबरों और एआई द्वारा बनाई गई झूठी सूचनाओं को खारिज करने में लगे थे, वहीं कई यूजर्स ने ग्रोक (Grok) और एआई चैटबॉट Ask Perplexity जैसे टूल्स का सहारा लेना शुरू किया, लेकिन क्या ये एआई चैटबॉट्स सच में भरोसेमंद फैक्ट चेकर हैं?
क्यों नहीं हैं एआई चैटबॉट्स भरोसेमंद फैक्ट-चेकर?
1. हेल्यूसिनेशन (Hallucination): झूठ को सच की तरह पेश करना
ग्रोक और परप्लेक्सिटी जैसे चैटबॉट कई बार ऐसी जानकारी बना लेते हैं जो पूरी तरह गलत होती है, लेकिन उसे आत्मविश्वास के साथ सच की तरह प्रस्तुत करते हैं। ये बॉट्स स्रोतों की जांच नहीं करते और ना ही किसी संपादकीय मानक का पालन करते हैं। यह बात खुद xAI ने अपने टर्म्स ऑफ सर्विस में स्वीकार की है, “AI आउटपुट में कल्पनात्मक बातें हो सकती हैं, जो सटीक नहीं हैं।”
2. पूर्वाग्रह और पारदर्शिता की कमी
Mahadevan के अनुसार, चैटबॉट्स उन्हीं विचारों को दर्शाते हैं जिनके आधार पर उन्हें प्रशिक्षित किया गया है। उदाहरण के लिए, ग्रोक ने हाल ही में ‘white genocide’ जैसे नस्लीय और भ्रामक दावे को बढ़ावा दिया, जिसे एलन मस्क के निजी विचारों से जोड़ा गया।
3. स्केल और स्पीड: एक गलती, लाखों तक पहुंच
ग्रोक जैसे चैटबॉट्स लाखों लोगों तक तुरंत पहुंच सकते हैं, जिससे कोई भी गलती व्यापक असर डाल सकती है। जब इन चैटबॉट्स की गलत जानकारी को लोग सबूत मानने लगते हैं, तो खतरा कई गुना बढ़ जाता है।
लोग फिर भी भरोसा क्यों करते हैं?
एआई मॉडल "नॉन-डिटरमिनिस्टिक" होते हैं यानी एक ही सवाल का जवाब हर बार एक जैसा नहीं होगा। इसका एक बड़ा कारण है “टेम्परेचर” सेटिंग। जब ग्रोक कभी सही जवाब देता है, तो यूजर उसे पूरी तरह विश्वसनीय मानने लगते हैं और यही सबसे बड़ी गलती है।
क्या करना चाहिए एआई कंपनियों को?
- सटीकता को प्राथमिकता दें: अगर स्रोत प्रमाणिक नहीं है तो बॉट को जवाब देने से बचना चाहिए।
- अविश्वसनीय उत्तरों को चिन्हित करें: ऐसे जवाबों को फ्लैग करना जरूरी है।
- पारदर्शिता लाएं: किस स्रोत से जानकारी ली गई है, ये स्पष्ट होना चाहिए।
