AI In Healthcare: एआई से लेते हैं बीमारी और दवाओं की जानकारी? जान लीजिए कितने भरोसेमंद हैं इसके जवाब

एआई-आधारित चैटबॉट की जानकारियां कितनी विश्वसनीय?

ब्रिटिश मेडिकल जर्नल में प्रकाशित एक रिपोर्ट में विशेषज्ञों की टीम ने खुलासा किया है कि एआई-आधारित चैटबॉट लगभग आधे से ज्यादा समय मेडिकल से संबंधित सही जानकारियां नहीं देते हैं, जिससे यूजर्स को अनावश्यक नुकसान पहुंचने की आशंका बनी रहती है।

एआई हेल्थकेयर सेक्टर में अब तक कई कारगर चीजें कर चुका है, चिकित्सा के क्षेत्र में लाभ पहुंचाने की अपार क्षमता होने के बावजूद, चैटबॉट अक्सर पक्षपातपूर्ण ट्रेनिंग के कारण गलत या गुमराह करने वाले जवाब देते हैं।

• विशेषज्ञों ने बताया कि तथ्यों के बजाय एआई चैटबॉट उन जवाबों को प्राथमिकता देते हैं जो यूजर की सोच और मान्यताओं से मेल खाते हैं।
• स्वास्थ्य के संबंध में ऐसी जानकारियां मुश्किलें बढ़ाने वाली हो सकती हैं, जिसको लेकर सभी लोगों को सावधान रहने की जरूरत है।

अध्ययन में क्या पता चला?

रिपोर्ट में कहा गया है कि दुनियाभर में बड़ी संख्या में लोग, अपनी रोजमर्रा की कई जानकारियों के लिए नियमित रूप से एआई-आधारित चैटबॉट का इस्तेमाल करते हैं, ऐसे में बेहतर रेगुलेशन की जरूरत है। हेल्थ की जानकारियों के लिए ओपनएआई का चैटबॉट सबसे ज्यादा इस्तेमाल होने वाला मॉडल है। हालांकि इसमें पाया गया है कि आधे से ज्यादा मामलों में इसने सही ढंग से मामलों की जांच नहीं की। 
 

• इस समीक्षा के आधार पर, मौजूदा अध्ययन में पांच लोकप्रिय चैटबॉट की जांच की गई। 
• टीम ने हर चैटबॉट से कैंसर, वैक्सीन, स्टेम सेल, पोषण से जुड़े 10 सवाल पूछे। 
• ये सभी ऐसे विषय हैं जिनमें गलत जानकारी फैलने का खतरा रहता है और इसलिए इनका सार्वजनिक स्वास्थ्य पर असर पड़ सकता है। 
• ये सवाल आम जानकारी मांगने वाले सवालों की तरह ही बनाए गए थे, जैसे- क्या विटामिन डी सप्लीमेंट कैंसर से बचाते हैं? और 'क्या कोविड-19 वैक्सीन सुरक्षित हैं?'

भरोसेमंद नहीं है एआई से ली गई मेडिकल जानकारियां

ओपन-एंडेड सवालों में आमतौर पर चैटबॉट से कई जवाब देने की उम्मीद की जाती है जैसे कि क्या से खाने से कैंसर होता है, पूरी सेहत के लिए कौन से सप्लीमेंट सबसे अच्छे हैं, और शारीरिक शक्ति बढ़ाने के लिए कौन सा व्यायाम सबसे अच्छा है?
 

• एआई के जवाबों को तीन कैटेगरी में बांटा गया-कोई समस्या नहीं, कुछ हद तक समस्याग्रस्त, या बहुत ज्यादा समस्याग्रस्त।
• इसमें पाया गया कि एआई के आधे से ज्यादा जवाब ऐसे थे, जो यूजर्स को ऐसे इलाज की तरफ ले जा सकते था जो शायद असरदार न हो, या जिसे बिना किसी एक्सपर्ट की सलाह के अपनाने पर बेवजह नुकसान हो सकता था।

एआई चैटबॉट का इस्तेमाल करते समय बरतें सावधानी

शोधकर्ताओं ने पाया कि प्रॉम्प्ट किस तरह का है इसका भी जवाब की सटीकता के स्तर पर काफी असर पड़ता है।
 

• विशेषज्ञों ने कहा, निष्कर्ष में पाया गया है कि चैटबॉट ऐसी प्रतिक्रियाएं दे सकते हैं जो सुनने में तो डॉक्टर की सलाह जैसे लगें, लेकिन उनमें संभावित रूप से गलतियां हो सकती हैं।
• जैसे-जैसे एआई चैटबॉट का इस्तेमाल बढ़ता जा रहा है, हमारा डेटा इस बात पर जोर देता है कि लोगों को जागरूक करने और इन जानकारियों पर निगरानी की जरूरत है। 

विशेषज्ञों ने कहा, कई मामलों में ऐसे देखा गया है कि एआई से ली गई गलत जानकारियों का लोगों की सेहत पर बुरा असर पड़ा। अमर उजाला में प्रकाशित एक रिपोर्ट में हमने बताया था कि किस तरह से एआई से पूछकर ली गई दवा का शरीर में खतरनाक रिएक्शन हो गया था। पूरी रिपोर्ट पढ़ने के लिए यहां क्लिक करें

--------------
स्रोत:
Generative artificial intelligence-driven chatbots and medical misinformation: an accuracy, referencing and readability audit 

अस्वीकरण: अमर उजाला की हेल्थ एवं फिटनेस कैटेगरी में प्रकाशित सभी लेख डॉक्टर, विशेषज्ञों व अकादमिक संस्थानों से बातचीत के आधार पर तैयार किए जाते हैं। लेख में उल्लेखित तथ्यों व सूचनाओं को अमर उजाला के पेशेवर पत्रकारों द्वारा जांचा व परखा गया है। इस लेख को तैयार करते समय सभी तरह के निर्देशों का पालन किया गया है। संबंधित लेख पाठक की जानकारी व जागरूकता बढ़ाने के लिए तैयार किया गया है। अमर उजाला लेख में प्रदत्त जानकारी व सूचना को लेकर किसी तरह का दावा नहीं करता है और न ही जिम्मेदारी लेता है। उपरोक्त लेख में उल्लेखित संबंधित बीमारी के बारे में अधिक जानकारी के लिए अपने डॉक्टर से परामर्श लें।