चैटजीपीटी कुछ भी हो, डॉक्टर नहीं: एआई मॉडल अक्लमंद हैं, लेकिन इससे इलाज के कारण संकट में भी फंस सकते हैं

सैन फ्रांसिस्को में कैलिफोर्निया की सुपीरियर कोर्ट में दायर इस मुकदमे में ओपनएआई और उसके सीईओ सैम ऑल्टमैन पर लापरवाही और ‘बिना अधिकार के चिकित्सा’ करने का आरोप लगाया गया है। इसमें उन मौकों का जिक्र है, जब चैटबॉट ने विंटर्स को बीमारी का पता लगाने और इलाज के तरीके बताए और उन्हें दोस्तों व परिवार की इलाज कराने की सलाह को नजरअंदाज करने के लिए उकसाया।
यह शायद पहला ऐसा मामला है, जिसमें यह दावा किया गया है कि किसी मेडिकल स्थिति के बारे में सलाह लेने वाले व्यक्ति को चैटबॉट की हेल्थ सलाह से नुकसान पहुंचा। यह मामला ऐसे समय में सामने आया है, जब ओपनएआई, माइक्रोसॉफ्ट और दूसरी बड़ी आर्टिफिशियल इंटेलिजेंस कंपनियों ने चैटजीपीटी हेल्थ जैसी नई सर्विस लॉन्च की हैं, जो उपयोगकर्ताओं को अपने मेडिकल रिकॉर्ड अपलोड करने और एआई से सवाल पूछने के लिए प्रोत्साहित करती हैं।

विंटर्स और उनका पक्ष रखने में मदद कर रही गैर-लाभकारी संस्था ‘टेक जस्टिस लॉ’ आर्थिक मुआवजे की मांग कर रहे हैं। उन्होंने कोर्ट से यह भी कहा है कि जब तक स्वतंत्र मूल्यांकनकर्ता यह तय न कर लें कि चैटजीपीटी हेल्थ सुरक्षित है, तब तक इस पर रोक लगाई जाए। साथ ही, चैटजीपीटी को इलाज और बीमारियों की पहचान से जुड़े सवालों के जवाब देने से रोकने के लिए उपाय किए जाएं। वहीं, ओपनएआई के प्रवक्ता ने कहा कि चैटजीपीटी की सेवा शर्तों में साफ बताया गया है कि इसका इस्तेमाल चिकित्सकीय जांच या इलाज के लिए नहीं किया जाना चाहिए। पर, उन्होंने यह भी कहा कि कंपनी सेहत से जुड़े सवालों के जवाब को जितना हो सके सुरक्षित बनाती है, क्योंकि लोग इसी मकसद से चैटबॉट का इस्तेमाल करते हैं। उन्होंने आगे कहा कि नए मॉडल्स, विंटर्स द्वारा इस्तेमाल किए गए मॉडल की तुलना में बेहतर हैं; ये छूटी हुई जानकारी मांगने, अनिश्चितता बताने और यह पहचानने में ज्यादा सक्षम हैं कि कब पेशेवर चिकित्सकीय मदद की जरूरत हो सकती है। ओपनएआई के अनुसार, हर हफ्ते करोड़ों लोग चैटजीपीटी से सेहत से जुड़े सवाल पूछते हैं।

माइक्रोसॉफ्ट के एक विश्लेषण से पता चला है कि मोबाइल पर उपयोगकर्ताओं के सवालों में सेहत का विषय ‘सबसे आम विषय’ रहा। फिर भी, हाल के शोधों ने स्वास्थ्य सलाह के लिए चैटबॉट की सुरक्षा पर गंभीर सवाल भी उठाए हैं।

बोस्टन के बेथ इस्राइल डिकॉनैस मेडिकल सेंटर के मेडिकल एआई शोधकर्ता डॉ. एडम रोडमैन ने कहा कि विंटर्स के मामले में कई ऐसी बातें थीं, जो सुरक्षा विशेषज्ञों के लिए किसी बुरे सपने जैसी थीं। उन्होंने बताया कि एक तो विंटर्स जीपीटी-4o का इस्तेमाल कर रहे थे, जो एक पुराना मॉडल था और लोगों को खुश करने के लिए बहुत ज्यादा उत्सुक रहता था। यह मॉडल कई बड़े विवादों से जुड़ा रहा है, जिसमें एडम रेने नाम के एक किशोर की मौत भी शामिल है, जिसने चैटजीपीटी के साथ आत्महत्या की योजना पर बात की थी।

तकनीकी वजहों से, विंटर्स की चैटबॉट के साथ लंबी बातचीत की वजह से सेफ्टी फीचर्स का काम करना और मुश्किल हो गया। डॉ. रॉडमैन ने कहा कि नए मॉडल चिंताजनक लक्षणों का पता लगाने और उन पर प्रतिक्रिया देने में कहीं बेहतर हैं। उनका मानना है कि इससे विंटर्स के मामले जैसी घटनाएं कम होंगी। लेकिन उन्होंने चेतावनी भी दी कि ऐसे और भी तरीके हो सकते हैं, जिनसे चैटबॉट्स स्वास्थ्य संबंधी सलाह देने में नाकाम हो सकते हैं, जिनके बारे में हमें अभी तक पता नहीं चला है।

लेंसा एआई
यह कृत्रिम बुद्धिमत्ता (एआई) की मदद से तस्वीरों को बेहतर बनाता है और कलात्मक डिजिटल पोर्ट्रेट तैयार करता है। इसका सबसे चर्चित फीचर एआई अवतार है। इसके लिए उपयोगकर्ता को अपनी 10 से 20 सेल्फी अपलोड करनी होती है। इसके बाद, स्टेबल डिफ्यूजन आधारित एआई मॉडल चेहरे की बनावट, हाव-भाव और अन्य विशेषताओं का विश्लेषण करता है। फिर, यह अलग-अलग कला शैलियों, जैसे पेंटिंग, एनिमे या फैंटेसी थीम में सैकड़ों नई तस्वीरें तैयार करता है। इसके अलावा, यह फोटो की गुणवत्ता बढ़ाने, बैकग्राउंड बदलने व रंगों को आकर्षक बनाने जैसी सुविधाएं भी प्रदान करता है।