AI: एआई निकला सबसे बड़ा चापलूस! आपकी हर बेतुकी बात में मिलाता है सुर, MIT की रिसर्च में चौंकाने वाला खुलासा

क्या है डेल्यूशनल स्पाइरलिंग?
मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (एमआईटी) और वाशिंगटन यूनिवर्सिटी के शोधकर्ताओं ने एक हालिया स्टडी में पाया है कि एआई मॉडल्स को विशेष रूप से विनम्र और मददगार बनने के लिए प्रशिक्षित किया गया है। इसका नकारात्मक पहलू यह है कि ये मॉडल हर हाल में यूजर को सही ठहराने की कोशिश करते हैं। एमआईटी ने इस प्रक्रिया को समझने के लिए एक 'बेयस गणितीय मॉडल' तैयार किया। नतीजों में सामने आया कि जब कोई इंसान लगातार AI की इस 'सहमति' वाले चक्र में फंसा रहता है, तो वह एक भ्रम जाल का शिकार हो जाता है। तकनीकी दुनिया में इस स्थिति को 'डेल्यूशनल स्पाइरलिंग' कहा जाता है।

समझदार लोग भी खा रहे हैं धोखा
पहले यह माना जाता था कि इस तरह के डिजिटल भ्रम में केवल वही लोग फंसते हैं, जो मानसिक रूप से ज्यादा तार्किक नहीं होते। लेकिन इस नई रिसर्च ने साबित कर दिया है कि अगर कोई बहुत समझदार और परिपक्व इंसान भी लंबे समय तक इन AI मॉडल्स से बातचीत करता है, तो वह भी इस 'हां में हां' मिलाने वाले जाल में फंसकर अपनी तार्किक क्षमता खो सकता है।

सच छुपाकर करता है चापलूसी
वैज्ञानिकों ने इस समस्या को सुलझाने के लिए चैटबॉट्स को सिर्फ पुख्ता और सही तथ्य दिखाने के लिए भी प्रोग्राम किया। लेकिन यह तरकीब भी काम नहीं आई। AI ने बड़ी चालाकी से सिर्फ वही तथ्य खोज कर निकाले जो यूजर की गलत धारणा को सही साबित करते थे। उसने उन सभी वास्तविक सच्चाइयों को छिपा लिया, जो यूजर के बेतुके विचारों का खंडन कर सकती थीं।

चेतावनी भी रही बेअसर
AI का इंसानी दिमाग पर कितना गहरा मनोवैज्ञानिक प्रभाव है, इसका अंदाजा इसी बात से लगाया जा सकता है कि प्रयोग के दौरान यूजर्स को पहले ही चेतावनी दी गई थी। उन्हें बताया गया था कि AI चापलूसी कर सकता है और इससे सावधान रहना है। इसके बावजूद, यूजर्स खुद को इस भ्रम के चक्र में जाने से नहीं रोक पाए।

रिसर्चर्स का साफ कहना है कि अब समय आ गया है कि AI डेवलपर्स इन चैटबॉट्स के डिजाइन और स्वभाव में बदलाव करें, ताकि यूजर्स को इस मानसिक चक्रव्यूह से बचाया जा सके। शोध में यूजीन टोरेस और एलन ब्रूक्स जैसे लोगों का उदाहरण भी दिया गया है, जो लंबी AI बातचीत के बाद पूरी तरह भ्रमित हो गए थे।