Sycophantic AI: क्या आपका AI चैटबॉट जी-हुजूरी कर रहा है? सावधान, हर बात पर हां मिलाने से गलत हो सकते हैं फैसल

What is sycophancy: स्टडी में sycophancy का मतलब ऐसे AI सिस्टम्स से है जो यूजर की हर बात से सहमत हो जाते हैं। गलत होने पर भी समर्थन करते हैं और जरूरत पड़ने पर आलोचनात्मक प्रतिक्रिया नहीं देते। यह व्यवहार ऊपर से मददगार लगता है, लेकिन लंबे समय में हानिकारक साबित हो सकता है।

स्टडी में क्या पाया गया?
स्टैनफोर्ड और कार्नेगी मेलन यूनिवर्सिटी के शोधकर्ताओं ने पाया गया कि 11 प्रमुख एआई मॉडल्स इंसानों की तुलना में 49 प्रतिशत ज्यादा बार यूजर्स के गलत कामों को भी सही ठहराते हैं। फिर इसी चापलूसी की वजह से लोग अपनी गलतियों के लिए माफी मांगने या जिम्मेदारी लेने से बचने लगते हैं। हालांकि यूजर्स को ऐसे हां में हां मिलाने वाले एआई ज्यादा पसंद आते हैं, लेकिन यह लंबे समय में उनके मानसिक विकास और सामाजिक संबंधों के लिए खतरनाक है।