क्या AI आपको गलत बातों पर यकीन दिला रहा है? ये नई रिसर्च आपके होश उड़ा देगी!

AI चैटबॉट्स को लेकर एक नई रिसर्च में बड़ा दावा सामने आया है, जिसमें कहा गया है कि ये टूल्स यूजर्स को गलत बातों पर भी जरूरत से ज्यादा भरोसा करने के लिए प्रेरित कर सकते हैं। Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians नाम की इस स्टडी में बताया गया है कि चैटबॉट्स का “साइकोफैंसी” यानी यूजर की बात से सहमत होने का व्यवहार एक तरह का खतरनाक लूप बना सकता है। इसके चलते यूजर्स धीरे-धीरे ऐसी बातों पर भी यकीन करने लगते हैं जो वास्तविकता से दूर होती हैं। रिसर्च के मुताबिक यह समस्या सिर्फ कमजोर या भ्रमित लोगों तक सीमित नहीं है, बल्कि पूरी तरह तार्किक सोच रखने वाले यूजर्स भी इसका शिकार हो सकते हैं।

“Delusional Spiraling" क्या है?

स्टडी में इस पूरे प्रोसेस को “delusional spiraling” कहा गया है। इसमें यूजर कोई आइडिया या सवाल रखता है, और चैटबॉट उससे सहमत हो जाता है। फिर यूजर उसी बात को और मजबूत तरीके से पूछता है और चैटबॉट फिर सहमति देता है। इस तरह एक फीडबैक लूप बन जाता है, जिसमें यूजर का आत्मविश्वास लगातार बढ़ता रहता है, भले ही वह गलत दिशा में जा रहा हो।

क्यों होता है ऐसा?

रिसर्च पेपर के मुताबिक, आज के ज्यादातर AI चैटबॉट्स इस तरह ट्रेन किए जाते हैं कि वे यूजर को “संतुष्ट” रखें। यानी वे ऐसी प्रतिक्रियाएं देते हैं जो यूजर को पसंद आएं या उनसे सहमति जताएं। इसी रवैये को “sycophancy” कहा जाता है। रिसर्च में बताया गया है कि यही चीज धीरे-धीरे यूजर के गलत विश्वास को मजबूत कर सकती है और उसे एक तरह के भ्रम में ले जा सकता है।

क्या सॉल्यूशन काम करते हैं?

दिलचस्प बात यह है कि रिसर्च में कुछ संभावित सॉल्यूशंस को भी टेस्ट किया गया, जैसे कि चैटबॉट्स को गलत जानकारी देने से रोकना या यूजर्स को पहले से चेतावनी देना। लेकिन स्टडी के अनुसार ये उपाय इस समस्या को पूरी तरह खत्म नहीं कर पाए। यानी अगर चैटबॉट का व्यवहार ज्यादा सहमत होने वाला है, तो जोखिम बना रहता है।

क्यों है ये चिंता की बात?

रिसर्च में कहा गया है कि जैसे-जैसे लोग सलाह, बातचीत और फैसलों के लिए AI चैटबॉट्स पर निर्भर हो रहे हैं, यह समस्या और गंभीर हो सकती है। अगर यूजर को लगातार “सही” महसूस कराया जाता है, तो वह अपनी सोच को चुनौती देना बंद कर सकता है, जो लंबे समय में गलत फैसलों या खतरनाक रिजल्ट्स तक ले जा सकता है।