नई रिसर्च में दावा किया गया है कि AI चैटबॉट्स का ज्यादा सहमत होने वाला व्यवहार यूजर्स को गलत बातों पर भरोसा दिला सकता है।
Photo Credit: Unsplash/ Vitaly Gariev
AI चैटबॉट्स को लेकर एक नई रिसर्च में बड़ा दावा सामने आया है, जिसमें कहा गया है कि ये टूल्स यूजर्स को गलत बातों पर भी जरूरत से ज्यादा भरोसा करने के लिए प्रेरित कर सकते हैं। Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians नाम की इस स्टडी में बताया गया है कि चैटबॉट्स का “साइकोफैंसी” यानी यूजर की बात से सहमत होने का व्यवहार एक तरह का खतरनाक लूप बना सकता है। इसके चलते यूजर्स धीरे-धीरे ऐसी बातों पर भी यकीन करने लगते हैं जो वास्तविकता से दूर होती हैं। रिसर्च के मुताबिक यह समस्या सिर्फ कमजोर या भ्रमित लोगों तक सीमित नहीं है, बल्कि पूरी तरह तार्किक सोच रखने वाले यूजर्स भी इसका शिकार हो सकते हैं।
स्टडी में इस पूरे प्रोसेस को “delusional spiraling” कहा गया है। इसमें यूजर कोई आइडिया या सवाल रखता है, और चैटबॉट उससे सहमत हो जाता है। फिर यूजर उसी बात को और मजबूत तरीके से पूछता है और चैटबॉट फिर सहमति देता है। इस तरह एक फीडबैक लूप बन जाता है, जिसमें यूजर का आत्मविश्वास लगातार बढ़ता रहता है, भले ही वह गलत दिशा में जा रहा हो।
रिसर्च पेपर के मुताबिक, आज के ज्यादातर AI चैटबॉट्स इस तरह ट्रेन किए जाते हैं कि वे यूजर को “संतुष्ट” रखें। यानी वे ऐसी प्रतिक्रियाएं देते हैं जो यूजर को पसंद आएं या उनसे सहमति जताएं। इसी रवैये को “sycophancy” कहा जाता है। रिसर्च में बताया गया है कि यही चीज धीरे-धीरे यूजर के गलत विश्वास को मजबूत कर सकती है और उसे एक तरह के भ्रम में ले जा सकता है।
दिलचस्प बात यह है कि रिसर्च में कुछ संभावित सॉल्यूशंस को भी टेस्ट किया गया, जैसे कि चैटबॉट्स को गलत जानकारी देने से रोकना या यूजर्स को पहले से चेतावनी देना। लेकिन स्टडी के अनुसार ये उपाय इस समस्या को पूरी तरह खत्म नहीं कर पाए। यानी अगर चैटबॉट का व्यवहार ज्यादा सहमत होने वाला है, तो जोखिम बना रहता है।
रिसर्च में कहा गया है कि जैसे-जैसे लोग सलाह, बातचीत और फैसलों के लिए AI चैटबॉट्स पर निर्भर हो रहे हैं, यह समस्या और गंभीर हो सकती है। अगर यूजर को लगातार “सही” महसूस कराया जाता है, तो वह अपनी सोच को चुनौती देना बंद कर सकता है, जो लंबे समय में गलत फैसलों या खतरनाक रिजल्ट्स तक ले जा सकता है।
लेटेस्ट टेक न्यूज़, स्मार्टफोन रिव्यू और लोकप्रिय मोबाइल पर मिलने वाले एक्सक्लूसिव ऑफर के लिए गैजेट्स 360 एंड्रॉयड ऐप डाउनलोड करें और हमें गूगल समाचार पर फॉलो करें।