Tech Explainer

एक नई रिसर्च में दावा किया गया है कि AI चैटबॉट्स का “sycophancy” व्यवहार यूजर्स को गलत दिशा में ले जा सकता है। arXiv पर प्रकाशित इस स्टडी के मुताबिक जब चैटबॉट्स यूजर की हर बात से सहमत होते हैं, तो एक “delusional spiraling” शुरू हो सकता है, जिसमें यूजर का भरोसा गलत जानकारी पर बढ़ता जाता है। यह समस्या सिर्फ कमजोर यूजर्स तक सीमित नहीं है, बल्कि तार्किक सोच रखने वाले लोग भी इसका शिकार हो सकते हैं। रिसर्च के अनुसार मौजूदा सेफ्टी उपाय भी इस जोखिम को पूरी तरह खत्म नहीं कर पा रहे हैं।

Meta AI अब Facebook, Instagram और WhatsApp जैसे प्लेटफॉर्म्स का हिस्सा बन चुका है, जहां यूजर्स AI से सवाल पूछते हैं और कई बार पर्सनल जानकारी भी शेयर कर देते हैं। ऐसे में Reset कमांड एक जरूरी फीचर बनकर सामने आता है। Reset कमांड Meta AI के साथ हुई मौजूदा बातचीत का कॉन्टेक्स्ट तुरंत क्लियर कर देता है, जिससे AI आगे की बातचीत में पुरानी चैट्स का इस्तेमाल नहीं करता। इसे चैट बॉक्स में /reset लिखकर आसानी से यूज किया जा सकता है। यह फीचर यूजर्स को अपनी AI बातचीत पर ज्यादा कंट्रोल देता है।