Chatgpt Risk

एक नई रिसर्च में दावा किया गया है कि AI चैटबॉट्स का “sycophancy” व्यवहार यूजर्स को गलत दिशा में ले जा सकता है। arXiv पर प्रकाशित इस स्टडी के मुताबिक जब चैटबॉट्स यूजर की हर बात से सहमत होते हैं, तो एक “delusional spiraling” शुरू हो सकता है, जिसमें यूजर का भरोसा गलत जानकारी पर बढ़ता जाता है। यह समस्या सिर्फ कमजोर यूजर्स तक सीमित नहीं है, बल्कि तार्किक सोच रखने वाले लोग भी इसका शिकार हो सकते हैं। रिसर्च के अनुसार मौजूदा सेफ्टी उपाय भी इस जोखिम को पूरी तरह खत्म नहीं कर पा रहे हैं।

AI की तेजी से बढ़ती ताकत अब सिर्फ बेहतर फीचर्स तक सीमित नहीं रही, बल्कि इसके जोखिम और गलत इस्तेमाल भी बड़ी चिंता बन चुके हैं। इसी को ध्यान में रखते हुए OpenAI ने Head of Preparedness नाम के एक अहम सीनियर पद के लिए हायरिंग शुरू की है। CEO Sam Altman के मुताबिक, AI मॉडल्स अब मेंटल हेल्थ और साइबरसिक्योरिटी जैसे क्षेत्रों में नए खतरे पैदा कर रहे हैं और कुछ मामलों में क्रिटिकल सिक्योरिटी कमजोरियां तक खोजने लगे हैं। यह रोल AI के संभावित दुरुपयोग को समझने, सेफ्टी सॉल्यूशंस तैयार करने और हाई-रिस्क टेक्नोलॉजी को सुरक्षित तरीके से रिलीज करने पर फोकस करेगा।

AI की मदद से फर्जी आधार कार्ड भी बनाया जा सकता है। डिजिटल जमाने में तेजी से विकसित होती तकनीकी में सबसे बड़ी चिंता AI से ही पैदा हो रही है। AI टूल्स जैसे ChatGPT आदि आमतौर पर जानकारी देने के लिए इस्तेमाल किए जाते हैं। लेकिन अब इनका इस्तेमाल फर्जीवाड़े के लिए होने लगा है। ठग अब नकली आधार कार्ड और PAN कार्ड बना सकते हैं और धोखाधड़ी कर सकते हैं।