Chatgpt Risk

OpenAI CEO Sam Altman ने AI के तेजी से हो रहे डेवलपमेंट को लेकर सावधानी बरतने की बात कही है। उन्होंने कहा कि AI मॉडल्स की क्षमता जिस तेजी से बढ़ रही है, उसके साथ सुरक्षा और निगरानी के उपायों को भी आगे बढ़ाना जरूरी है। Altman ने साफ किया कि AI के विकास की रफ्तार कम करने का मतलब इसे पूरी तरह रोकना नहीं है। हालांकि, जरूरत पड़ने पर कंपनियों को विकास की गति कम करनी चाहिए। उन्होंने यह भी कहा कि प्रतिस्पर्धा का दबाव AI कंपनियों को लापरवाही करने का कारण नहीं बनना चाहिए। Altman ने इंसानों के AI पर नियंत्रण खोने और इसकी ताकत किसी एक समूह के हाथ में जाने को बड़ा खतरा बताया है।

सोशल मीडिया पर ट्रैवल फोटो शेयर करने वाले यूजर्स के लिए एक पुरानी लेकिन अहम रिसर्च फिर चर्चा में है। McAfee ने जुलाई 2026 में 21,236 ट्रैवल तस्वीरों पर AI की क्षमता को टेस्ट किया था। रिसर्च में Qwen 3 VL 30B ने 91 प्रतिशत और Gemma 3 27B ने 87 प्रतिशत मामलों में तस्वीर से शहर और देश की पहचान की। इसके लिए फोटो में GPS टैग होना जरूरी नहीं था। AI तस्वीर में मौजूद लैंडमार्क, साइनबोर्ड, सड़क, भाषा, इमारत और दूसरे विजुअल संकेतों का इस्तेमाल कर सकता है। McAfee ने 102 निजी तस्वीरों पर भी ChatGPT, Claude और Copilot के साथ टेस्ट किया।

एक नई रिसर्च में दावा किया गया है कि AI चैटबॉट्स का “sycophancy” व्यवहार यूजर्स को गलत दिशा में ले जा सकता है। arXiv पर प्रकाशित इस स्टडी के मुताबिक जब चैटबॉट्स यूजर की हर बात से सहमत होते हैं, तो एक “delusional spiraling” शुरू हो सकता है, जिसमें यूजर का भरोसा गलत जानकारी पर बढ़ता जाता है। यह समस्या सिर्फ कमजोर यूजर्स तक सीमित नहीं है, बल्कि तार्किक सोच रखने वाले लोग भी इसका शिकार हो सकते हैं। रिसर्च के अनुसार मौजूदा सेफ्टी उपाय भी इस जोखिम को पूरी तरह खत्म नहीं कर पा रहे हैं।

AI की तेजी से बढ़ती ताकत अब सिर्फ बेहतर फीचर्स तक सीमित नहीं रही, बल्कि इसके जोखिम और गलत इस्तेमाल भी बड़ी चिंता बन चुके हैं। इसी को ध्यान में रखते हुए OpenAI ने Head of Preparedness नाम के एक अहम सीनियर पद के लिए हायरिंग शुरू की है। CEO Sam Altman के मुताबिक, AI मॉडल्स अब मेंटल हेल्थ और साइबरसिक्योरिटी जैसे क्षेत्रों में नए खतरे पैदा कर रहे हैं और कुछ मामलों में क्रिटिकल सिक्योरिटी कमजोरियां तक खोजने लगे हैं। यह रोल AI के संभावित दुरुपयोग को समझने, सेफ्टी सॉल्यूशंस तैयार करने और हाई-रिस्क टेक्नोलॉजी को सुरक्षित तरीके से रिलीज करने पर फोकस करेगा।

AI की मदद से फर्जी आधार कार्ड भी बनाया जा सकता है। डिजिटल जमाने में तेजी से विकसित होती तकनीकी में सबसे बड़ी चिंता AI से ही पैदा हो रही है। AI टूल्स जैसे ChatGPT आदि आमतौर पर जानकारी देने के लिए इस्तेमाल किए जाते हैं। लेकिन अब इनका इस्तेमाल फर्जीवाड़े के लिए होने लगा है। ठग अब नकली आधार कार्ड और PAN कार्ड बना सकते हैं और धोखाधड़ी कर सकते हैं।