Gemini AI से साड़ी वाली फोटो बना रहे हो तो सावधान! हो सकते हो Deepfake के शिकार, IPS ऑफिसर की वॉर्निंग

सोशल मीडिया पर इन दिनों Google Gemini का “Nano Banana” साड़ी ट्रेंड जबरदस्त तरीके से वायरल हो रहा है। लोग अपनी नॉर्मल तस्वीरों को इस AI टूल के जरिए विंटेज और ट्रेडिशनल लुक में बदलवा रहे हैं। शुरुआत में ये ट्रेंड मजेदार लग सकता है, लेकिन इसके पीछे साइबर रिस्क भी छिपे हुए हैं। इसी को लेकर IPS अफसर वीसी सज्जनार ने X (पहले ट्विटर) पर लोगों को अलर्ट किया है। उनका कहना है कि अगर यूजर्स बिना सोचे-समझे अपनी फोटो और डेटा शेयर करेंगे तो उनका बैंक अकाउंट तक खाली हो सकता है।

सज्जनार ने पोस्ट में लिखा, “इंटरनेट पर चल रहे ट्रेंड्स में हिस्सा लेना मजेदार है, लेकिन इनमें पर्सनल इंफॉर्मेशन शेयर करना खतरनाक साबित हो सकता है। अगर आपने अपनी डिटेल्स या फोटो गलत प्लेटफॉर्म पर डाल दीं तो पैसा सीधे फ्रॉडस्टर्स के हाथ में जा सकता है।” उन्होंने लोगों को सलाह दी कि वे सिर्फ ऑफिशियल और वेरिफाइड प्लेटफॉर्म पर ही फोटो अपलोड करें, वरना नकली वेबसाइट और अनजान ऐप्स के जरिए आपकी पहचान का गलत इस्तेमाल हो सकता है।

उन्होंने आगे कहा, “सोशल मीडिया पर खुशियों के पल शेयर करना बुरी बात नहीं है, लेकिन सेफ्टी हमेशा फर्स्ट प्रायोरिटी होनी चाहिए। अनजान ऐप्स और वेबसाइट पर फोटो या डेटा डालना मतलब खुद अपने लिए रिस्क क्रिएट करना है।” IPS अफसर ने ये भी याद दिलाया कि ट्रेंड्स थोड़े वक्त के लिए आते हैं और फिर गायब हो जाते हैं, लेकिन उनमें शेयर हुआ डेटा लंबे समय तक आपके लिए खतरा बना रह सकता है।

इसी बीच एक महिला का एक्सपीरियंस भी वायरल हुआ है। उसने Gemini के साड़ी ट्रेंड का प्रॉम्प्ट इस्तेमाल करके अपनी फोटो बनाई, लेकिन नतीजा देखकर वह हैरान रह गई, क्योंकि फोटो हाथ को ढके हुए कपड़ों में थी, लेकिन फिर भी रिजल्ट में हाथ पर मोल नजर आया, जो असल में लड़की के हाथ में मौजूद है। महिला ने इंस्टाग्राम पर लिखा, “मुझे समझ नहीं आ रहा कि Gemini को कैसे पता चला कि मेरे शरीर के इस हिस्से पर एक तिल है। ये बहुत डरावना और अजीब है।” उसने अपने फॉलोअर्स को भी चेतावनी दी कि पर्सनल फोटो बिना सोचे-समझे किसी भी AI प्लेटफॉर्म पर अपलोड न करें।

Gemini का Nano Banana फीचर जेनरेटिव AI मॉडल और डीप न्यूरल नेटवर्क्स पर बेस्ड है। जब कोई यूजर अपनी फोटो अपलोड करता है तो सिस्टम सबसे पहले फेस रिकग्निशन एल्गोरिद्म से चेहरे की शेप, स्किन टोन और बॉडी स्ट्रक्चर को एनालाइज करता है। इसके बाद “स्टाइल ट्रांसफर” नाम की टेक्निक यूज होती है, जो मौजूदा फोटो पर नए कपड़े, टेक्सचर और बैकग्राउंड को सुपरइम्पोज कर देती है। कंपनी के मुताबिक, AI पिक्सल-लेवल डिटेल्स को री-जनरेट करता है, इसीलिए आउटपुट फोटो कभी-कभी इतनी रियलिस्टिक लगती है कि यूजर खुद भी चौंक जाता है। यही वजह है कि एक सिंपल अपलोड से सेकंड्स में विंटेज साड़ी या रेट्रो लुक वाली इमेज तैयार हो जाती है।

ये पूरा मामला इस बात को साफ करता है कि नए AI ट्रेंड्स जितनी तेजी से वायरल होते हैं, उतनी ही जल्दी साइबर क्रिमिनल्स भी उनका फायदा उठाने लगते हैं। एक्सपर्ट्स का कहना है कि एक बार डेटा लीक हो जाए तो उसे वापस पाना लगभग नामुमकिन है। इसलिए ऑनलाइन मजे लेते वक्त भी पर्सनल और फाइनेंशियल सेफ्टी को नजरअंदाज नहीं करना चाहिए।