आपकी फोटो सेफ नहीं? App Store में खुलेआम मौजूद हैं AI से कपड़े ‘हटाने’ वाले ऐप्स!

एक नई रिपोर्ट में खुलासा हुआ है कि Apple और Google के ऐप स्टोर में दर्जनों ऐसे AI-बेस्ड “nudify” ऐप्स आसानी से उपलब्ध हैं, जिनकी मदद से किसी की फोटो से उनके कपड़े डिजिटल तरीके से हटाकर गैर-सहमति वाले, न्यूड इमेज बनाए जा सकते हैं। इस स्टडी में पाया गया कि Android और iOS दोनों प्लेटफॉर्म पर ऐसे ऐप्स का काफी बड़े पैमाने पर डाउनलोड किए गए हैं और इनका यूज कमाई के लिए किया जा रहा है।

TTP ने Google Play Store पर 55 और Apple App Store पर 47 ऐसे ऐप्स की पहचान की, जो यूजर की फोटो को बिना अनुमति के न्यूड या कम कपड़ों में दिखा सकते हैं। इन ऐप्स को खोजने के लिए रिसर्चर्स ने “nudify” और “undress” जैसे सर्च वर्ड्स का इस्तेमाल किया और इनकी AI-जनरेटेड आर्टिफैक्ट क्षमताओं को खुद से टेस्ट भी किया।

रिपोर्ट के अनुसार इन ऐप्स को अब तक बड़े पैमाने पर डाउनलोड किया गया है, जिसमें 705 मिलियन से बड़े नंबर का अनुमान लगाया जा चुका है, जिससे लगभग 117 मिलियन डॉलर की कमाई हुई है। इसमें से Apple और Google को प्लेटफॉर्म फीस के रूप में हिस्सा मिलता है।

रिपोर्ट में बताया गया है कि दोनों कंपनियों के खुद के ऐप स्टोर पॉलिसी में “यौन, स्पष्ट या अपमानजनक कंटेंट” को बैन किया गया है, लेकिन फिर भी इन nudify ऐप्स को रिव्यू प्रोसेस से गुजरकर लिस्ट होने दिया गया। रिपोर्ट में कहा गया है कि Apple ने कुछ ऐप्स को हटाया है और डेवलपर्स को चेतावनी दी है, जबकि Google ने कुछ ऐप्स को बैन किया है, लेकिन दोनों प्लेटफॉर्म पर कई ऐप्स अब भी उपलब्ध हैं।

TTP के रिसर्च से यह भी स्पष्ट होता है कि यह समस्या सिर्फ उन ऐप्स तक सीमित नहीं है जिन्होंने अपनी नीतियों का उल्लंघन किया, बल्कि ऐसे कई डिसेप्टिव और फेस-स्वैप फीचर्स वाले ऐप्स भी मौजूद हैं जिनमें AI का इस्तेमाल करके गैर-सहमति वाले तकनीकी रूप से जनरेटेड न्यूड या संभावित रूप से गलत फोटो बनाए जा सकते हैं।

रिसर्चर्स का कहना है कि इस तरह के “nudify” ऐप्स न सिर्फ पॉलिसी उल्लंघन का मामला हैं बल्कि प्राइवेसी, निजी फोटो का दुरुपयोग और तकनीकी सुरक्षा के गंभीर जोखिमों को भी उजागर करते हैं, खासकर जब ये ऐप्स बच्चों और टीनेजर्स दोनों के लिए उपलब्ध हैं।