स्पेन में एक डरा देने वाला मामला सामने आया, जहां स्कूली बच्चों पर अपनी महिला साथियों की AI-जरनेटेड अश्लील तस्वीरें बनाकर सोशल मीडिया पर शेयर करने का आरोप लगा और लेटेस्ट रिपोर्ट के मुताबिक 15 बच्चों को अब एक साल के प्रोबेशन की सजा सुना दी गई है। डीपफेस टेक्नोलॉजी कितनी डरावनी है, इसका पता कई हालिया घटनाओं से लगाया जा सकता है, जिसमें सोशल मीडिया पर टीवी या राजनीती से जुड़े दिग्गजों के डीपफेस के जरिए लोगों को
गुमराह करने के कई मामले शामिल हैं। स्पेन के इन स्कूली बच्चों की यह घटना पिछले साल तब सामने आई जब अलमेंद्रलेजो के एक्स्ट्रीमाडुरन शहर में माता-पिता ने पुलिस को शिकायत दी कि उनकी बेटियों की फर्जी नग्न तस्वीरें WhatsApp ग्रुप पर प्रसारित हो रही हैं।
द गार्जियन की
रिपोर्ट बताती है कि बदाजोज की युवा अदालत ने मंगलवार को नाबालिगों को बाल दुर्व्यवहार की तस्वीरें बनाने के 20 मामलों और उनके पीड़ितों की नैतिक अखंडता के खिलाफ अपराधों के 20 मामलों में दोषी ठहराया। 15 बच्चों में से प्रत्येक को एक वर्ष की परिवीक्षा दी गई। कोर्ट ने इस बच्चों को कथित तौर पर समानता जागरूकता के साथ टेक्नोलॉजी का जिम्मेदारी से उपयोग समझने के लिए स्पेशल क्लासेस में भाग लेने का आदेश भी दिया है।
रिपोर्ट बताती है कि अदालत के बयान ने पुष्टि की कि नाबालिगों ने मूल छवियों में हेरफेर करने के लिए एआई अनुप्रयोगों का उपयोग किया था। सभी बच्चों की उम्र 13 से 15 वर्ष बताई गई है। बता दें कि स्पेन का कानून 14 वर्ष से कम उम्र के नाबालिगों को आपराधिक मुकदमे से बचाता है। हालांकि, उनके मामले अक्सर बाल संरक्षण विभागों को ट्रांसफर कर दिए जाते हैं, जो पुनर्वास संबंधी प्रोग्राम में भागीदारी को अनिवार्य कर सकते हैं।
रिपोर्ट आगे बताती है कि पांच महीने पहले पब्लिकेशन के साथ एक इंटरव्यू में, पीड़ितों में से एक की माता ने अपने सदमे को याद किया और बताया कि "जब आप इसे देखेंगे तो यह एक शॉक होगा।" "छवि पूरी तरह से यथार्थवादी है... अगर मैं अपनी बेटी के शरीर को नहीं जानती, तो मुझे लगता कि वह तस्वीर वास्तविक है।"
निश्चित तौर पर यह हासदा हमें अभी से डीपफेक टेक्नोलॉजी को लेकर
गंभीरता से सोचने पर मजबूर करता है। जैसे-जैसे इस टेक्नोलॉजी को एक्सेस और इस्तेमाल करना आसान होता जाएगा, लोगों के लिए चिंता अधिक बढ़ती जाएगी, खासतौर पर सोशल मीडिया पर बढ़ती भीड़ और बच्चों पर इसके प्रभाव को देखते हुए।
भारत में भी AI के इस्तेमाल से सेलेब्रिटीज के जाली वीडियो या डीपफेक्स बनाने के मामले बढ़े हैं। ऐसे में हाल ही में सोशल मीडिया प्लेटफॉर्म Facebook और YouTube को डीपफेक्स को लेकर केंद्र सरकार ने
चेतावनी दी थी। फेसबुक और यूट्यूब सहित सोशल मीडिया प्लेटफॉर्म्स को यह बताया गया था कि देश के कानून के तहत डीपफेक्स और ऐसे कंटेंट पोस्ट करने पर प्रतिबंध है जो अश्लीलता या गलत जानकारी फैलाता है।