पिछले कुछ महीनों में आर्टफिशियल इंटेलिजेंस (AI) के गलत इस्तेमाल के मामले बढ़े हैं। इनमें डीपफेक वीडियो भी शामिल हैं। रिजर्व बैंक ऑफ इंडिया (RBI) ने मंगलवार को बताया कि सोशल मीडिया पर गवर्नर Shaktikanta Das के डीपफेक वीडियो सर्कुलेट किए जा रहे हैं जिनमें RBI के सपोर्ट वाली इनवेस्टमेंट स्कीम्स का दावा किया जा रहा है।
इस बारे में RBI की ओर से जारी एक बयान में कहा गया है, "रिजर्व बैंक ऑफ इंडिया को यह पता चला है कि सोशल मीडिया पर गवर्नर के फेक वीडियोज सर्कुलेट किए जा रहे हैं जिनमें RBI के सपोर्ट वाली कुछ इनवेस्टमेंट स्कीम्स के लॉन्च का दावा किया जा रहा है। इन वीडियोज में लोगों को ऐसी स्कीम्स में रकम लगाने की सलाह देने की कोशिश हो रही है।"
डीपफेक्स आमतौर पर AI टूल्स के इस्तेमाल से बनाए या एडिट किए गए वीडियो, फोटो या ऑडियो होते हैं जिनमें वास्तविक या गैर-मौजूद लोगों की नकल की जाती है। RBI ने यह भी स्पष्ट किया है कि उसका कोई अधिकारी ऐसी गतिविधियों में शामिल नहीं है। इसके साथ ही RBI ने लोगों को
सोशल मीडिया पर इस तरह की पोस्ट्स से सतर्क रहने और बचने को कहा है। पिछले वर्ष Facebook और
YouTube को डीपफेक्स को लेकर केंद्र सरकार ने चेतावनी भी दी थी। फेसबुक और यूट्यूब सहित सोशल मीडिया प्लेटफॉर्म्स को यह बताया गया था कि देश के कानून के तहत डीपफेक्स और ऐसे कंटेंट पोस्ट करने पर प्रतिबंध है जो अश्लीलता या गलत जानकारी फैलाता है।
मिनिस्टर ऑफ स्टेट फॉर IT Rajeev Chandrasekhar ने कहा था कि बहुत सी सोशल मीडिया कंपनियों ने पिछले वर्ष लागू किए गए रूल्स के बावजूद अपने यूजर्स के लिए नियमों और शर्तों को अपडेट नहीं किया है। इन रूल्स के तहत बच्चों के लिए हानिकारक, अश्लीलता या एक अन्य व्यक्ति की नकल करने वाले कंटेंट पर प्रतिबंध लगाया गया है। चंद्रशेखर का कहना था कि इन कंपनियों को इन रूल्स को लेकर जागरूकता बढ़ानी चाहिए और यूजर्स को लॉग इन करने पर यह बताना चाहिए कि वे इस तरह का कंटेंट पोस्ट नहीं कर सकते। AI के इस्तेमाल से नेताओं और सेलेब्रिटीज के जाली वीडियो बनाने के मामले भी बढ़े हैं। सरकार इसके खिलाफ नए रेगुलेशंस बनाने की तैयारी कर रही है। इन रेगुलेशंस के तहत, डीपफेक्स बनाने वाले और इसे होस्ट करने वाले प्लेटफॉर्म पर जुर्माना लगाया जा सकता है।