सोशल मीडिया प्लेटफॉर्म्स Facebook और YouTube को डीपफेक्स को लेकर केंद्र सरकार ने चेतावनी दी है। फेसबुक और यूट्यूब सहित सोशल मीडिया प्लेटफॉर्म्स को यह बताया गया है कि देश के कानून के तहत डीपफेक्स और ऐसे कंटेंट पोस्ट करने पर प्रतिबंध है जो अश्लीलता या गलत जानकारी फैलाता है।
Reuters की एक
रिपोर्ट में सूत्रों के हवाले से बताया गया है कि मिनिस्टर ऑफ स्टेट फॉर IT Rajeev Chandrasekhar ने एक मीटिंग में यह चेतावनी दी है। उन्होंने कहा कि बहुत सी सोशल मीडिया कंपनियों ने पिछले वर्ष लागू किए गए रूल्स के बावजूद अपने यूजर्स के लिए नियमों और शर्तों को अपडेट नहीं किया है। इन
रूल्स के तहत बच्चों के लिए हानिकारक, अश्लीलता या एक अन्य व्यक्ति की नकल करने वाले कंटेंट पर प्रतिबंध लगाया गया है। चंद्रशेखर का कहना था कि इन कंपनियों को इन रूल्स को लेकर जागरूकता बढ़ानी चाहिए और यूजर्स को लॉग इन करने पर यह बताना चाहिए कि वे इस तरह का कंटेंट पोस्ट नहीं कर सकते। आर्टिफिशियल इंटेलिजेंस (AI) के इस्तेमाल से नेताओं और सेलेब्रिटीज के जाली वीडियो बनाने के मामले बढ़े हैं। इस तरह के वीडियो को डीपफेक कहा जाता है। सरकार इसके खिलाफ नए रेगुलेशंस बनाने की तैयारी कर रही है। इन रेगुलेशंस के तहत, डीपफेक्स बनाने वाले और इसे होस्ट करने वाले प्लेटफॉर्म पर जुर्माना लगाया जा सकता है।
इस सप्ताह की शुरुआत में टेलीकॉम और IT मिनिस्टर Ashwini Vaishaw ने डीपफेक्स को लोकतंत्र के लिए एक खतरा बताया हथा। अश्विनी ने विभिन्न स्टेकहोल्डर्स के साथ मीटिंग के बाद कहा था, "लोकतंत्र के लिए डीपफेक्स एक नया खतरा है। इससे समाज और इसके संस्थानों की विश्वसनीयता कमजोर हो सकती है।" इन स्टेकहोल्डर्स में सोशल मीडिया प्लेटफॉर्म्स, सॉफ्टवेयर कंपनियों के संगठन नैस्कॉम के प्रतिनिधि और AI की फील्ड से जुड़े प्रोफेसर शामिल थे।
अश्विनी ने बताया था, "हम डीपफेक्स के लिए रेगुलेशंस बनाने की शुरुआत कर रहे हैं।" उनका कहना था कि सरकार चार बिंदुओं - डीपफेक्स की पहचान, ऐसे कंटेंट को फैलने से रोकने, रिपोर्टिंग की प्रक्रिया को मजबूत करने और इस मुद्दे पर जागरूकता बढ़ाने पर कार्य करेगी। हाल ही में प्रधानमंत्री नरेन्द्र मोदी ने भी डीपफेक्स को लेकर चेतावनी दी थी। मोदी ने बताया था कि उन्होंने चैटजीपीटी की टीम से डीपफेक की पहचान करने और ऐसे वीडियो के इंटरनेट पर प्रसारित होने पर चेतावनी जारी करने को कहा है।