PM Modi का AI वीडियो पड़ा भारी, Meta इंडिया के हेड पर केस दर्ज

प्रधानमंत्री नरेंद्र मोदी के कथित AI मॉर्फ्ड वीडियो को लेकर Meta की मुश्किलें बढ़ती नजर आ रही हैं। हैदराबाद साइबर क्राइम पुलिस ने इस मामले में Meta India के प्रमुख अरुण श्रीनिवास और कई सोशल मीडिया यूजर्स के खिलाफ केस दर्ज किया है। पुलिस का कहना है कि सोशल मीडिया पर ऐसे वीडियो शेयर किए गए, जिन्हें AI की मदद से एडिट कर कथित तौर पर भ्रामक जानकारी फैलाने के लिए इस्तेमाल किया गया।

रिपोर्ट्स के मुताबिक, यह मामला Meta के स्वामित्व वाले Facebook और Instagram पर शेयर किए गए मॉर्फ्ड वीडियो से जुड़ा है। जांच एजेंसियों का मानना है कि इन वीडियो के जरिए लोगों को गुमराह करने की कोशिश की गई हो सकती है। इसी आधार पर भारतीय न्याय संहिता (BNS) और सूचना प्रौद्योगिकी अधिनियम (IT Act) के तहत जांच आगे बढ़ाई जा रही है।

पुलिस अब यह पता लगाने में जुटी है कि इन कथित डीपफेक या AI मॉर्फ्ड वीडियो को किसने तैयार किया, इन्हें सोशल मीडिया पर किस तरह फैलाया गया और क्या प्लेटफॉर्म पर मौजूद सुरक्षा उपाय ऐसे कंटेंट को रोकने के लिए पर्याप्त थे। जांच के दौरान उन लोगों की भूमिका भी खंगाली जा रही है, जिन्होंने कथित तौर पर इन वीडियो को बनाया या शेयर किया।

यह मामला ऐसे समय सामने आया है, जब हाल ही में हैदराबाद साइबर क्राइम पुलिस ने Meta के प्रतिनिधियों को तलब किया था। पुलिस ने कंपनी से यह भी पूछा था कि उसके प्लेटफॉर्म पर AI से जुड़े स्कैम, फर्जी विज्ञापनों और मॉर्फ्ड कंटेंट की पहचान कर उन्हें हटाने की प्रक्रिया क्या है।

NDTV के मुताबिक, Meta के प्रतिनिधियों ने जांच अधिकारियों के सामने पेश होकर कंपनी की कंटेंट मॉडरेशन पॉलिसी और सुरक्षा उपायों से जुड़ी जानकारी शेयर की है। हालांकि, इस मामले में कंपनी की ओर से आधिकारिक बयान का इंतजार है।

पुलिस ने स्पष्ट किया है कि जांच अभी शुरुआती चरण में है और सभी आरोपों की पुष्टि डिजिटल सबूतों के आधार पर की जाएगी। फिलहाल किसी भी व्यक्ति को दोषी नहीं ठहराया गया है। जांच पूरी होने के बाद सामने आने वाले तथ्यों के आधार पर आगे की कार्रवाई की जाएगी।

बता दें कि मॉर्फ्ड वीडियो ऐसे वीडियो होते हैं, जिनमें किसी व्यक्ति का चेहरा, आवाज या हाव-भाव को AI या अन्य वीडियो एडिटिंग तकनीकों की मदद से इस तरह बदला जाता है कि वह व्यक्ति ऐसी बात कहता या करता हुआ दिखाई दे, जो उसने वास्तव में कभी कही या की ही नहीं होती।