पोर्नोग्राफिक कंटेंट के कारण इन देशों में Elon Musk के Grok AI पर लगी रोक....

पिछले कुछ वर्षों में आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल तेजी से बढ़ने के साथ ही इससे जुड़ी फेक कंटेंट जैसी समस्याएं भी खड़ी हुई हैं। बिलिनेयर Elon Musk के Grok AI टूल के जरिए पोर्नोग्राफिक कंटेंट बनाए जाने की वजह से कुछ देशों ने इस टूल का एक्सेस रोक दिया है। 

पिछले सप्ताह इंडोनेशिया ने Grok AI के एक्सेस को बंद किया था। एक मीडिया रिपोर्ट में बताया गया है कि मलेशिया ने भी इस AI टूल का एक्सेस रोक दिया है। इस बारे में मलेशिया के टेक रेगुलेटर ने एक स्टेटमेंट में बताया है, 'यह कार्रवाई अश्लील कंटेंट और गड़बड़ी कर बिना सहमति वाली इमेजेज तैयार करने के लिए Grok के गलत इस्तेमाल के बाद की गई है।' इस स्टेटमेंट में कहा गया है कि मस्क की X Corp और Grok को डिवेलप करने वाले स्टार्टअप xAI को नोटिस दिए जाने और रेगुलेटर की ओर से दी गई चेतावनी के बावजूद इस तरह का कंटेट बनाया जा रहा है। 

मस्क के कंट्रोल वाले सोशल मीडिया प्लेटफॉर्म X के साथ यह टूल इंटीग्रेटेड है। मलेशिया के रेगुलेटर का कहना है कि इस AI प्लेटफॉर्म के सुरक्षा से जुड़े उपाय पर्याप्त नहीं हैं और जरूरी बदलाव करने के बाद ही इसका एक्सेस बहाल किया जाएगा। इसके साथ ही इस रेगुलेटर ने बताया है कि Grok के डिजाइन और इसे ऑपरेट करने से हो रहे रिस्क से निपटने में X Corp नाकाम रही है। यह किसी समस्या के समाधान के लिए यूजर्स की ओर से दी जाने वाली रिपोर्ट पर मुख्यतौर पर निर्भर करती है। पिछले सप्ताह यूरोप के अधिकारियों ने भी इमेजेज बनाने के इस विवादास्पद फीचर के सिर्फ भुगतान करने वाले सब्सक्राइबर्स तक सीमित करने के बाद Grok को फटकार लगाई थी। इन अधिकारियों का कहना था कि इस बदलाव से अश्लील डीपफेक इमेजेज की समस्या पर रोक नहीं लगी है। 

पिछले सप्ताह Grok ने नई मॉनेटाइजेशन पॉलिसी की जानकारी दी थी। X पर एक पोस्ट में बताया गया था कि इमेज को जेनरेट करने और एडिटिंग के फीचर्स सिर्फ भुगतान करने वाले सब्सक्राइबर्स तक सीमित होंगे। इसके साथ Grok के प्रीमियम सब्सक्रिप्शन का एक लिंक भी दिया गया था। भारत में भी Grok के जरिए अश्लील कंटेंट बनाए जाने को लेकर विवाद हुआ है।