Character.AI ने टीनेज यूजर्स की सुरक्षा को ध्यान में रखते हुए Parental Insights नाम का एक नया फीचर लॉन्च किया है। इस फीचर के जरिए टीनेज यूजर्स अपने माता-पिता को एक वीकली रिपोर्ट भेज सकेंगे, जिसमें उनकी चैटबॉट एक्टिविटी का ओवरव्यू होगा। रिपोर्ट में यह दिखेगा कि कितना समय बिताया गया, किन कैरेक्टर्स से सबसे ज्यादा बातचीत हुई और हर कैरेक्टर के साथ कितनी देर तक चैट की गई। हालांकि, इसमें चैट का पूरा कंटेंट नहीं होगा, ताकि यूजर की प्राइवेसी बनी रहे।
Character.AI ने यह
कदम उन चिंताओं को ध्यान में रखते हुए उठाया है, जो बच्चों के चैटबॉट्स के साथ ज्यादा समय बिताने और अनुचित कंटेंट देखने को लेकर उठाई जा रही थीं। हाल के महीनों में कंपनी पर कई केस दर्ज किए गए, जिनमें आरोप लगाए गए कि कुछ चैटबॉट्स ने अनुचित या नुकसान पहुंचाने वाले जवाब दिए। रिपोर्ट्स के मुताबिक, Apple और Google ने भी प्लेटफॉर्म को इसकी पॉलिसी पर सख्ती बरतने की चेतावनी दी थी।
कंपनी ने पिछले साल से टीनेज यूजर्स के लिए कई सेफ्टी अपग्रेड्स जोड़े हैं। अब 18 साल से कम उम्र के यूजर्स को एक अलग AI मॉडल पर शिफ्ट किया गया है, जो संवेदनशील कंटेंट से बचता है। साथ ही, प्लेटफॉर्म पर यह भी नोटिफिकेशन दिया जाता है कि ये चैटबॉट असली इंसान नहीं हैं।
Parental Insights फीचर पूरी तरह ऑप्शनल है और इसे Character.AI की सेटिंग्स में जाकर एक्टिवेट किया जा सकता है। इसे एक्सेस करने के लिए माता-पिता को कोई अकाउंट बनाने की जरूरत नहीं होगी।
AI चैटबॉट्स को लेकर लगातार सवाल उठ रहे हैं और अलग-अलग देशों में नए रेगुलेशंस भी लागू हो रहे हैं। ऐसे में Character.AI का यह नया फीचर एक कदम आगे का प्रयास माना जा सकता है, लेकिन यह आखिरी बदलाव नहीं होगा। आने वाले समय में AI कंपनियों को यूजर सेफ्टी को लेकर और भी सख्त नियमों का सामना करना पड़ सकता है।