बच्चों के लिए आया सेफ ChatGPT! पैरेंट्स के हाथ में होगा कंट्रोल, खतरनाक जवाब देने से बचेगा AI

OpenAI ने 13 से 17 साल की उम्र के यूजर्स के लिए ChatGPT का नया वर्जन पेश किया है। कंपनी ने इसे खासतौर पर टीनेजर्स को ध्यान में रखकर तैयार किया है। इसमें उम्र के हिसाब से कई सेफ्टी फीचर्स दिए गए हैं, जो यूजर्स को अनुचित और नुकसान पहुंचाने वाले कंटेंट से बचाने का काम करेंगे। इसके अलावा OpenAI ने टीनेजर्स के लिए लर्निंग से जुड़े कुछ फीचर्स भी जोड़े हैं, ताकि ChatGPT का इस्तेमाल सिर्फ जवाब पाने के लिए नहीं, बल्कि पढ़ाई में मदद लेने के लिए भी किया जा सके।

OpenAI के मुताबिक, टीनेजर्स के ChatGPT में एडल्ट यूजर्स की तुलना में ज्यादा सख्त सेफ्टी गार्डरेल्स लागू होंगे। इसमें सेल्फ-हार्म, सुसाइड, ईटिंग डिसऑर्डर, हिंसा, खतरनाक एक्टिविटीज और यौन रूप से स्पष्ट (Sexually Explicit) कंटेंट जैसे मामलों को लेकर एक्स्ट्रा सेफ्टी दी गई है। कंपनी का कहना है कि ऐसे मामलों में ChatGPT बातचीत को उस दिशा में आगे बढ़ाने के बजाय सुरक्षित तरीके से जवाब देगा।

टीनेजर्स के लिए बनाए गए इस ChatGPT में बातचीत का तरीका भी अलग रखा गया है। ChatGPT रोमांटिक भाषा या ज्यादा निजी अंदाज में बात नहीं करेगा। यह खुद को इंसान की तरह पेश करने या अपने अंदर भावनाएं, चेतना और संवेदनाएं होने का दावा भी नहीं करेगा। OpenAI का कहना है कि इससे टीनेजर्स और AI के बीच इमोशनल डिपेंडेंसी का जोखिम कम करने में मदद मिल सकती है।

इसके अलावा कंपनी ने टीनेजर्स के लिए लर्निंग को ध्यान में रखते हुए स्टडी मोड और दूसरे एजुकेशनल फीचर्स भी दिए हैं। स्टडी मोड में ChatGPT सिर्फ किसी सवाल का सीधा जवाब देने के बजाय यूजर को कॉन्सेप्ट समझाने और समस्या को खुद हल करने में मदद करता है। इसके साथ क्विज और होमवर्क रिमाइंडर जैसे फीचर्स भी मिलते हैं।

OpenAI ने टीनेजर्स के पैरेंट्स या गार्जियंस के लिए भी पैरेंटल कंट्रोल्स दिए हैं। अगर पैरेंट और टीनेजर के अकाउंट लिंक हैं, तो पैरेंट कुछ सेटिंग्स को मैनेज कर सकते हैं। इनमें स्टडी आवर्स और क्वाइट आवर्स जैसे ऑप्शन शामिल हैं। क्वाइट आवर्स की मदद से पैरेंट यह तय कर सकते हैं कि दिन के किस समय ChatGPT का इस्तेमाल नहीं किया जा सके।

हालांकि पैरेंटल कंट्रोल्स का मतलब यह नहीं है कि पैरेंट अपने बच्चे की हर चैट देख सकते हैं। OpenAI के मुताबिक, पैरेंट्स को टीनेजर की पूरी चैट हिस्ट्री या उसकी रियल-टाइम एक्टिविटी देखने की सुविधा नहीं दी गई है। गंभीर सेफ्टी स्थिति सामने आने पर कुछ मामलों में पैरेंट को अलर्ट किया जा सकता है।

OpenAI उम्र की पहचान के लिए एज प्रेडिक्शन सिस्टम का भी इस्तेमाल कर रहा है। यह सिस्टम अकाउंट से जुड़े अलग-अलग सिग्नल के आधार पर यह अनुमान लगाने की कोशिश करता है कि यूजर 18 साल से कम उम्र का है या नहीं। अगर सिस्टम को लगता है कि यूजर टीनेजर है, तो उसके अकाउंट पर उम्र के हिसाब से ज्यादा सख्त सेफ्टी सेटिंग्स लागू की जा सकती हैं।

OpenAI का कहना है कि ChatGPT का इस्तेमाल करने वाले कम उम्र के यूजर्स को AI के साथ सुरक्षित तरीके से बातचीत करने का मौका मिलना चाहिए। इसी वजह से कंपनी ने टीनेजर्स के लिए अलग सेफ्टी सिस्टम और पैरेंटल कंट्रोल्स पेश किए हैं। यह कदम ऐसे समय में आया है जब बच्चों और टीनेजर्स के बीच AI चैटबॉट्स के बढ़ते इस्तेमाल के साथ इमोशनल डिपेंडेंसी और अनुचित कंटेंट को लेकर चिंताएं भी बढ़ रही हैं।