यह मामला Southwestern Middle School (Deland, Florida) का है, जहां स्कूल अपने स्टूडेंट्स की ऑनलाइन एक्टिविटीज को मॉनिटर करने के लिए Gaggle नाम के सॉफ्टवेयर का इस्तेमाल करता है।
Photo Credit: Pexels
अमेरिका के फ्लोरिडा राज्य में एक मिडिल स्कूल के 13 साल के स्टूडेंट को पुलिस ने गिरफ्तार कर लिया, जब उसने स्कूल कंप्यूटर पर ChatGPT में लिखा, "How to kill my friend in the middle of class." यानी "क्लास के बीच अपने फ्रेंड को कैसे मारूं"। यह मजाकिया कोशिश उसे महंगी पड़ गई, क्योंकि स्कूल की डिजिटल मॉनिटरिंग सिस्टम ने इसे तुरंत खतरे का सिग्नल मान लिया और पुलिस को अलर्ट भेज दिया।
यह मामला Southwestern Middle School (Deland, Florida) का है, जहां स्कूल अपने स्टूडेंट्स की ऑनलाइन एक्टिविटीज को मॉनिटर करने के लिए Gaggle नाम के सॉफ्टवेयर का इस्तेमाल करता है। यह सिस्टम अपने AI एल्गोरिदम और ह्यूमन मॉडरेशन की मदद से ऐसे कंटेंट को फ्लैग करता है जो हिंसा, खुद को नुकसान या किसी खतरे की तरफ इशारा करता हो।
मीडिया रिपोर्ट्स के मुताबिक, जैसे ही बच्चे ने ChatGPT में वह सवाल टाइप किया, Gaggle ने उसे "potential threat" के तौर पर डिटेक्ट किया और कुछ ही सेकंड में स्कूल प्रशासन व पुलिस को नोटिफिकेशन भेज दिया। इसके बाद Volusia County Sheriff's ऑफिस की टीम स्कूल पहुंची और छात्र से पूछताछ की।
स्टूडेंट ने सफाई देते हुए कहा कि वो सिर्फ “अपने दोस्त को ट्रोल” कर रहा था क्योंकि वह उसे परेशान कर रहा था। हालांकि, पुलिस ने इसे गंभीरता से लिया और एहतियातन उसे गिरफ्तार कर लिया। फिलहाल उस पर कौन-से चार्ज लगाए गए हैं, यह जानकारी सामने नहीं आई है।
Volusia Sheriff's Office ने इस घटना पर रिएक्ट करते हुए कहा, "फिर से एक ‘मजाक' जिसने कैंपस में इमरजेंसी पैदा कर दी। पेरेंट्स से रिक्वेस्ट है कि अपने बच्चों से बात करें ताकि वे ऐसी गलती ना करें।"
Gaggle एक स्कूल सेफ्टी मॉनिटरिंग सॉफ्टवेयर है, जिसे 1999 में Jeff Patterson ने लॉन्च किया था। शुरुआत में इसे सिर्फ ऑनलाइन सेफ्टी टूल के तौर पर बनाया गया था, लेकिन अब यह AI और ह्यूमन रिव्यू के साथ मिलकर स्कूल सिस्टम्स में डीप मॉनिटरिंग करता है। यह सॉफ्टवेयर स्टूडेंट्स के ईमेल, क्लाउड डॉक्युमेंट्स, चैट्स और यहां तक कि ChatGPT या Google Gemini जैसी AI चैट्स को भी ट्रैक कर सकता है। Gaggle का कहना है कि इसका मकसद बच्चों की सुरक्षा सुनिश्चित करना है, चाहे वो खुद से जुड़ा खतरा हो या किसी और के लिए।
फ्लोरिडा के Southwestern Middle School के 13 साल के स्टूडेंट ने स्कूल कंप्यूटर पर ChatGPT में टाइप किया “क्लास में अपने फ्रेंड को कैसे मारूं?” ये क्वेरी स्कूल के डिजिटल मॉनिटरिंग सिस्टम Gaggle ने तुरंत पकड़ ली और पुलिस को अलर्ट भेजा।
स्कूल और पुलिस ने बच्चे से पूछताछ की। उसने कहा कि वो बस मजाक कर रहा था और अपने फ्रेंड को “ट्रोल” कर रहा था। लेकिन पुलिस ने इसे गंभीर मामला मानते हुए उसे गिरफ्तार कर लिया।
Gaggle एक डिजिटल मॉनिटरिंग सॉफ्टवेयर है जो स्कूलों के कंप्यूटर और नेटवर्क पर बच्चों की ऑनलाइन एक्टिविटी पर नजर रखता है। ये सिस्टम AI और ह्यूमन रिव्यू की मदद से खतरनाक या हिंसक कंटेंट को पकड़ लेता है।
नहीं, ChatGPT ने नहीं किया। मॉनिटरिंग सिस्टम Gaggle ने उस कंप्यूटर की स्क्रीन और कीवर्ड डिटेक्ट करके स्कूल अथॉरिटीज को अलर्ट भेजा।
भारत में इस लेवल का सिस्टम स्कूलों में आम नहीं है, लेकिन कई एड-टेक प्लेटफॉर्म्स और स्कूल नेटवर्क्स में बेसिक वेब फिल्टरिंग और ऑनलाइन सेफ्टी टूल्स यूज़ किए जाते हैं।
लेटेस्ट टेक न्यूज़, स्मार्टफोन रिव्यू और लोकप्रिय मोबाइल पर मिलने वाले एक्सक्लूसिव ऑफर के लिए गैजेट्स 360 एंड्रॉयड ऐप डाउनलोड करें और हमें गूगल समाचार पर फॉलो करें।