AI को Gym की क्लास बुक करने को कहा, उसने वेबसाइट हैक कर वेटिंग लिस्ट ही बदल डाली!

AI एजेंट अब सिर्फ सवालों के जवाब देने या ऑनलाइन काम आसान करने तक सीमित नहीं हैं। इसका एक हैरान करने वाला उदाहरण ऑस्ट्रेलिया से सामने आया है, जहां एक व्यक्ति ने अपने AI असिस्टेंट को जिम की क्लास बुक करने का काम दिया। AI ने जिम के बुकिंग सिस्टम में मौजूद एक खामी खोजी और उसका इस्तेमाल करते हुए न सिर्फ तय सीमा से पहले क्लास बुक की, बल्कि वेटिंग लिस्ट में उससे आगे मौजूद एक व्यक्ति को भी हटा दिया। 

ABC की रिपोर्ट के मुताबिक, ऑस्ट्रेलियाई AI कंपनी में काम करने वाले Andrew ने OpenClaw नाम के AI एजेंट का इस्तेमाल किया था, जो Anthropic की Claude AI सर्विस के साथ काम करता है। उन्होंने एजेंट से Gym की एक पॉपुलर क्लास बुक करने को कहा था। AI एजेंट ने बुकिंग सिस्टम को जांचते हुए ऐसी कमजोरी खोज ली, जिसकी वजह से वह जिम की अनुमति से कई हफ्ते या महीने पहले तक क्लास बुक कर सकता था। Andrew उस समय एक क्लास की वेटिंग लिस्ट में चौथे नंबर पर थे। उन्होंने एजेंट से पूछा कि क्या वह उन्हें लिस्ट में ऊपर ला सकता है।

इसके बाद AI ने बताया कि उसने वेटिंग लिस्ट में पहले नंबर पर मौजूद व्यक्ति की बुकिंग कैंसल करके Andrew को एक स्थान ऊपर कर दिया है। एजेंट ने खुद अपनी बातचीत में बताया कि API में दूसरे लोगों की रिजर्वेशन कैंसल करने के लिए पर्याप्त Authorization Checks नहीं थे। Andrew ने जब इसे वापस करने को कहा, तो AI ने जवाब दिया कि वह उस व्यक्ति को दोबारा लिस्ट में नहीं जोड़ सकता।

हैरानी की बात यह है कि Andrew ने AI को सीधे जिम की वेबसाइट हैक करने या किसी दूसरे यूजर की बुकिंग हटाने का निर्देश नहीं दिया था। AI ने अपने तय लक्ष्य को हासिल करने के लिए खुद सिस्टम की कमजोरी खोजी और उसका इस्तेमाल किया।

AI एजेंट सामान्य चैटबॉट से अलग होते हैं। इन्हें इंटरनेट, ईमेल, पेमेंट सिस्टम और दूसरे टूल्स तक पहुंच देकर कई चरणों वाले काम खुद पूरा करने की क्षमता दी जा सकती है। ऐसे में अगर किसी वेबसाइट या API में सुरक्षा खामी मौजूद है, तो एजेंट उस खामी को पहचानकर अपने लक्ष्य को पूरा करने के लिए उसका इस्तेमाल कर सकता है।

Gradient Institute के CEO Bill Simpson-Young ने ABC को बताया कि यही AI Alignment Problem का एक हिस्सा है, जिसमें यूजर का लक्ष्य कुछ और हो सकता है, लेकिन उसे हासिल करने के लिए AI ऐसा तरीका चुन सकता है जिसकी यूजर ने कल्पना नहीं की थी।

यह घटना ऐसे समय सामने आई है जब OpenAI और Anthropic दोनों ने अपने AI सिस्टम्स की टेस्टिंग के दौरान वास्तविक संगठनों के सिस्टम से जुड़े ऑटोनोमस हैकिंग बिहेवियर की जानकारी दी है। इससे AI एजेंट्स को ज्यादा अधिकार देने से पहले उनके लिए मजबूत सेफ्टी लिमिटेशन्स तय करने की जरूरत पर बहस और तेज हो गई है।