AI से जाएगी अनगिनत लोगों की जान, Anthropic के AI रिसर्चर ने नौकरी छोड़ी, बताया सभ्यता पर बड़ा खतरा

एक AI रिसर्चर ने नैतिक चिंताओं को ध्यान में रखते हुए Anthropic से इस्तीफा दे दिया है और दावा किया है कि यह टेक्नोलॉजी किस प्रकार इंसानों के लिए खतरा बनते हुए अगले 10 सालों में अनगिनत लोगों की जान ले सकती है। एआई इंसानों की नौकरी खा रहा है और कैसे लोगों के खतरा बन सकता है, इस पर लगातार चर्चा चल रही है और अब एआई रिसर्चर द्वारा नौकरी छोड़ना और इस तरह का दावा करना एआई के संभावित खतरे को सामने ला रहा है। आइए इसके बारे में विस्तार से जानते हैं।

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

Anthropic में AI रिसर्चर के तौर पर काम करने वाले जैकब कॉक्सन ने मंगलवार को X पर एक पोस्ट में अपने इस्तीफे की घोषणा की। पोस्ट में उन्होंने Anthropic और पिछली कंपनी OpenAI दोनों के AI डेवलप करने के तरीकों की आलोचना की।

x पोस्ट में उन्होंने लिखा कि मैंने आज Anthropic से इस्तीफा दे दिया, मैंने पिछले 3 साल OpenAI और Anthropic में प्री-ट्रेनिंग रिसर्च में बिताए हैं। कोई भी कंपनी जिम्मेदारी के साथ काम नहीं कर रही है। दोनों ही तेजी से सेल्फ-इम्प्रूविंग सुपरइंटेलिजेंस बनाने की रेस में लगी हुई हैं और हमारी जिंदगी के साथ जुआ खेल रही हैं। उन्होंने आगे कहा कि इस टेक्नोलॉजी की ताकत को कम समझने की गलती मत करना है। बहुत जल्द ये ऐसे सुपर-ह्यूमन सिस्टम बन जाएंगे जो किसी भी चीज को हैक कर सकते हैं। रातों-रात किसी भी फील्ड में क्रांति ला सकते हैं और रियल पावर और रिसोर्स हासिल कर सकते हैं। हमने इन सभी डोमेन में ग्रोथ देखी और यह बिलकुल भी धीमी नहीं है।

आगे बताया कि एआई डेवलप करने वाले लोगों का मानना ​​है कि यह दशक के आखिर तक हम सबको खत्म कर सकता है। यह कोई मार्केटिंग स्टंट नहीं है। असल में कई एग्जीक्यूटिव और सीनियर रिसर्चर प्रेस के सामने बेशक समझदारी से बाते करते हैं, लेकिन मैंने उन्हीं लोगों को डर जाहिर करते हुए भी देखा है। इंसानों द्वारा किए जाने वाली किसी भी एक्टिविटी से इतना खतरा नहीं है।

इसको लेकर अक्सर यह सवाल पूछा जाता है कि अगर वे सच में ऐसा मानते हैं तो वे इसे डेवलप क्यों किया जा रहा है? OpenAI में बहुत से लोगों ने इस गंभीरता को ठीक से नहीं समझा कि यह सभ्यता पर क्या असर डाल सकता है। Anthropic में लोगों को इसके बारे में ठीक से समझ है, लेकिन वो सभी भी पहले पहुंचने की रेस में फंसे हुए हैं। उनका मानना ​​है कि कोई और जिम्मेदारी से काम नहीं करेगा, इसलिए जोखिम होने के बावजूद उन्हें खुद ही यह करना होगा।

इस रेस को मानना और एंडगेम में कदम रखना एक अहंकार भरा जुआ है, जिसे किसी प्राइवेट कंपनी के स्लैक से शुरू नहीं किया जाना चाहिए। अलाइनमेंट की प्रक्रिया को तेजी से पूरा करने की कोशिश करने के लिए यह पक्का होना चाहिए कि इससे बेहतर कोई और रास्ता मौजूद नहीं है। मुझे इसमें तालमेल की संभावना को लेकर उम्मीद है। हगिंग फेस पर हुए अटैक ने अमेरिकी लैब्स के बीच काम की स्पीड को लेकर समझौते करना ज्यादा मुमकिन बना दिया है। मुझे नहीं लगता कि हम ग्लोबल रेस को रोकने की सही राह पर हैं, इसके लिए शायद मॉडल की कैपेसिटी को बेहतर बनाने पर कुछ समय के लिए रोक लगाने जैसे कठोर कदम उठाने पड़ सकते हैं।