AI को रोकना पड़ा तो पीछे नहीं हटेंगे! ChatGPT के जन्मदाता ने बताया क्यों बन सकता है AI मानवता के लिए खतरा

OpenAI CEO Sam Altman ने AI के तेजी से हो रहे डेवलपमेंट को लेकर अपने हालिया बयानों में सावधानी बरतने की बात कही है। उन्होंने कहा कि AI मॉडल्स की कैपेसिटी इतनी तेजी से बढ़ रही है कि सुरक्षा और मॉनिटरिंग सिस्टम को भी उसके साथ आगे बढ़ना जरूरी है। Altman ने साफ किया कि AI डेवलपमेंट को "पेसिंग" करने का मतलब इसे पूरी तरह रोकना नहीं है, लेकिन अगर जरूरत पड़ी तो कंपनियों को डेवलपमेंट की रफ्तार कम करनी चाहिए। उन्होंने यह भी कहा कि किसी भी तरह का कॉम्पिटिटिव प्रेशर AI कंपनियों को लापरवाही करने का कारण नहीं बनना चाहिए।

AI को लेकर Sam Altman ने क्या कहा?

Sam Altman ने कहा कि दुनिया को यह भरोसा होना चाहिए कि ज्यादा कैपेबल AI सिस्टम बनाने वाली अमेरिकी कंपनियां इन्हें जिम्मेदारी के साथ डेवलप करेंगी। उनके मुताबिक, AI की प्रोग्रेस तेज हुई है और ऐसे में सेफ्टी और एलाइनमेंट को भी आगे रखना जरूरी है। उन्होंने "पेसिंग" को लेकर कहा कि इसका मतलब AI की प्रोग्रेस रोकना नहीं है। AI डेवलपमेंट आगे भी जारी रहेगा, लेकिन जरूरत पड़ने पर इसकी रफ्तार कम की जानी चाहिए, ताकि सुरक्षा उपाय पीछे न रह जाएं।

Altman ने यह भी कहा कि प्रतिस्पर्धा के दवाब की वजह से AI डेवलपमेंट में लापरवाही को सही नहीं ठहराया जा सकता। उनके मुताबिक, AI की कैपेबिलिटीज को एलाइनमेंट और मॉनिटरिंग से आगे नहीं निकलने देना चाहिए। OpenAI अब बड़े लर्निंग रन से पहले सुरक्षा उपायों के इंतजाम कर रहा है, ताकि मॉडल की क्षमता बढ़ने के दौरान ही संभावित खतरों को देखा जा सके।

जरूरत पड़ी तो डेवलपमेंट रोकने की बात भी

Altman का मौजूदा रुख सिर्फ विकास की रफ्तार कम करने तक सीमित नहीं है। हालिया बातचीत में उन्होंने इशारा दिया है कि अगर AI को सुरक्षित तरीके से आगे बढ़ाना संभव नहीं रहा तो सेफ्टी को प्राथमिकता दी जानी चाहिए। OpenAI इस समय अपने अगले दौर के ज्यादा सक्षम AI मॉडल्स के लिए सेफ्टी सिस्टम पर भी काम कर रही है।

इंसानों के हाथ से AI का कंट्रोल निकलना बड़ा खतरा

AI के संभावित खतरों को लेकर Altman ने दो बड़ी चिंताएं बताई हैं। पहली चिंता यह है कि भविष्य में इंसान AI सिस्टम पर अपना कंट्रोल खो सकते हैं। दूसरी चिंता AI की ताकत का किसी एक व्यक्ति, कंपनी या सरकार के हाथ में बहुत ज्यादा पहुंच जाना है। Altman के मुताबिक अगर बेहद शक्तिशाली AI किसी एक समूह को दुनिया पर अपनी सोच थोपने की क्षमता दे देता है तो इसके गंभीर परिणाम हो सकते हैं।

AI की रफ्तार कम करने को लेकर यह चर्चा ऐसे समय तेज हुई है जब Anthropic CEO Dario Amodei ने भी AI के डेवलपमेंट को कंट्रोल करने की अपील की है। Amodei ने स्वतंत्र मूल्यांकनकर्ताओं (Independent appraisers) और शेयर्ड सेफ्टी स्टैंडर्ड की जरूरत बताई है। Altman ने उनके प्रस्ताव का समर्थन करते हुए कहा कि OpenAI भी स्वतंत्र मूल्यांकनकर्ताओं को अपने सिस्टम का एक्सेस देने के विचार के साथ आगे बढ़ेगी।