AI से आखिर इतना क्यों डर गए Anthropic के रिसर्चर? नौकरी छोड़कर खुद बताई पूरी कहानी

आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में एक तरफ नई उम्मीदें हैं, तो दूसरी तरफ इसके खतरों पर बहस भी तेज होती जा रही है। इसी बहस के बीच AI कंपनी Anthropic से जुड़े रिसर्चर जैकब कॉक्सन के इस्तीफे ने कई गंभीर सवाल खड़े किए हैं। कॉक्सन का दावा है कि AI कंपनियां ऐसे सिस्टम बनाने की दौड़ में शामिल हैं जो आगे चलकर खुद को बेहतर बना सकेंगे और इंसानों की क्षमता से कहीं आगे निकल सकते हैं। उनका आरोप है कि कंपनियां इस रेस में सुरक्षा और नियंत्रण के जोखिम को पर्याप्त महत्व नहीं दे रही हैं।

कौन हैं जैकब कॉक्सन और उन्होंने क्या कहा?

जैकब कॉक्सन के X प्रोफाइल के मुताबिक वह AI रिसर्चर हैं। उन्होंने बताया कि उन्होंने पिछले 3 साल OpenAI और Anthropic, दोनों में प्री-ट्रेनिंग रिसर्च पर काम किया। इस्तीफे की जानकारी देते हुए उन्होंने X पर लिखा,

‘मैंने आज एंथ्रोपिक से इस्तीफा दे दिया। मैंने पिछले तीन साल OpenAI और Anthropic दोनों में प्री-ट्रेनिंग रिसर्च करते हुए बिताए हैं। दोनों कंपनियां जिम्मेदारी से काम नहीं कर रही हैं। वे सीधे खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस बनाने की दौड़ में हैं और हमारी जिंदगी को दांव पर लगा रही हैं।’

यानी कॉक्सन की सबसे बड़ी चिंता यह है कि AI को विकसित करने की रफ्तार कहीं ऐसी स्थिति न पैदा कर दे, जहां इंसानों के लिए इन सिस्टम्स को नियंत्रित करना मुश्किल हो जाए।

सुपरइंटेलिजेंट AI से खतरा क्या है?

कॉक्सन के मुताबिक AI सिस्टम बहुत जल्द ऐसी क्षमताएं हासिल कर सकते हैं जो इंसानों से कहीं ज्यादा होंगी। उनका कहना है कि इस तकनीक की ताकत को कम करके नहीं आंकना चाहिए। उन्होंने लिखा कि आने वाले समय में ऐसे सिस्टम हो सकते हैं जो किसी भी सिस्टम को हैक करने, किसी भी क्षेत्र में रातोंरात बड़ा बदलाव लाने और वास्तविक ताकत तथा संसाधन हासिल करने में सक्षम हों। उनका तर्क है कि इन सभी क्षेत्रों में AI की प्रगति पहले ही दिखाई दे रही है और इसकी रफ्तार कम नहीं हो रही।

क्या AI इंसानों के लिए खतरा बन सकता है?

कॉक्सन का दावा है कि AI बनाने वाले कई लोग खुद मानते हैं कि यह तकनीक दशक खत्म होने से पहले इंसानों के लिए बेहद खतरनाक साबित हो सकती है। उन्होंने कहा,

‘AI बनाने वाले लोग गंभीरता से मानते हैं कि यह दशक खत्म होने तक यह तकनीक हम सभी को खत्म कर सकती है। यह कोई मार्केटिंग स्टंट नहीं है।’

कॉक्सन के मुताबिक कई बड़े अधिकारी और वरिष्ठ रिसर्चर सार्वजनिक तौर पर AI के खतरे की बात करते समय अपनी भाषा को संतुलित रखते हैं, लेकिन निजी बातचीत में वही लोग अपनी चिंता जाहिर करते हैं। उनका कहना है कि मानव गतिविधियों में शायद ही कोई दूसरी गतिविधि इतनी बड़ी संभावित तबाही का खतरा पैदा करती हो।

फिर कंपनियां AI बना क्यों रही हैं?

सबसे बड़ा सवाल ये है कि अगर AI के खतरे को लेकर इतनी चिंता है तो कंपनियां इसका विकास जारी क्यों रख रही हैं? कॉक्सन ने OpenAI और Anthropic को लेकर अलग-अलग स्थिति बताई। उनका कहना है कि OpenAI में कई लोग AI के संभावित सभ्यतागत खतरे यानी civilizational stakes को पूरी तरह नहीं समझ पाए हैं। वहीं Anthropic के बारे में उनका दावा है कि वहां खतरे को अच्छी तरह समझा जाता है, लेकिन कंपनी एक ऐसी रेस में फंस गई है जिसमें उसे डर है कि अगर वह पीछे हटी तो दूसरी कंपनियां आगे निकल जाएंगी।

कॉक्सन को किस बात पर सबसे ज्यादा आपत्ति है?

कॉक्सन का कहना है कि AI को सबसे शक्तिशाली बनाने की होड़ बहुत जोखिम भरी हो सकती है। उनका मानना है कि सिर्फ किसी निजी कंपनी के Slack जैसे अंदरूनी मंच पर बैठकर यह फैसला नहीं होना चाहिए कि AI को कितनी तेजी से विकसित किया जाए, क्योंकि इसका असर पूरी मानवता पर पड़ सकता है। AI का विकास इस तरह हो कि यह इंसानों के हित, निर्देश और सुरक्षा के मुताबिक काम करे। कॉक्सन के मुताबिक, AI की सुरक्षा पर तेजी से काम करना तभी सही है, जब पूरी तरह भरोसा हो कि इससे ज्यादा सुरक्षित और बेहतर विकल्प मौजूद नहीं है। बता दें कि हाल ही में एलन मस्क ने भी दावा किया था कि AI इंसानों से भी ज्यादा ताकतवर हो सकता है।

क्या AI मॉडल को बेहतर बनाने पर रोक लगनी चाहिए?

कॉक्सन ने सिर्फ चेतावनी ही नहीं दी है, बल्कि बेहद कड़े कदम की संभावना भी जताई है। उनका कहना है कि अगर दुनिया AI की वैश्विक रेस को रोकना चाहती है तो कुछ महंगे और असाधारण कदम उठाने पड़ सकते हैं। उन्होंने AI मॉडल की क्षमताओं को आगे बढ़ाने पर अस्थायी रोक लगाने की संभावना का समर्थन किया है। कॉक्सन का कहना है कि AI कंपनियों के बीच समन्वय की संभावना पूरी तरह खत्म नहीं हुई है। उन्होंने Hugging Face पर हुए हमले जैसी घटनाओं को चेतावनी के तौर पर बताया, जिनके बाद अमेरिकी AI लैब्स के बीच विकास की गति को लेकर समझौते की संभावना बढ़ सकती है। हालांकि उनका कहना है कि फिलहाल दुनिया उस दिशा में आगे बढ़ती नहीं दिख रही, जहां वैश्विक AI रेस को रोका जा सके।

AI रिसर्चर्स से कॉक्सन की अपील

कॉक्सन ने AI लैब्स में काम करने वाले दूसरे रिसर्चर्स से भी अपने काम के भविष्य को लेकर गंभीरता से सोचने की अपील की। उन्होंने सवाल उठाया कि क्या रिसर्चर्स आने वाले वर्षों में बिना यह समझे कि सुपरइंटेलिजेंट सिस्टम किस तरह ‘सोचता’ है, उसके ऊपर बेहद शक्तिशाली ‘रीइंफोर्समेंट लर्निंग’ (RL) की प्रक्रिया चलाना चाहेंगे? उन्होंने रिसर्चर्स से कहा कि सिर्फ यह सोचकर चुप नहीं रहना चाहिए कि ‘यह तो होना ही है’। इसके बजाय उन्हें ऐसे हालात की मांग करनी चाहिए जिनमें AI का विकास ज्यादा सुरक्षित तरीके से हो।

Image Source : INDIA TVAI की ताकत बढ़ी तो क्या-क्या हो सकता है?

Anthropic के CEO का क्या कहना है?

कॉक्सन की चिंताओं के बीच Anthropic के CEO डारियो अमोदेई का AI रेगुलेशन को लेकर अलग रुख भी सामने आया है। 16 अगस्त को अमोदेई ने उन दावों का विरोध किया था कि AI को रेगुलेट करने से इसकी ताकत कुछ बड़ी कंपनियों और सरकारों के हाथों में ही सिमट जाएगी। उनका तर्क था कि अगर नियम सोच-समझकर बनाए जाएं तो वे बड़ी और अत्याधुनिक AI कंपनियों की ताकत पर लगाम लगा सकते हैं और छोटी कंपनियों को आगे बढ़ने का ज्यादा मौका दे सकते हैं।

अमोदेई ने इसे ‘झूठा विकल्प’ क्यों कहा?

यह बहस निवेशक गेविन बेकर की उस दलील के बाद शुरू हुई थी जिसमें उन्होंने कहा था कि AI की ताकत कुछ बड़ी कंपनियों तक सीमित रखने के बजाय उसे ज्यादा से ज्यादा लोगों और कंपनियों के लिए उपलब्ध कराया जाना चाहिए। अमोदेई ने इस सोच को “झूठा विकल्प” बताया। उनका कहना है कि AI की ताकत को नियंत्रित करने और उसे सबके लिए उपलब्ध कराने के बीच एक तीसरा रास्ता भी है। अमोदेई के मुताबिक, निष्पक्ष नियम और संस्थाएं बड़ी कंपनियों की ताकत पर नियंत्रण रख सकती हैं और लोगों के अधिकारों की रक्षा कर सकती हैं।

आखिर AI को लेकर असली बहस क्या है?

एंथ्रोपिक के रिसर्चर का इस्तीफा और कंपनी के CEO का रेगुलेशन पर रुख AI की एक बड़ी बहस को सामने लाता है। एक तरफ सवाल है कि AI को कितनी तेजी से विकसित किया जाए, ताकि तकनीकी फायदे और आर्थिक अवसर हासिल किए जा सकें। दूसरी तरफ सवाल है कि अगर AI इंसानी क्षमता से बहुत आगे निकल गया तो उसकी सुरक्षा और नियंत्रण कैसे सुनिश्चित किया जाएगा। कॉक्सन इस रेस को बेहद खतरनाक मानते हैं और विकास की रफ्तार पर रोक या समझौते की वकालत कर रहे हैं। यानी बहस सिर्फ इस बात पर नहीं है कि AI कितना शक्तिशाली होगा, बल्कि इस पर भी है कि उस शक्ति पर नियंत्रण किसके पास होगा और इंसानों की सुरक्षा कैसे सुनिश्चित की जाएगी।

ये भी पढ़ें: AI पर क्यों आमने-सामने आईं दो पीढ़ियां? बुजुर्ग बोले क्रांति, Gen Z ने बताया सबसे बड़ा खतरा