AI अगले 10 सालों में इंसानों की जान भी ले सकता है

AI शोधकर्ता Jacob Coxon ने तीन साल तक काम करने के बाद Anthropic से इस्तीफा दे दिया है।

Artificial Inteligence कंपनी Anthropic के शोधकर्ता Jacob Coxon ने AI के संभावित खतरों को लेकर कंपनी और पूरी इंडस्ट्री छोड़ने का फैसला किया है। 27 वर्षीय AI शोधकर्ता Jacob Coxon ने तीन साल तक काम करने के बादAnthropic से इस्तीफा दे दिया है।

The Wall Street Journal की एक विस्तृत रिपोर्ट के अनुसार, उन्होंने सामान्य विदाई संदेश जारी करने के बजाय सोशल मीडिया प्लेटफॉर्म एक्स पर एक विस्तृत पोस्ट लिखकर AI विकसित करने वाली प्रमुख कंपनियों के रवैये पर गंभीर सवाल उठाए हैं।

Coxon का कहना है कि,

शीर्ष AI कंपनियां ऐसे सिस्टम बनाने की होड़ में लगी हैं, जिन्हें भविष्य में नियंत्रित करना मुश्किल हो सकता है। उनका मानना है कि यह दौड़ इंसानियत के लिए विनाशकारी साबित हो सकती है।

ब्रिटिश शोधकर्ता Coxon नए AI मॉडल को विशाल मात्रा में डेटा देकर प्रशिक्षित करने में विशेषज्ञ हैं। उन्होंने मंगलवार को कहा कि वह ऐसे AI सिस्टम बनाने की उद्योगव्यापी होड़ का हिस्सा नहीं बनना चाहते, जो स्वयं अपनी क्षमताओं में सुधार कर सकें। उन्हें आशंका है कि ऐसे सिस्टम नियंत्रण से बाहर जाकर मानवता के अस्तित्व के लिए खतरा पैदा कर सकते हैं।

Coxon ने दावा किया कि,

एआई विकसित करने वाले कई लोग वास्तव में मानते हैं कि यह तकनीक इसी दशक के अंत तक पूरी मानवता को खत्म कर सकती है। यानी अगले 10 सालों में इंसानी सभ्यता खत्म हो जाएगी।

Coxon के मुताबिक,

AI इंडस्ट्री के कई लोग अब स्वयं को बेहतर बनाने वाले मॉडलों की दिशा में जारी विकास को समझाने के लिए ‘क्रंचटाइम’ और ‘एंडगेम’ जैसे शब्दों का इस्तेमाल करने लगे हैं।

उन्होंने कहा,

हम कई बेहद आक्रामक परिस्थितियों की ओर बढ़ रहे हैं। अगले साल के अंत तक चीजें हमारे नियंत्रण से बाहर हो सकती हैं। जब अमेरिकी कंपनियां एक-दूसरे और चीन की उभरती AI कंपनियों से मुकाबला कर रही हों, तब सुरक्षा से समझौता होना लगभग तय है।

Anthropic ने फिलहाल Coxonके इस्तीफे पर कोई टिप्पणी नहीं की है। कंपनी के मुख्य कार्यकारी अधिकारी Dario Amodei और दूसरे वरिष्ठ अधिकारी भी कई बार बेकाबू AI मॉडलों के खतरों को लेकर चेतावनी दे चुके हैं और इंडस्ट्री से विकास की रफ्तार धीमी करने की अपील कर चुके हैं।

Coxon ने इस साल की शुरुआत में OpenAI छोड़कर Anthropic का रुख किया था, क्योंकि Anthropic को AI सुरक्षा पर विशेष ध्यान देने वाली कंपनी माना जाता है। हालांकि, Coxon का कहना है कि कंपनी के सुरक्षा प्रयास ईमानदार होने के बावजूद अब उन्हें नहीं लगता कि सरकारी हस्तक्षेप या पूरी इंडस्ट्री की सहमति से विकास की रफ्तार धीमी किए बिना कोई कंपनी जिम्मेदारी के साथ आर्टिफिशियल जनरल इंटेलिजेंस यानी AGI विकसित कर सकती है।

AGI से तात्पर्य ऐसे AI सिस्टम से है, जो अनेक क्षेत्रों और कार्यों में इंसानों से बेहतर प्रदर्शन करने में सक्षम हो।

Coxon की पोस्ट पर प्रतिक्रिया देते हुए Anthropic में अलाइनमेंट साइंस के प्रमुख Evan Hubinger ने उनकी चिंताओं का समर्थन किया।

Hubinger ने कहा,

Jacob Coxon सही कह रहे हैं। हम वास्तव में मानते हैं कि एआई सभी इंसानों की जान ले सकता है। व्यक्तिगत रूप से मैं अगले एक दशक में इसकी आशंका 10 प्रतिशत से अधिक मानता हूं। मेरा मानना है कि एंथ्रोपिक अपनी तरफ से पूरी कोशिश कर रही है, लेकिन हमारे पास सुपरइंटेलिजेंस की अलाइनमेंट समस्या हल करने की कोई ठोस योजना नहीं है। हम इस दिशा में स्पष्ट रूप से सही रास्ते पर भी नहीं हैं।”

उन्होंने आगे कहा कि,

मौजूदा एआई मॉडल से खतरा कम है। उनकी असली चिंता ऐसे सुपरइंटेलिजेंस को लेकर है, जो बार-बार खुद को बेहतर बनाते हुए तेजी से शक्तिशाली होता जाए। हबिंगर के मुताबिक, यह प्रक्रिया पहले के अनुमान से कहीं अधिक तेजी से आगे बढ़ रही है।

Coxon के इस्तीफे से दो महीने पहले Anthropic के लंबे समय से आलोचक रहे Elon Musk ने भी कंपनी को लेकर अपना रुख पूरी तरह बदल लिया था।

Elon Musk इससे पहले Anthropic के एआई मॉडल Claude को “मानव-विरोधी”, “दुष्ट” और “पश्चिमी सभ्यता के लिए खतरा” बता चुके थे।

अकेले Coxon के इस्तीफे से एआई की वैश्विक दौड़ की रफ्तार कम होने की संभावना नहीं है। हालांकि, उनकी चेतावनी उन आवाजों को और मजबूत करती है, जो लगातार कह रही हैं कि इस तकनीक को विकसित करने वाली कंपनियां इसके खतरों को किसी अन्य व्यक्ति से बेहतर समझती हैं—और इसके बावजूद इसे विकसित करने की दौड़ में आगे बढ़ रही हैं।

हाल के दिनों में OpenAI और Anthropic के मॉडलों से जुड़े कुछ साइबर हमलों ने भी चिंताएं बढ़ाई हैं। इनमें से कुछ मॉडल AI एजेंटों के समूह के रूप में मिलकर काम कर रहे थे। इन घटनाओं से संकेत मिला कि AI सिस्टम हानिकारक लक्ष्य अपना सकते हैं और अपनी गतिविधियों को इंसानों से छिपाने की कोशिश कर सकते हैं।

Coxon को डर है कि,

अगर AI सिस्टम खुद में सुधार करने लगे, तो वे इतनी तेजी से शक्तिशाली हो सकते हैं कि इंसानी आदेश मानने से भी इनकार कर दें।

Coxon का जाना Anthropic के किसी कर्मचारी द्वारा AI सुरक्षा संबंधी आशंकाओं के कारण कंपनी छोड़ने के शुरुआती मामलों में से एक है। इससे पहले कंपनी के एक सुरक्षा शोधकर्ता ने कविता का अध्ययन करने के लिए नौकरी छोड़ दी थी। उन्होंने चेतावनी दी थी कि “दुनिया खतरे में है।”

हाल के वर्षों में OpenAIऔर दूसरी AI कंपनियों के कई शोधकर्ता भी इसी तरह की चिंताएं जताते हुए अपनी नौकरियां छोड़ चुके हैं। Anthropic ने जिम्मेदार AI विकास और सुरक्षा में भारी निवेश के दावे के आधार पर दुनिया के सबसे बड़े AI प्लेटफॉर्मों में अपनी जगह बनाई है। AI इंडस्ट्री के शीर्ष अधिकारी भी हाल के साइबर हमलों को भविष्य के गंभीर खतरों का संकेत बता रहे हैं। OpenAI ने पिछले सप्ताह कहा था कि उसका नवीनतम मॉडल AGI की दिशा में एक बड़ी उपलब्धि है और क्षमताओं के मामले में पिछली तकनीकों से कहीं आगे है।

OpenAI के CEO सैम ऑल्टमैन ने नॉर्थ कैरोलिना में आयोजित एक शिखर सम्मेलन के दौरान G20 अधिकारियों से कहा,

अगर लोगों ने तत्काल कदम नहीं उठाए तो साइबर सुरक्षा के क्षेत्र में कई चीजें बहुत गलत हो सकती हैं।”

OpenAI के मुख्य वैज्ञानिक जैकब पैचॉकी ने भी रविवार को एक ब्लॉग पोस्ट में लिखा,

“यह बेहद सावधानी बरतने का समय है। मुझे चिंता है कि मशीन इंटेलिजेंस की तेज वृद्धि के परिणामों के लिए कोई भी तैयार नहीं है।” उन्होंने AI विकास की गति धीमी करने के लिए सरकारी हस्तक्षेप और कंपनियों के बीच समन्वय की मांग की।

बता दें कि अमेरिका में अभी तक AI को नियंत्रित करने वाला कोई व्यापक संघीय कानून मौजूद नहीं है। राष्ट्रपति डोनाल्ड ट्रंप का प्रशासन AI से मिलने वाले आर्थिक लाभ को अधिकतम करने के लिए कम सरकारी नियंत्रण वाली नीति को प्राथमिकता दे रहा है। आलोचकों का कहना है कि इससे बड़े साइबर हमलों और दूसरी गंभीर हानियों का खतरा बढ़ सकता है।

सीनेटर बर्नी सैंडर्स और ग्रेग कैसर ने पिछले सप्ताह ऐसा कानून पेश किया है, जिसमें सुपरइंटेलिजेंस पर स्थायी प्रतिबंध लगाने और नियामक संस्था द्वारा नए नियम बनाए जाने तक शक्तिशाली AI मॉडलों के विकास को रोकने का प्रस्ताव है।

कॉक्सन का इस्तीफा ऐसे समय आया है जब Anthropic शेयर बाजार में सूचीबद्ध होने के लिए अपनी आरंभिक सार्वजनिक पेशकश यानी IPO की तैयारी कर रही है। इसके दुनिया के सबसे बड़े IPO में शामिल होने की संभावना जताई जा रही है। कंपनी करीब दो लाख करोड़ डॉलर के मूल्यांकन की उम्मीद कर रही है और निवेशकों को आकर्षित करने के लिए जिम्मेदार AI विकास को अपनी प्रमुख विशेषता के रूप में पेश कर रही है।