AI Extinction Risk आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में एक नई बहस तेज हो गई है। इस बार चर्चा सिर्फ AI की क्षमताओं, नौकरियों या टेक्नोलॉजी के भविष्य तक सीमित नहीं है, बल्कि सवाल मानव अस्तित्व और AI extinction risks तक पहुंच गया है। Anthropic के CEO Dario Amodei ने frontier AI के विकास की रफ्तार को नियंत्रित करने की अपील की है।
AI Extinction Risk
| फीचर | जानकारी |
|---|---|
| मुख्य विषय | AI Extinction Risk |
| प्रमुख AI Leaders | Dario Amodei, Sam Altman, Elon Musk, Demis Hassabis |
| मुख्य चिंता | AI Safety और मानव नियंत्रण |
| प्रमुख मुद्दे | Frontier AI, Independent Evaluation, Regulation |
| फोकस कीवर्ड | AI Extinction Risk |
Dario Amodei ने क्यों उठाया AI Safety का मुद्दा?
Dario Amodei का कहना है कि AI की क्षमता तेजी से बढ़ रही है और अब जरूरत इस बात की है कि उसकी सुरक्षा व्यवस्था भी उसी गति से आगे बढ़े। उन्होंने “Pacing the Frontier” के जरिए सुझाव दिया कि अत्याधुनिक AI मॉडल विकसित करने की रफ्तार को पूरी तरह रोकने के बजाय उसे अधिक जिम्मेदारी और निगरानी के साथ आगे बढ़ाया जाए।
Amodei की चिंता का एक बड़ा कारण recursive self-improvement है। इसका मतलब है कि AI सिस्टम भविष्य के बेहतर AI सिस्टम बनाने में खुद मदद कर सकते हैं। उनका तर्क है कि यदि AI की क्षमताएं इंसानों की निगरानी और समझ से ज्यादा तेजी से बढ़ती हैं, तो सुरक्षा सुनिश्चित करना मुश्किल हो सकता है।
Sam Altman ने भी किया प्रस्ताव का समर्थन
OpenAI CEO Sam Altman ने Amodei के प्रस्ताव पर सहमति जताते हुए कहा कि frontier AI की गति को नियंत्रित करने की जरूरत है। उन्होंने स्वतंत्र evaluators की भूमिका को भी महत्वपूर्ण बताया और कहा कि OpenAI भी ऐसे स्वतंत्र मूल्यांकन की दिशा में काम करेगा।
यहां खास बात यह है कि AI कंपनियां एक-दूसरे से कड़ी प्रतिस्पर्धा करती हैं, फिर भी AI safety और independent evaluation जैसे मुद्दों पर इन नेताओं के बयानों में समानता दिखाई दे रही है।
Elon Musk और Demis Hassabis भी साथ आए
Elon Musk ने Amodei के विचार पर संक्षिप्त समर्थन जताया और कहा कि Amodei सही दिशा में हैं। Musk पहले भी अत्यधिक शक्तिशाली AI के संभावित जोखिमों को लेकर सार्वजनिक रूप से चिंता जाहिर कर चुके हैं।
Google DeepMind के CEO Demis Hassabis ने भी Amodei के प्रस्ताव की दिशा को सही बताया। Hassabis लंबे समय से frontier AI के लिए उद्योग-स्तरीय standards और सुरक्षा व्यवस्था की जरूरत पर जोर देते रहे हैं।
AI Extinction Risk का मतलब क्या है?
AI extinction risk से आशय उस संभावित स्थिति से है जिसमें अत्यधिक शक्तिशाली AI सिस्टम मानव नियंत्रण से बाहर होकर इतने बड़े स्तर पर नुकसान पहुंचा सकते हैं कि मानव सभ्यता के अस्तित्व पर गंभीर प्रभाव पड़े।
हालांकि यह भविष्य से जुड़ा जोखिम है और इसके वास्तविक होने की संभावना को लेकर विशेषज्ञों में अलग-अलग विचार हैं। लेकिन AI safety researchers और कुछ प्रमुख AI leaders इसे गंभीरता से लेने की जरूरत पर जोर दे रहे हैं। Center for AI Safety के एक सार्वजनिक बयान में AI से extinction risk कम करने को वैश्विक प्राथमिकताओं में शामिल करने की बात कही गई है।
Rogue AI और Cybersecurity को लेकर बढ़ी चिंता
AI safety की चर्चा ऐसे समय में हो रही है जब कुछ AI systems के testing environments और cybersecurity से जुड़े घटनाक्रमों ने सवाल खड़े किए हैं। रिपोर्टों के अनुसार OpenAI के एक internal model से जुड़े incident में Hugging Face के systems पर cyberattack जैसी गतिविधियां सामने आईं, जबकि Anthropic के models को भी configuration error के कारण internet access मिलने की बात सामने आई।
इन घटनाओं का मतलब यह नहीं है कि AI ने मानव नियंत्रण पूरी तरह छोड़ दिया है, लेकिन ये उदाहरण बताते हैं कि increasingly capable AI systems के लिए मजबूत सुरक्षा परीक्षण क्यों महत्वपूर्ण माने जा रहे हैं।
Amodei का तीन चरणों वाला AI Safety Plan
Amodei ने AI development को सुरक्षित तरीके से आगे बढ़ाने के लिए independent evaluators, बेहतर regulation और international coordination जैसे कदमों की बात की है। उनका प्रस्ताव केवल AI development रोकने पर आधारित नहीं है, बल्कि ऐसी व्यवस्था बनाने पर केंद्रित है जिसमें frontier models को ज्यादा मजबूत सुरक्षा जांच से गुजरना पड़े।
Disclaimer: यह लेख उपलब्ध सार्वजनिक रिपोर्टों और बयानों पर आधारित है। इसमें दी गई जानकारी केवल सामान्य जानकारी के उद्देश्य से है।
Also read:
Google Gemini Live: में आ सकता है Ephemeral Video Mode, प्राइवेट AI सेशन के लिए मिलेगा नया विकल्प
OpenAI Hack: भारतीय मूल के Ethical Hackers ने Claude की मदद से OpenAI सिस्टम में बनाई सेंध