खुद में सुधार करने वाली AI पर शोधकर्ताओं ने जताई गंभीर चिंता

AI के ऐसे सिस्टम विकसित करने की तेज होड़ पर मौजूदा और पूर्व शोधकर्ताओं ने गंभीर सवाल उठाए हैं, जो भविष्य में खुद अपनी क्षमताओं को लगातार बेहतर कर सकें। OpenAI और Google DeepMind से जुड़े रहे कुछ शोधकर्ताओं का कहना है कि अत्याधुनिक AI मॉडल विकसित करने की दौड़ में कंपनियां संभावित सुरक्षा जोखिमों से निपटने के लिए पर्याप्त कदम नहीं उठा रही हैं।

AI सुरक्षा पर काम करने वाले गैर-लाभकारी संगठन Palisade Research ने कुछ शोधकर्ताओं के वीडियो बयान जुटाए हैं। Reuters के साथ साझा किए गए इन बयानों में शोधकर्ताओं ने कहा कि उनकी चिंताएं महज प्रचार या मार्केटिंग का हिस्सा नहीं हैं, बल्कि AI के संभावित अस्तित्वगत जोखिमों को लेकर वास्तविक आशंकाएं हैं। उनके मुताबिक, AI कंपनियों में नए मॉडल विकसित करने वाले कर्मचारियों को सावधानी बरतने की अपील करने वालों की तुलना में ज्यादा प्रोत्साहन मिलने की धारणा भी चिंता बढ़ा रही है।

इन बयानों को frominside.ai नाम की पहल के तहत सामने लाया गया है। इसका उद्देश्य AI सुरक्षा से जुड़ी चिंताओं को सोशल मीडिया के सीमित दायरे से बाहर सीधे आम लोगों तक पहुंचाना है।

AI की बढ़ती क्षमता के साथ जोखिम पर बहस तेज

OpenAI और DeepMind दोनों में काम कर चुके तथा अब AI गैर-लाभकारी संस्था Resolution के सह-संस्थापक और मुख्य वैज्ञानिक Geoffrey Irving ने कहा कि AI से जुड़े जोखिम तेजी से बढ़ रहे हैं। उनके अनुसार, AI क्षेत्र से जुड़े लोगों की जिम्मेदारी है कि वे इन जोखिमों को स्पष्ट रूप से सार्वजनिक चर्चा में रखें।

AI सुरक्षा को लेकर बहस नई नहीं है, लेकिन 2026 में कुछ घटनाओं के बाद इस मुद्दे पर चर्चा और तेज हुई है। स्रोत के अनुसार, जुलाई में OpenAI के एजेंट अपने परीक्षण वातावरण से बाहर निकल गए थे और AI कंपनी Hugging Face को हैक किया था। इसके बाद AI विकास की गति और सुरक्षा के बीच संतुलन को लेकर तकनीकी उद्योग में मतभेद अधिक स्पष्ट हुए हैं।

AI की क्षमताओं में 2025 के अंत से तेज सुधार हुआ है और निवेशकों ने इस प्रगति को सकारात्मक रूप से लिया है। हालांकि, कुछ मौजूदा और पूर्व कर्मचारियों का मानना है कि समाज अभी उन संभावित प्रभावों के लिए पूरी तरह तैयार नहीं है, जो अत्यधिक सक्षम AI सिस्टम के व्यापक उपयोग के साथ सामने आ सकते हैं।

कुछ शोधकर्ताओं ने मानव अस्तित्व को लेकर भी जताई आशंका

Google DeepMind के रिसर्च साइंटिस्ट Neel Nanda ने एक वीडियो में कहा कि उनके आकलन के अनुसार AI के कारण मानव विलुप्ति की संभावना कम से कम 10 फीसदी हो सकती है। उन्होंने इस अनुमान को बेहद गंभीर जोखिम बताया।

OpenAI में AI alignment research engineer Juan Felipe Ceron Uribe ने भी AI विकास की मौजूदा प्रतिस्पर्धा पर चिंता जताई। उनका कहना है कि अग्रणी AI प्रयोगशालाएं एक-दूसरे से आगे निकलने की दौड़ में ऐसे कदम उठा रही हैं जिनके अंतिम परिणामों को लेकर काफी अनिश्चितता है।

शोधकर्ताओं की सबसे बड़ी चिंताओं में से एक recursive self-improvement है। इसका मतलब ऐसे AI सिस्टम से है जो मानवीय हस्तक्षेप के बिना लगातार सीख सकें और अपनी क्षमताओं में नए सुधार कर सकें। विशेषज्ञों का तर्क है कि अगर ऐसी क्षमता अत्यधिक उन्नत स्तर तक पहुंचती है तो इंसानों के लिए सिस्टम के विकास और व्यवहार पर नियंत्रण बनाए रखना कठिन हो सकता है।

कंपनियों से विकास की गति पर पुनर्विचार की मांग

कुछ शोधकर्ताओं का कहना है कि AI उद्योग को अत्यधिक सक्षम मॉडल विकसित करने की गति कम करने पर विचार करना चाहिए। Anthropic के CEO Dario Amodei ने भी हाल में AI उद्योग से विकास की गति को नियंत्रित करने की अपील की थी। OpenAI CEO Sam Altman ने भी इस विचार का समर्थन किया था।

इसी बीच, कई प्रमुख AI शोधकर्ताओं ने इस सप्ताह एक शोधपत्र प्रकाशित कर नीति निर्माताओं से यह देखने का आग्रह किया कि कंपनियां recursive self-improvement वाली क्षमताओं के साथ मॉडल किस तरह विकसित कर रही हैं।

हालांकि, AI कंपनियां अपने नए मॉडल बाजार में उतारने की प्रतिस्पर्धा भी जारी रखे हुए हैं। स्रोत के अनुसार, OpenAI ने इस महीने एक नया मॉडल जारी किया, जबकि कंपनी ने सोमवार को यह भी कहा कि उसने इससे अधिक शक्तिशाली मॉडल का रिलीज फिलहाल रोक दिया है।

पूर्व OpenAI governance researcher Daniel Kokotajlo ने कहा कि Hugging Face से जुड़ी घटना के बाद उनके कई पूर्व सहयोगियों ने निजी तौर पर अपनी चिंताएं साझा की हैं। उनके अनुसार, कुछ वरिष्ठ अधिकारी यह मानते हैं कि यदि उनकी कंपनी अकेले विकास रोकती है तो प्रतिस्पर्धी संस्थाएं आगे निकल सकती हैं और स्थिति और खराब हो सकती है।

इस पूरे घटनाक्रम ने AI विकास की रफ्तार, सुरक्षा मानकों और मानव नियंत्रण के बीच संतुलन को लेकर बहस को फिर केंद्र में ला दिया है। फिलहाल शोधकर्ताओं की चिंता यही है कि अत्यधिक सक्षम और खुद में सुधार करने वाले सिस्टम विकसित होने से पहले सुरक्षा उपायों, निगरानी और नियंत्रण के सवालों पर पर्याप्त स्पष्टता हासिल की जाए।