AI मॉडल खुद की कॉपी बनाकर फैल सकते हैं, Anthropic की चेतावनी

आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से विकसित होते क्षेत्र में साइबर सुरक्षा को लेकर नई चिंता सामने आई है। AI कंपनी Anthropic ने सोमवार को बताया कि उसके प्रयोगों के अनुसार, छोटे AI मॉडल आने वाले महीनों में इतने सक्षम हो सकते हैं कि वे स्मार्ट टीवी, स्मार्ट ओवन और अन्य इंटरनेट से जुड़े उपकरणों में खुद की प्रतियां बनाकर फैल सकें। कंपनी ने चेतावनी दी कि ऐसी क्षमता विकसित होने पर इन सिस्टम को नियंत्रित करना और पूरी तरह बंद करना मुश्किल हो सकता है।

Anthropic ने अपने शोध में यह जांचने की कोशिश की कि क्या AI मॉडल कमजोर सुरक्षा वाले उपकरणों की पहचान कर सकते हैं, उनमें अपनी कॉपी स्थापित कर सकते हैं और बिना मानवीय मदद के आगे दूसरे उपकरणों तक पहुंच सकते हैं। प्रयोगों में पाया गया कि 30 अरब से कम पैरामीटर वाले कुछ छोटे मॉडल इस प्रक्रिया के लिए जरूरी कई चरण पूरे कर सकते हैं। हालांकि, वे शुरुआत से अंत तक पूरी प्रक्रिया को लगातार सफलतापूर्वक पूरा करने में संघर्ष करते रहे।

छोटे AI मॉडल की क्षमताओं पर क्या मिला?

Anthropic के अनुसार, AI मॉडल की खुद की प्रतियां बनाने की क्षमता का आकलन करने के लिए कई चरणों वाली प्रक्रिया का परीक्षण किया गया। इसमें कमजोर डिवाइस ढूंढना, उन तक पहुंच बनाना, मॉडल की कॉपी स्थापित करना और फिर अन्य उपकरणों तक फैलना शामिल था।

कंपनी ने पाया कि छोटे मॉडल कुछ जरूरी चरणों को पूरा करने में सक्षम थे, लेकिन वास्तविक परिस्थितियों में पूरी प्रक्रिया को शुरू से अंत तक सफलतापूर्वक पूरा करना उनके लिए अभी भी चुनौतीपूर्ण था।

हालांकि, जब प्रयोगों में कुछ सुरक्षा संबंधी चरणों को हटा दिया गया और परीक्षण को सरल बनाया गया, तब Anthropic के मुताबिक GLM-5.2 और उससे अधिक सक्षम मॉडल पूरी प्रक्रिया को शुरू से अंत तक पूरा करने में सक्षम थे। यह निष्कर्ष प्रयोगों की निर्धारित परिस्थितियों पर आधारित था और इसे सभी वास्तविक उपकरणों पर सफल स्व-प्रतिकृति का प्रमाण नहीं माना जाना चाहिए।

स्मार्ट टीवी और IoT उपकरण क्यों हैं जोखिम में?

Anthropic ने अपने शोध में इंटरनेट ऑफ थिंग्स (IoT) उपकरणों पर विशेष ध्यान दिया। इनमें स्मार्ट टीवी, स्मार्ट घरेलू उपकरण और इंटरनेट से जुड़े दूसरे गैजेट शामिल हैं। कंपनी के अनुसार, ऐसे कई उपकरणों में सुरक्षा व्यवस्था अपेक्षाकृत कमजोर हो सकती है, जिससे वे संभावित हमलों के लिए संवेदनशील बन जाते हैं।

शोध में व्यक्त चिंता यह है कि यदि कोई AI सिस्टम कमजोर उपकरणों तक पहुंचने और उनमें अपनी प्रतियां स्थापित करने में सक्षम हो जाता है, तो वह उपलब्ध कंप्यूटिंग संसाधनों का इस्तेमाल करके अपना प्रसार जारी रख सकता है।

Anthropic ने यह भी चेतावनी दी कि AI आधारित स्व-प्रतिकृति प्रणाली को रोकना पारंपरिक मैलवेयर की तुलना में अधिक जटिल हो सकता है। कंपनी के आकलन के अनुसार, ऐसे सिस्टम अपरिचित उपकरणों को समझने और उनके अनुरूप खुद को ढालने की कोशिश कर सकते हैं। इससे संभावित रूप से डेटा सेंटर में इस्तेमाल होने वाले प्रोसेसर और अन्य कंप्यूटिंग संसाधन भी निशाने पर आ सकते हैं।

हालांकि, यह शोध संभावित जोखिमों और प्रयोगात्मक क्षमताओं पर केंद्रित है। इससे यह निष्कर्ष नहीं निकलता कि ऐसे AI मॉडल पहले से ही व्यापक स्तर पर इंटरनेट पर खुद को फैला रहे हैं।

साल के अंत तक क्षमता विकसित होने की आशंका

Anthropic ने अपने ऐतिहासिक विकास-आकलन के आधार पर चेतावनी दी कि यदि छोटे AI मॉडल की क्षमताओं में सुधार इसी गति से जारी रहा, तो वे इस साल के अंत तक स्वायत्त रूप से अपनी प्रतियां बनाने में सक्षम हो सकते हैं। कंपनी ने यह भी अनुमान जताया कि इसके बाद मॉडल के वेट्स पर आधारित स्व-प्रतिकृति प्रणालियां भी जल्द सामने आ सकती हैं।

AI मॉडल के वेट्स वे संख्यात्मक मान होते हैं, जो प्रशिक्षण के दौरान सीखे गए पैटर्न और मॉडल के व्यवहार को निर्धारित करने में भूमिका निभाते हैं। हालांकि, स्व-प्रतिकृति की वास्तविक क्षमता मॉडल की संरचना, उपलब्ध उपकरणों, सुरक्षा व्यवस्थाओं और कंप्यूटिंग संसाधनों सहित कई कारकों पर निर्भर करेगी।

कंपनी ने यह भी कहा कि ऐसी स्वायत्त प्रणालियां संभवतः धीरे-धीरे फैलेंगी और व्यापक रूप से उपलब्ध, लेकिन अपेक्षाकृत असुरक्षित कंप्यूटिंग संसाधनों पर निर्भर रहेंगी।

साइबर सुरक्षा मजबूत करने की जरूरत

Anthropic ने संभावित खतरे को सीमित करने के लिए सिस्टम की सुरक्षा मजबूत करने पर जोर दिया है। कंपनी के मुताबिक, इंटरनेट से जुड़े उपकरणों की सुरक्षा में सुधार और AI एजेंटों के अनधिकृत प्रसार को कठिन बनाने वाले उपाय महत्वपूर्ण हो सकते हैं।

यह चेतावनी AI की बढ़ती क्षमताओं के साथ साइबर सुरक्षा को लेकर सामने आ रही चुनौतियों को रेखांकित करती है। हालांकि, स्वायत्त AI मॉडल के व्यापक स्तर पर खुद की प्रतियां बनाने की संभावना अभी एक अनुमानित जोखिम है, न कि स्थापित वास्तविकता।