ओपनएआई ने उइगरों की निगरानी के लिए चैटजीपीटी के उपयोग पर सवाल उठाए

कृत्रिम बुद्धिमत्ता (एआई) वर्चस्व की वैश्विक दौड़ ने एक गंभीर मोड़ ले लिया है, क्योंकि एआई दिग्गज ओपनएआई ने अपनी जनरेटिव चैटबॉट, चैटजीपीटी, के संदिग्ध चीनी सरकारी तत्वों द्वारा उइगरों सहित जातीय अल्पसंख्यकों की निगरानी के अभियानों के लिए कथित उपयोग पर सवाल उठाए हैं। कंपनी की एक हालिया रिपोर्ट में किए गए इस खुलासे ने दमनकारी उद्देश्यों के लिए वाणिज्यिक एआई उपकरणों के राज्य अभिनेताओं द्वारा हथियार बनाए जाने के बारे में मौजूदा चिंताओं को बढ़ा दिया है।

रिपोर्ट में विशेष रूप से उल्लेख किया गया है कि जिन उपयोगकर्ताओं का “संभवतः [चीनी] सरकारी इकाई से संबंध है,” उन्होंने बड़े पैमाने पर निगरानी से संबंधित डेटा प्रोसेसिंग और भाषा शोधन के लिए चैटजीपीटी की क्षमताओं का लाभ उठाने की कोशिश की है। ओपनएआई ने पुष्टि की कि उसने शामिल उपयोगकर्ताओं पर प्रतिबंध लगा दिया है।

कथित दुरुपयोग के विशिष्ट उदाहरण

ओपनएआई की जांच ने चैटबॉट के दो विशिष्ट, चिंताजनक अनुप्रयोगों को उजागर किया। एक विशेष मामले में, चीनी भाषी उपयोगकर्ता ने एक निगरानी उपकरण के लिए एक विस्तृत प्रस्ताव का मसौदा तैयार करने में सहायता के लिए चैटजीपीटी से अनुरोध किया था। इस उपकरण को विशेष रूप से उइगर अल्पसंख्यक और अधिकारियों द्वारा “उच्च जोखिम” माने जाने वाले अन्य व्यक्तियों की यात्रा गतिविधियों को ट्रैक करने के लिए डिज़ाइन किया गया था।

दूसरे, संबंधित उदाहरण में, एक चीनी भाषी उपयोगकर्ता ने एक अलग एप्लिकेशन के लिए “प्रचार सामग्री” बनाने में मदद माँगी। यह उपकरण कथित तौर पर एक्स और फेसबुक जैसे लोकप्रिय सोशल मीडिया प्लेटफॉर्म को राजनीतिक या धार्मिक रूप से संवेदनशील सामग्री के लिए स्कैन करने के लिए था।

ओपनएआई में प्रिंसिपल इन्वेस्टिगेटर, बेन निम्मो, ने मौजूदा निगरानी ढाँचों में एआई को एकीकृत करने की राज्य संस्थाओं की उभरती प्रवृत्ति की पुष्टि की। सीएनएन से बात करते हुए, उन्होंने कहा, “पीपुल्स रिपब्लिक ऑफ चाइना के भीतर निगरानी और निगरानी जैसी बड़े पैमाने की चीजों के लिए कृत्रिम बुद्धिमत्ता का उपयोग करने में बेहतर होने का एक दबाव है।” उन्होंने कहा कि सत्तारूढ़ पार्टी यह पता लगा रही है कि एआई उनके मौजूदा विशाल निगरानी बुनियादी ढाँचे को कैसे बढ़ा सकता है।

व्यापक भू-राजनीतिक और नैतिक संदर्भ

यह विवाद प्रौद्योगिकी श्रेष्ठता के लिए संयुक्त राज्य अमेरिका और चीन के बीच खुली प्रतिस्पर्धा की पृष्ठभूमि में सामने आया है, जिसमें दोनों राष्ट्र अगली पीढ़ी की एआई क्षमताओं को विकसित करने के लिए अरबों खर्च कर रहे हैं। हालांकि, ओपनएआई की रिपोर्ट नोट करती है कि दुरुपयोग अक्सर कोड को परिष्कृत करने या डेटा प्रोसेसिंग जैसे नियमित कार्यों से संबंधित होता है, न कि अभूतपूर्व तकनीकी चमत्कारों से। यह बताता है कि एलएलएम (LLMs) का उपयोग मुख्य रूप से मौजूदा दुर्भावनापूर्ण अभियानों की दक्षता और परिष्कार को बढ़ाने के लिए किया जा रहा है।

उइगरों की कथित निगरानी एआई बहस में एक गंभीर मानवाधिकार आयाम जोड़ती है। वर्षों से, मानवाधिकार समूहों और अंतर्राष्ट्रीय सरकारों ने शिनजियांग क्षेत्र में चीन के व्यापक, हाई-टेक निगरानी नेटवर्क का दस्तावेज़ीकरण किया है, जो स्थानीय आबादी को नियंत्रित करने के लिए चेहरे की पहचान, अनिवार्य राज्य-स्थापित ऐप्स और भविष्य कहनेवाला पुलिसिंग का उपयोग करता है। चैटजीपीटी जैसे एलएलएम का उपयोग एक तकनीकी उन्नयन का प्रतिनिधित्व करेगा, जो राज्य-संचालित निगरानी अभियानों में उपयोग की जाने वाली भाषा को स्क्रिप्टिंग और परिष्कृत करने की बाधा को कम करता है।

रिपोर्ट में यह भी उजागर किया गया कि दुर्भावनापूर्ण उद्देश्यों के लिए एआई का उपयोग करने वाला चीन एकमात्र देश नहीं है। संदिग्ध रूसी, उत्तर कोरियाई और चीनी हैकिंग समूहों ने कथित तौर पर अपने आक्रामक कोडिंग प्रथाओं को परिष्कृत करने या अपने लक्ष्यों को भेजे जाने वाले परिष्कृत फ़िशिंग लिंक को अधिक विश्वसनीय बनाने के लिए प्लेटफ़ॉर्म का उपयोग किया है।

चीन ने आरोपों को “निराधार” बताया

इन आरोपों के जवाब में, वाशिंगटन, डी.सी. में चीनी दूतावास ने रिपोर्ट के निष्कर्षों को स्पष्ट रूप से खारिज कर दिया। चीनी दूतावास की प्रवक्ता, लियू पेंग्यु, ने सीएनएन को बताया कि ओपनएआई की रिपोर्ट “निराधार” थी। उन्होंने बनाए रखा, “हम चीन के खिलाफ निराधार हमलों और निंदा का विरोध करते हैं।”

पेंग्यु ने प्रौद्योगिकी शासन के प्रति चीन के दृष्टिकोण का बचाव करते हुए कहा, “चीन विशिष्ट राष्ट्रीय विशेषताओं के साथ तेज़ी से एक एआई शासन प्रणाली का निर्माण कर रहा है। यह दृष्टिकोण विकास और सुरक्षा के बीच संतुलन पर जोर देता है, जिसमें नवाचार, सुरक्षा और समावेशिता शामिल है।” उन्होंने बताया कि सरकार ने जनरेटिव एआई और डेटा सुरक्षा के संबंध में पहले ही नैतिक दिशानिर्देश और विनियम पेश किए हैं।

यह घटना एआई डेवलपर्स के लिए एक महत्वपूर्ण चुनौती पेश करती है: शक्तिशाली, व्यावसायिक रूप से उपलब्ध एलएलएम तक खुली पहुँच कैसे बनाए रखी जाए, जबकि उन्हें मानवाधिकारों के दुरुपयोग और साइबर युद्ध के लिए उपयोग करने के लिए दृढ़ राज्य अभिनेताओं द्वारा दुरुपयोग को रोका जा सके। संदिग्ध उपयोगकर्ताओं पर प्रतिबंध लगाने की तत्काल कार्रवाई उस कठिन रेखा को रेखांकित करती है जिस पर एआई कंपनियों को नवाचार और नैतिक जिम्मेदारी के बीच चलना चाहिए।