एआई चलाउन बन्दुक लाइसेन्स ! एन्थ्रोपिकको सुपर एआईले ल्याएको विवाद

आर्टिफिसियल इन्टेलिजेन्सको क्षेत्रमा पछिल्लो समय एआई कम्पनी एन्थ्रोपिकको नयाँ मोडेल माइथोस नयाँ बहसको केन्द्र बनेको छ । केही विश्लेषकहरू यो एआई मोडेलको क्षमता प्रति त्रसित भएका छन् । उनीहरूका अनुसार माइथोस यतिधेरै शक्तिशाली छ कि यसको प्रयोगका लागि बन्दुकको लाइसेन्स सरह विशेष अनुमति आवश्यक रहेको छ ।

मार्केट प्लाटफर्म पोलीमार्केटले सोसल मिडिया प्लाटफर्म एक्स मा गरेको एक पोस्टमार्फत यो विषय सार्वजनिक भएको हो । उक्त पोस्टअनुसार सो एआई मोडेल परीक्षणमा संलग्न केही व्यक्तिहरूले यसको क्षमताप्रति गम्भीर चिन्ता व्यक्त गरेको एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो आमोडीले नै खुलासा गरेका थिए । यद्यपि यो भनाइ स्वतन्त्र रूपमा पुष्टि हुन सकेको छैन र आमोडीले यो टिप्पणी कुन सन्दर्भमा गरेका थिए भन्ने पनि स्पष्ट छैन।

आखिर के हो माइथोस ?

यो एन्थ्रोपिकको नयाँ एआई सिस्टम फेबल-५ को आधारभूत प्रविधि हो । कम्पनीले गत अप्रिलमा यसको झलक सार्वजनिक गरे पनि यसलाई सर्वसाधारणका लागि उपलब्ध गराएको थिएन । यसको मुख्य कारण यसको असाधारण क्षमता र त्यससँग जोडिएका सुरक्षा जोखिमहरू थिए ।

कम्पनीका अनुसार यो प्रविधि गलत व्यक्तिको हातमा पुगेमा बैंकिङ प्रणालीजस्ता महत्वपूर्ण पूर्वाधारहरूमा साइबर आक्रमण गर्न वा जैविक हतियार विकास गर्न समेत प्रयोग हुन सक्ने सम्भावना रहेको छ ।

एन्थ्रोपिकको दाबीअनुसार परीक्षणका क्रममा माइथोसले प्रमुख अपरेटिङ सिस्टमहरू र वेब ब्राउजरहरूमा रहेका सुरक्षा कमजोरीहरू पत्ता लगाएको थियो । तीमध्ये केही कमजोरी दशकौँसम्म लुकेर बसेका तथा यसअघि पहिचान हुन नसकेका बताइएको छ ।

यही जोखिमलाई ध्यानमा राख्दै एन्थ्रोपिकले प्रोजेक्ट ग्लासविङ नामक विशेष कार्यक्रम सञ्चालन गरेको थियो । यसअन्तर्गत करिब ५० विश्वसनीय संस्थाहरूलाई मात्र माइथोस उपलब्ध गराइएको थियो।

जसमा गुगल, एप्पल, अमेजन, माइक्रोसफ्ट लगायतका प्रमुख प्रविधि कम्पनीहरू समावेश छन्। यसको उद्देश्य साइबर सुरक्षालाई बलियो बनाउन रक्षात्मक अनुसन्धानलाई सहयोग गर्नु थियो।

गत साता एन्थ्रोपिकले माइथोसको परिमार्जित संस्करण सार्वजनिक गरेको छ । कम्पनीका अनुसार यदि कसैले फेबल-५ लाई कुनै महत्वपूर्ण प्रणाली ह्याक गर्न वा जैविक हतियार निर्माणजस्ता जोखिमपूर्ण कार्यका लागि प्रयोग गर्ने प्रयास गरेमा मोडेल स्वतः कम क्षमतायुक्त पुरानो संस्करण क्लाउड ओपुस ४.८ मा फर्किनेछ ।

एआई मोडेलहरूको क्षमता मूल्यांकन गर्ने संस्था भाल्स एआईका अनुसार फेबल-५ विश्वमा हाल सार्वजनिक रूपमा उपलब्ध एआई मोडेलहरूमध्ये सबैभन्दा सक्षममध्येको एक हो । विभिन्न बेंचमार्क परीक्षणहरूमा यसले शीर्ष स्थान हासिल गरेको छ।

अमेरिकी सरकारको हस्तक्षेप र जेलब्रेक को डर

एन्थ्रोपिकको एआई मोडेलका विषयमा बहस चर्किएको बेला अमेरिकी सरकारले एन्थ्रोपिकलाई आफ्ना दुई शक्तिशाली मोडेल क्लाउड फेबल-५ अनि क्लाउड माइथोस-५ माथि विदेशी नागरिकहरूको पहुँच तत्काल रोक्न निर्देशन दिएको खबर सार्वजनिक भएको छ । यी मोडेलले राष्ट्रिय सुरक्षासम्बन्धी चिन्ता बढाएको तर्क अमेरिकी सरकारको छ ।

सो निर्देशनपछि एन्थ्रोपिकले विदेशी प्रयोगकर्ताहरूको पहुँच अस्थायी रूपमा निलम्बन गरेको जनाइएको छ । यो प्रतिबन्ध अमेरिका बाहिर रहेका विदेशी नागरिकमा मात्र सीमित नभई अमेरिकाभित्र बसोबास गरिरहेका विदेशी नागरिकहरूमा पनि लागू गरिएको बताइएको छ ।

रिपोर्टहरूका अनुसार अमेरिकी अधिकारीहरूलाई यी मोडेलहरूमा जेलब्रेकको जोखिम पनि रहेको छ । एआईको भाषामा जेलब्रेक भन्नाले मोडेलमा लगाइएका सुरक्षा सीमाहरू पार गरेर सामान्यतया नदिइने उत्तर वा संवेदनशील जानकारी प्राप्त गर्ने प्रविधिलाई जनाउँछ ।

यही कारणले एन्थ्रोपिकका यी नयाँ एआई मोडेलहरू केवल प्रविधिक क्षमताका कारण मात्र होइन, सुरक्षा, नैतिकता र राष्ट्रिय हितसँग जोडिएका प्रश्नहरूका कारण पनि विश्वव्यापी बहसको विषय बनेका छन् ।

एजेन्सी