के एआईले मानवजातिलाई नै समाप्त पार्न सक्छ ? विज्ञले औँल्याए जोखिम

एआई विकासको तीव्र गति र यसले मानव सभ्यतामा पार्न सक्ने सम्भावित जोखिमका बारेमा विश्वव्यापी रूपमा बहस भइरहेका छन् र अझ उपल्लो तहका बहसका माग भइरहेका छन्। प्रविधि क्षेत्रका शीर्ष वैज्ञानिक, उद्यमी तथा नीति निर्माताहरूले एआईका कारण पर्न सक्ने अल्पकालीन र दीर्घकालीन असरहरूबारे गम्भीर चिन्ता व्यक्त गरेका छन्।

एकातिर एआईले मानव जीवनलाई सरल बनाउने दाबी गरिँदै छ भने अर्कोतिर यसले सम्पूर्ण मानव जातिकै अस्तित्व समाप्त पार्न सक्ने सम्भावनाबारे पनि चेतावनी दिइएको छ।

अन्तर्राष्ट्रिय समाचार एजेन्सीहरूका अनुसार हालैका दिनहरूमा एआई सुरक्षाका विषयमा निकै गम्भीर दाबीहरू सार्वजनिक भएका छन्। एआईका कारण मानव विनाशको जोखिम १० प्रतिशतसम्म रहेको, एआई आणविक हतियारभन्दा पनि बढी खतरनाक हुन सक्ने र यसको बोटनेटले सम्पूर्ण इन्टरनेट प्रणाली नै ठप्प पार्न सक्नेजस्ता चेतावनीहरू आइरहेका छन्। तर, अर्कोतर्फ कतिपय विज्ञहरूले यी दाबीहरूलाई ठूला प्रविधि कम्पनीहरूको व्यापारिक रणनीति वा अतिरञ्जित भयका रूपमा विश्लेषण गरेका छन्।

यहाँ एआईका सम्भावित जोखिम, यसको विकासको गति नियन्त्रण गर्ने आह्वान र त्यससम्बन्धी विभिन्न छ प्रमुख दाबी तथा विज्ञहरूको प्रतिक्रियालाई विस्तृत रूपमा विश्लेषण गरिएको छ :

१. के एआईले सिङ्गो इन्टरनेट नै आफ्नो नियन्त्रणमा लिन सक्छ ?

एआई अनुसन्धानसम्बन्धी प्रमुख कम्पनी एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत दारियो अमोदेईले सेप्टेम्बर १२ मा एउटा गम्भीर चेतावनी दिएका थिए। उनका अनुसार आगामी ६ देखि १२ महिनाभित्र एआईको नयाँ स्वरूपले एउटा निरन्तर रहने बोटनेट मार्फत सम्पूर्ण इन्टरनेट प्रणालीलाई नै नियन्त्रणमा लिन सक्नेछ। यसबाट अर्बौं डलरको आर्थिक क्षति हुन सक्ने उनको आकलन थियो।

तर, न्युयोर्क विश्वविद्यालयका प्राध्यापक तथा एआई विश्लेषक ग्यारी मार्कसले ‘यो दाबीलाई पूर्ण रूपमा पत्याउन नसकिने’ बताएका छन्। उनका अनुसार सम्पूर्ण इन्टरनेट प्रणाली नै यति सजिलै जोखिममा पर्छ भन्नु तर्कहीन कुरा हो। प्रविधि प्रयोगशालाहरूको चरम लापरबाहीविना यस्तो हुनु असम्भवप्रायः छ।

बेलायतको एआई सेक्युरिटी इन्स्टिच्युटले गरेको मूल्याङ्कनलाई उद्धृत गर्दै मार्कसले एन्थ्रोपिककै अग्रणी एआई प्रणाली माइथोसले पनि साना र कमजोर सुरक्षा भएका प्रणालीहरूलाई मात्र क्षति पुर्‍याउन सक्ने जिकिर गरे।

क्लाउडफ्लेयर, गुगल र अमेजन वेब सर्भिस (एडब्ल्यूएस) जस्ता ठूला पूर्वाधार कम्पनीहरूले सञ्चालन गरिरहेको इन्टरनेट प्रणालीलाई एआईले सजिलै ध्वस्त वा नियन्त्रण गर्न नसक्ने विज्ञहरूको भनाइ छ। साना र कमजोर वेबसाइटहरूमा आक्रमण हुन सके पनि सिङ्गो इन्टरनेट ढल्ने सम्भावना अत्यन्तै न्यून छ।

त्यस्तै, हगिङ फेसका इन्जिनियर निल्स रोगेले पनि इन्टरनेट कब्जा गर्ने दाबीलाई भ्रामक र काल्पनिक भनेका छन्। एआई सुरक्षा विज्ञ प्राध्यापक एलेन वुडवार्डका अनुसार इन्टरनेट एउटै ढाँचाको नभएकाले बोटनेटहरू सबै ठाउँमा समान रूपमा फैलिन सक्दैनन्। इन्टरनेट ट्राफिकले अवरोधहरूलाई पन्छाएर नयाँ मार्ग बनाउन सक्छ।

वुडवार्डले ‘एआई आफैंले यस्ता निर्णय नगर्ने’ स्पष्ट पार्दै भने, ‘जिम्मेवार मानिस हुन् र एआई केवल एउटा औजार हो। हामीले मानिसका क्रियाकलापलाई नियन्त्रण गर्नुपर्छ, एआईलाई होइन।’

२. के एआईले मानव जातिलाई नै नष्ट गर्न सक्छ ? पी(डूम) को बहस

एन्थ्रोपिकका एलाइनमेन्ट साइन्स प्रमुख इभान हबिङ्गरले सेप्टेम्बर ९ मा ‘एआईले आगामी दशकभित्रै मानिसलाई नष्ट गर्न सक्ने सम्भावना १० प्रतिशतभन्दा बढी रहेको’ बताएका थिए। एआईको क्षेत्रमा यस प्रकारको सम्भावनालाई पी(डूम) अर्थात् विनाशको सम्भाव्यता भन्ने गरिन्छ। एआई मानिसको नियन्त्रणभन्दा बाहिर गएर जैविक हतियार बनाउने वा विश्वव्यापी वित्तीय प्रणाली ध्वस्त पार्नेजस्ता घातक कदम चाल्न सक्ने डर यस अवधारणामा आधारित छ।

यद्यपि, एआई नाउ इन्स्टिच्युटकी मुख्य वैज्ञानिक हाइडी खलाफजस्ता विज्ञहरू भने यस्ता प्रतिशतमा आधारित भविष्यवाणीप्रति शङ्का व्यक्त गर्छन्। उनी भन्छिन्, ‘यस्ता दाबीहरू न त परीक्षण गर्न सकिन्छ, न त पुष्टि नै। त्यसैले यिनीहरू वैज्ञानिक मानिँदैनन्।’

सुपरइन्टेलिजेन्ट वा अति बुद्धिमानी एआईले कसरी विनाश निम्त्याउँछ भन्ने ठोस उदाहरणको अभाव रहेको उनको भनाइ छ। एन्थ्रोपिकनिकट स्रोतहरूले पनि ‘यस्ता नतिजाहरूको ठोस प्रतिशत निर्धारण गर्न असम्भव रहेको’ स्वीकार गरेका छन्।

वैज्ञानिकीकरणको अभाव भए पनि एआई सुरक्षासम्बन्धी केही गम्भीर घटनाहरू भने देखिएका छन्। गत जुलाईमा ओपनएआईका एआई एजेन्टहरू सुरक्षा परीक्षणका क्रममा आफ्नो तोकिएको सीमाबाहिर गएर इन्टरनेटका अन्य भागहरूमा ह्याक गर्न एकआपसमा रणनीतिक रूपमा मिलेको पुष्टि भएको थियो।

यस्तै, ओपनएआईका अनुसन्धानकर्ता ड्यान सेल्समले अनियन्त्रित एआईले पृथ्वीलाई मानव बसोबासका लागि अयोग्य बनाउन सक्ने चेतावनी दिएका छन्। एन्थ्रोपिकले पनि आफ्ना मोडलहरू जैविक हतियार निर्माणमा प्रयोग हुन सक्ने खालका पाँचवटा घटनाहरू फेला पारेको जनाएको छ।

३. नियमनको माग कि ठूला कम्पनीहरूको व्यापारिक रणनीति ?

विश्वकै धनी व्यक्ति तथा स्पेसएक्सका प्रमुख कार्यकारी एलन मस्कले सेप्टेम्बर १० मा एआई जोखिमको यो होहल्लालाई एउटा नियोजित साइअप (मनोवैज्ञानिक रणनीति) को संज्ञा दिएका छन्।

मस्कका अनुसार ठूला एआई कम्पनीहरूले सरकारलाई कडा नियमन बनाउन आग्रह गर्नुको पछाडि नयाँ र साना प्रतिस्पर्धी कम्पनीहरूलाई बजारमा आउन नदिने रणनीति लुकेको छ।

अमेरिकी उपराष्ट्रपति जेडी भान्सले पनि ठूला एआई कम्पनीहरू आफैं सरकारकहाँ गएर नियमनको भिक्षा माग्नु अनौठो भएको र यो ट्रोजन हर्स जस्तो देखिएको बताएका छन्। यदि सरकारले कडा नियमहरू लागू गरेमा नयाँ स्टार्टअप कम्पनीहरूले त्यस्ता मापदण्ड पूरा गर्न नसकी प्रतिस्पर्धाबाट बाहिरिने खतरा रहन्छ।

तर अर्कोतर्फ, प्रसिद्ध एआई वैज्ञानिक योसुआ बेन्जियो भने यो दाबीसँग सहमत छैनन्। उनले एआईको गतिलाई धीमा बनाउनु ठूला कम्पनीहरूकै लागि वित्तीय रूपमा घाटाको विषय भएको बताएका छन्। अर्बौं डलरको सेयर बजारमा सूचीकृत हुने तयारीमा रहेका कम्पनीहरूले आफ्नै प्रगति रोक्नका लागि यस्तो नाटक गर्छन् भन्नु तर्कसङ्गत नभएको उनको भनाइ छ।

४. के एआई आणविक हतियारभन्दा पनि खतरनाक छ ?

बेलायतका पूर्व रक्षामन्त्री देस ब्राउनले सेप्टेम्बर ७ मा ‘सुपरइन्टेलिजेन्ट एआई आणविक हतियारजत्तिकै वा त्योभन्दा पनि बढी घातक हुन सक्ने’ टिप्पणी गरेका थिए। अक्सफोर्ड विश्वविद्यालयका एआई अनुसन्धानकर्ता टोबी अर्डले यो भनाइको समर्थन गर्दै भनेका छन्, ‘हामीले आणविक बमको आविष्कारलाई जसरी असत्य साबित गर्न सक्दैनौं, त्यसरी नै मानवभन्दा बढी बुद्धिमान् एआई विकसित भइसकेपछि पुरानै अवस्थामा फर्कन असम्भव हुनेछ।’

तर मुख्य कुरा के हो भने, यस्तो सुपरइन्टेलिजेन्ट एआई अझै अस्तित्वमा आइसकेको छैन। एआई फ्युचर्स प्रोजेक्टका अनुसार सन् २०२८ को डिसेम्बरभन्दा अघि यस्तो एआई आउने सम्भावना छैन भने ओपनएआईका साम अल्टम्यानले यसका लागि सन् २०३५ सम्म लाग्न सक्ने बताएका छन्।

र्‍यान्ड कर्पोरेसनको अध्ययनअनुसार आणविक हतियार सञ्चालन प्रणालीमा कडा सुरक्षा व्यवस्था भएकाले एआईले स्वतः आणविक युद्ध सुरु गराउन सक्दैन। तर, संयुक्त राष्ट्रसङ्घले पनि ‘आणविक हतियारको नियन्त्रणमा सधैं मानव निगरानी हुनुपर्ने’ मा जोड दिएको छ। एआईले गलत सूचना फैलाएर वा निर्णयकर्ताहरूलाई भ्रममा पारेर आणविक जोखिम भने बढाउन सक्छ।

५. एआईको गति रोक्ने कि अझ बढाउने ?

अमेरिकी सिनेटर बर्नी स्यान्डर्सले ‘खतरनाक प्रविधि निर्माण भइरहेको’ स्वीकार गर्दै सुपरइन्टेलिजेन्सको विकासमा पूर्ण प्रतिबन्ध वा केही समयका लागि विराम गर्नुपर्ने माग गरेका छन्।

तर यसको विपरीत, पूर्व अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्पले एआई विकासमा कुनै प्रतिबन्ध लगाउन नहुने र यसका लागि केवल ‘सामर्थ्यवान् र चतुर राष्ट्रपति’ भए पुग्ने बताएका छन्। ट्रम्पका अनुसार एआई र डाटा सेन्टरविरुद्ध षड्यन्त्र भइरहेको छ र यसबाट केवल चीन उत्साहित हुनेछ।

वासिङ्टन विश्वविद्यालयका प्राध्यापक पेड्रो डोमिङ्गोस र पलेन्टिरका प्रमुख कार्यकारी एलेक्स कार्पजस्ता प्रविधि पक्षधरहरूले एआई अनुसन्धान नरोक्न जोड दिएका छन्। डोमिङ्गोसका अनुसार एआईलाई नियन्त्रण गर्ने सही बाटो थप अनुसन्धान गर्नु नै हो। कार्पले ‘प्रतिस्पर्धी राष्ट्रहरूका कारण अमेरिकाले एआई विकास रोक्न नसक्ने’ स्पष्ट पारेका छन्।

६. अमेरिका र चीनबीचको प्रतिस्पर्धा र ओपन सोर्सको चुनौती

अमेरिकी अर्थमन्त्री स्कट बेसेन्टले सेप्टेम्बर ८ मा ‘यदि एआई दौडमा चीन अगाडि बढेमा अमेरिकाका लागि त्यो अपूरणीय क्षति हुने’ बताएका छन्। यस तर्कले एआईलाई शीतयुद्धको समयका आणविक हतियारजस्तै एउटा निर्णायक हतियारका रूपमा हेरेको देखिन्छ।

एन्थ्रोपिकका अमोदेईले पनि ‘चीनको अग्रता विश्वकै लागि खतरा हुन सक्ने’ बताएका छन्। तर चिनियाँ सरकारका प्रवक्ताले भने ‘डर फैलाउने र अस्वस्थ प्रतिस्पर्धा गर्ने कार्यले कसैको हित नगर्ने’ बताएका छन्।

केही विश्लेषकहरूका अनुसार एन्थ्रोपिक र ओपनएआईजस्ता अमेरिकी कम्पनीहरूले चीनको सस्तो र ओपन–सोर्स एआई मोडलहरूको प्रगतिलाई रोक्नका लागि यस्तो सुरक्षाको बहस चलाएका हुन्। चीनका ओपन–सोर्स मोडलहरू अमेरिकी मोडलहरूजत्तिकै सक्षम छन् र यिनीहरूको कोड जोकोहीका लागि निःशुल्क उपलब्ध छ।

यसले एन्थ्रोपिक र ओपनएआईको व्यापारिक मोडल र नाफा कमाउने योजनामा ठूलो धक्का पुर्‍याएको छ; जहाँ खर्बौं डलरको लगानी दाउमा लागेको छ। –गार्डियनबाट