सुपर एआई: हाम्रो विवेकको सार्वभौमिकता कति सुरक्षित छ ?

गत सेप्टेम्बरको दोस्रो साता विश्वकै अग्रणी एआई कम्पनी एन्थ्रोपिकबाट युथ रिसर्चर ज्याकोब कक्सनले राजीनामा दिएसँगै आफ्नो सामाजिक सञ्जाल (एक्स) मा लेखेको एउटा स्ट्याटसले टेक साइन्समा ठूलो बहस जन्माइरहेको छ।

त्यसको केही दिनपछि एआई फर्महरूका शीर्ष नेतृत्वलाई साक्षी राखेर ह्वाइट हाउसमा डोनाल्ड ट्रम्पले एआईको नाम नै परिवर्तन गरी सुपर इन्टेलिजेन्स राख्ने कार्यकारी आदेशमा हस्ताक्षर गर्दै सार्वजनिक नीति कागजातहरूमा प्रविधिलाई उल्लेख गर्दा अब एआईको सट्टा एसआई प्रयोगका लागि आह्वानसमेत गर्न भ्याए।

यता पृथ्वीका एक मात्र ट्रिलिनियर इलन मस्कले आफ्नै स्वामित्वको एक्समा ‘नो मोर एआई– एसआई; इट्स बेटर’ भनेर लेखेपछि विश्वको प्राविधिक परिदृश्य एक किसिमले आफ्नो गतिको उत्कर्षमा पुगेको छ।

उता कक्सनले कृत्रिम बुद्धिमत्ताको विकास यही रफ्तारमा अघि बढिरह्यो भने यसले चालु दशकको अन्त्यसम्म मानव अस्तित्वमै गम्भीर जोखिम निम्त्याउन सक्छ भनेका छन्। कक्सनको भनाइलाई एन्थ्रोपिकमै कार्यरत केही अनुसन्धानकर्ताले समेत सार्वजनिक समर्थन गरेपछि एआईको विकास कति तीव्र हुन दिने, यसको नियन्त्रण कसरी गर्ने र मानवले बनाएको प्रविधि अन्ततः मानवकै नियन्त्रणबाहिर जान सक्छ कि सक्दैन भन्ने प्रश्नमा आधारित विश्वव्यापी बहस फेरि सतहमा आएको छ।

केही दिनअगाडिको कुरा हो, सायद घटस्थापनाको दिन हुनुपर्छ, मधेसका एक जना गौतम गोस्वामीले अनौपचारिक कुराकानीका क्रममा मलाई भन्दै थिए, ‘हिजोआज त कुनै कुरा आफैँ सोचिरहनै पर्दैन नि है, च्याट ब्रोलाई सोधे भइहाल्यो ! सबै भन्दिन्छ उसैले। म त च्याटलाई नै सोधेर आफ्ना सबै दुविधा क्लियर गर्छु र निर्णय लिन्छु।’

मैले उनको कुरा सुरुमा ध्यानपूर्वक सुनेको रहेनछु। केही बेरमा जब म कोठामा झरेँ, उनको त्यो ह्युमरमिश्रित भोकल मेरो मथिंगलमा अनायासै प्रतिध्वनित भयो। त्यसपश्चात् एकैछिन सोचमग्न भएँ। अनि लाग्यो- ज्याकोब कक्सनको भन्दा बढी छलफल, बहस र सार्वजनिक रूपमा फर्स्योट हुनैपर्ने कुरा त ‘सबै कुरा एआईलाई सोधेर नियमित दैनिक निष्कर्षमा पुग्छु’ भन्ने गौतम भाइको प्रश्न पो हो कि ?

यद्यपि गौतम भाइ हाम्रो समयका एक प्रतिनिधि दृष्टान्त मात्रै हुन्। आज एआईका कुनै पनि ‘बट’ प्रयोग गर्दिनँ भनेर नैतिक दाबी गर्नेहरू कमै होलान्। व्यावहारिक दाबीका साथ भन्न सकिन्छ- हिजोआज धेरैका लागि एआईको प्रयोग ‘डिफल्ट’ दैनिकीजस्तै बनेको छ।

तर, पङ्क्तिकारले आज लेख्न र बुझ्न खोजिरहेको विषय के हो भने, ‘एआई इकोनोमी’, ‘डेटा इकोनोमी’ र ‘अटेन्सन इकोनोमी’ को युगमा हाम्रा स्थापित स्व-प्राथमिकताहरूलाई बाइपास गर्दै हामीले एआईबाट केहीथोक (सूचना, जानकारी र व्याख्या) लिएर, सबैथोक (नैतिक, व्यावहारिक र संज्ञानात्मक स्वामित्व) दिइरहेका त छैनौँ ? के हामी आफ्ना सबै प्राकृतिक स्वभाव एआईद्वारा निर्देशित हुने दिशातर्फ जाँदै छौँ ?

आज एआईलाई हामी लेख्न लगाउँछौँ, अनुवाद गर्न लगाउँछौँ, हरहिसाब गर्न लगाउँछौँ, पढ्न लगाउँछौँ। भारतको एक प्रदेशमा त कुनै भिडमा हराएको आफ्नो चप्पल खोज्नका लागि पनि एआईको प्रयोग भएको भनेर समाचार आएको थियो।

प्रकारान्तरले आज आममानिसले आफ्नो कामलाई छिटो, सजिलो र प्रभावकारी बनाउन यसको प्रयोग गर्छन्। यो स्वाभाविक पनि हो। मानिसले प्रविधि बनाउनुको एउटा कारण नै आफ्नो क्षमता विस्तार गर्नु हो।

अहिलेका कतिपय प्रतिनिधिसभाका सांसदहरूलाई उनीहरूको संसदीय प्रस्तुतिलाई लिएर ‘एआई सांसद’ भनेर आलोचना हुने गरेको पनि देखिन्छ। एक अर्थमा, एआईबाट ‘रेफरेन्स’ लिनुपर्छ, लिनु नै हुँदैन भन्ने त होइन। यद्यपि एआई प्रयोगको सीमितता भने बुझ्नुपर्छ।

एआईले हाम्रो काम गरिदिन सक्छ, कुरा खोजिदिन सक्छ, विकल्प देखाइदिन सक्छ र कुनै विषयमा सोच्न पनि सघाउन सक्छ। यी सबै एआईका राम्रा पक्ष हुन्। हामीले केही काम उसलाई दिन सक्छौँ, केही निर्णयमा उसको सुझाव लिन सक्छौँ; तर अन्तिममा के गर्ने, किन गर्ने र त्यसको सचेत जिम्मेवारी कसले लिने भन्ने कुरा आफैँले तय गर्नुपर्छ।

एजेन्ट र एजेन्सी

सुन्दा उस्तै तर अर्थ फरक लाग्ने असङ्ख्य अङ्ग्रेजी शब्दहरूमध्ये ‘एजेन्ट’ र ‘एजेन्सी’ उस्तै र निकट सुनिए पनि यी दुईबीचको अभिप्रायगत दूरी सुदूरको छ। यसलाई अझ सजिलोसँग बुझ्ने प्रयास गरौँ।

तपाईंले कुनै कार्यक्रममा आफ्नो मन्तव्यको ‘कन्टेन्ट’ लाई खँदिलो बनाउन कुनै स्रोत सामग्री अथवा एआई प्रयोग गरी तथ्य र सन्दर्भ खोजेर आफ्नो प्रस्तुति दिनुभयो भने एआईले त्यहाँ ‘एजेन्ट’ को काम गर्‍यो। उसले तपाईंको भनाइमा तथ्यका इँटा थपिदियो, आफूसँग सञ्चित सन्दर्भ दिएर।

तर, उसले उपलब्ध गराएका तथ्य र सन्दर्भलाई आफ्नै विवेकले फिल्टर गरेर, परिस्थितिसँग मिलाएर कुन कुरा स्वीकार (एक्नलेज) गर्ने र कुन कुरा अस्वीकार गर्ने निर्णय तपाईंले गर्नुभयो भने त्यो तपाईंमा अन्तर्निहित ‘एजेन्सी’ हो। अर्थात्, ‘एजेन्ट’ ले तपाईंको ‘टास्क’ मा सहयोग गर्‍यो; ‘एजेन्सी’ ले तपाईंले लिने अन्तिम निर्णयको स्वामित्व लियो।

वस्तुतः हामीले जसलाई ‘लजिक’ वा ‘तर्क’ भनेर बुझ्ने गरेका छौँ नि, त्यो त कहिलेकाहीँ हाम्रो पक्षमा उभिने ‘एजेन्ट’ मात्रै भइदिन्छ। हामीले आफ्नो अनुभव, उपलब्ध सूचना, ज्ञान र उद्देश्यअनुसार एउटै विषयमा फरक–फरक ‘लजिक’ निर्माण गर्न सक्छौँ। ‘लजिक’ बहुसापेक्ष हुन्छ। लजिकले कुनै मान्छेलाई पूर्वपरिभाषित निष्कर्षसम्म पुग्ने बाटो देखाउँछ। तर, त्यो मार्गमा हिँड्ने कि नहिँड्ने, लजिक ठीक छ कि छैन र त्यसको ‘पोस्ट–इम्प्लिकेसन’ (प्रभाव) स्वीकार्ने कि नस्वीकार्ने भन्ने अन्तिम निर्णय विवेकले गर्छ। याने कि, विवेक हाम्रो ‘एजेन्सी’ हो, अन्तर्य हो।

त्यसैले आजको एआईलाई प्रतिस्थापन गर्दै उदीयमान ‘एसआई’ (सुपर इन्टेलिजेन्स) को युगमा यसले हाम्रो लागि के गर्न सक्छ मात्र होइन, उसलाई सबैथोक सुम्पिइरहँदा हामी हाम्रो आफ्नै ‘विवेक सार्वभौमिकी’ मा कति उपस्थित छौँ भन्नेबारे सचेत हुनुपर्छ। असङ्गत तर्कभन्दा सङ्गतिपूर्ण विवेकलाई हाम्रो नियमित प्राथमिकतामा राख्नुपर्छ। यही वास्तविकताले नै भविष्यमा मानिस र यन्त्रबीच बन्ने सम्बन्धको नैतिक तथा अस्तित्वगत सीमा निर्धारण गर्नेछ।

अन्तिम निर्णय मान्छेले मात्रै गर्छ भनेर पुग्छ ?

१८औँ शताब्दीको मध्यतिर बेलायतबाट सुरु भएको औद्योगिक क्रान्तिले ल्याएको व्यापक संरचनागत परिवर्तनपश्चात् मानिसले आफ्नो कामको ठूलो हिस्सा मेसिनलाई दिँदै आएको हो। समयक्रमसँगै हामीले बाटो सम्झिनका लागि नक्सा प्रयोग गर्न थाल्यौँ, गणितका लागि क्याल्कुलेटर आयो, इन्टरनेट आयो, फोन नम्बर कण्ठ गर्नुपरेन; मोबाइल आए। मानव सभ्यताको विकासलाई हेर्दा पनि यो क्षमताको विस्तारकै एउटा लामो र लयबद्ध कथा छ। त्यसैले मानिसले आफ्नो केही काम प्रविधिलाई दिनु आफैँमा समस्या होइन।

आज क्याल्कुलेटरले हिसाब गरिदिन्छ, तर कुन हिसाब गर्नु उपयोगी हुन्छ भनेर उसले तय गर्दैन। सर्च इन्जिन (जस्तै : गुगल) ले सूचना खोजिदिन्छ, त्यसको अर्थ लगाएर तपाईंले खोजेको निष्कर्षचाहिँ निकालिदिँदैन। एआई भने यी परम्परागत प्रविधिभन्दा उन्नत छ। उसले हिसाब मात्र गर्दैन, कुन हिसाब आवश्यक पर्न सक्छ भनेर सुझाउँछ। सूचना मात्र खोज्दैन, त्यसलाई छानेर अर्थ पनि लगाइदिन्छ। क्लाइन्टले जान्न र सोच्न खोजेको कुरालाई सरल शब्दमा उतारिदिन्छ, ‘ह्युमन इन्टेलिजेन्स’ जसरी।

अर्थात्, एआई हाम्रो हातको उपकरणबाट बिस्तारै हाम्रो सोच्ने प्रक्रियाको हिस्सा बन्दै छ। बन्न खोज्दै छ। आज अर्ध हिस्सा बनेको एआई भोलि कतै तपाईं-हाम्रो अन्तिम संज्ञानात्मक तत्त्व अर्थात् अल्टिमेट कग्निटिभ फ्याक्टरको निर्णायक मानक त बन्ने होइन भन्ने चिन्ता, चासो र जिज्ञासा एन्थ्रोपिकका पूर्वअनुसन्धानकर्ता ज्याकोब कक्सनलाई मात्रै नभएर समग्र विश्वलाई छ।

के मान्छेले आज आफ्ना सबै कामहरू ‘आउटसोर्स’ गरिरहेको छ ?

सभ्यताको विकास र मानव इतिहास कुनै न कुनै रूपमा आफ्ना सीमित क्षमतालाई उपकरणमार्फत विस्तार गरेको इतिहास हो। मनोविज्ञानले मानसिक भारको केही हिस्सा बाह्य साधनमा सार्ने प्रक्रियालाई ‘कग्निटिभ अफलोडिङ’ भनेको छ। यसका आफ्नै फाइदा छन्- हामीले सबै कुरा दिमागमा बोकेर हिँड्नुपर्दैन र बाँकी मानसिक क्षमता अरू महत्त्वपूर्ण काममा लगाउन सक्छौँ।

तर, एआईले यही प्रक्रियालाई अर्को तहमा पुर्‍याउँदैछ। पहिले हामीले स्मृति बाहिर सार्‍यौँ, त्यसपछि गणना; अहिले लेखन र विश्लेषण पनि बाहिर सार्दै छौँ, र हामी कतिपयले त ‘रिजनिङ’ अर्थात् सोच्ने प्रक्रियाको जिम्मासमेत एआईलाई दिन थालेका छौँ। त्यसैले एआईले हाम्रो काम मात्र हलुका बनाइरहेको छैन, बिस्तारै हाम्रो सोच्ने प्रक्रियामा पनि संरचनागत ‘स्पेस’ बनाइरहेको छ।

यसको जोखिम एआईले सधैँ गलत उत्तर दिन्छ भन्ने होइन। सुरुमा उसको कुरा जाँच्छौँ, पछि बिस्तारै ‘एआईले भनेको छ भने ठीकै होला’ भन्ने भरोसा बस्न थाल्छ। त्यसपश्चात् स्वचालित प्रक्रियाको सुझावलाई आवश्यकभन्दा बढी भरोसा गर्ने ‘अटोमेसन बायस’ प्रणालीको सङ्गीन सिकार हुन्छौँ। यही कारण ‘ह्युमन एजेन्सी’ भनेको अन्तिम निर्णय गर्ने अधिकार मात्र होइन, निर्णयसम्म पुग्नको सोच्नुपर्ने प्रक्रियामाथिको आफ्नो संज्ञानात्मक अडानसहितको ‘इनर भ्वाइस’ (आन्तरिक आवाज) पनि हो।

करियर, लेखाइ, सम्बन्ध, व्यक्तिगत निर्णयलगायतका कुरामा एआईसँग सल्लाह लिन सकिएला; तथापि “मेसिन र मानिस” बीचको तुलना कसरी पो हुन सक्ला र ? मानिससँग त अनुभव हुन्छ, स्मृति हुन्छ, सम्बन्ध हुन्छ, उसका आफ्ना सम्झौताहीन मूल्य हुन्छन् र कहिलेकाहीँ तर्कले पूरा व्याख्या गर्न नसक्ने अचेतन अन्तर्बोध पनि हुन्छ। मेसिनले हाम्रो व्यवहार, रुचि र विगतका डेटाबाट कुन विकल्प उपयुक्त छ भनेर अनुमान गरिदेला; तर हाम्रो जीवनमा वास्तवमै के महत्त्वपूर्ण छ भन्ने अन्तिम अर्थ हाम्रो पक्षबाट तय गर्न सक्दैन।

तपाईंलाई थाहा नहुन सक्छ; हामीले त पहिलेदेखि नै एल्गोरिदमलाई के हेर्ने, कुन कुरालाई नोटिसमा राख्ने, कुन ‘रिल’ फेरि आउने र कुन विषयलाई ‘ट्रेन्डिङ’ मान्ने भन्नेमा ठूलो भूमिका सुम्पिसकेका छौँ। अब यही प्रणालीले हामीलाई के सोच्ने, कुन निर्णय गर्ने भनेर पनि सुझाउन थाल्यो भने प्रभावको तह अझ गहिरो हुन्छ- के हेर्ने, के सोच्ने र के गर्नेबीचको दूरी अझ साँघुरिँदै जान सक्छ।

त्यसैले हाम्रो एआईसँगको सम्बन्धमा सबैभन्दा महत्त्वपूर्ण रेखाङ्कन ‘काम गर्न दिने कि नदिने’ होइन, कतिसम्म आफ्नो ‘सार्वभौमिक सर्वोच्चता’ उसलाई सुम्पिने भन्ने हो। जीवनका धेरै महत्त्वपूर्ण निर्णय ‘कसरी ?’ भन्दा पहिले ‘किन ?’ बाट सुरु हुन्छन्।

किन यो गर्नुपर्छ, किन यो सही हो, किन यो प्राथमिकता हो र कुन मूल्यका लागि म यो निर्णय गर्दै छु ? एआईले यी प्रश्नका सम्भावित उत्तर दिन सक्ला, तर तीमध्ये कुन मूल्यलाई आफ्नो जीवनको आधारभूमि बनाउने भन्ने कुरा हामी मानिसले नै तय गर्नुपर्छ।

त्यसो भए एआईदेखि टाढा जाने त ?

होइन, त्यो समाधान पनि हुनुहुँदैन। एआईलाई अस्वीकार गरेर हामी भविष्यबाट बाहिर बस्न सक्दैनौँ। बरु एआईसँग कसरी बस्ने र कसरी प्रयोग गर्ने भन्नेमा हाम्रो अप्रोच स्पष्ट हुनुपर्छ। मलाई लाग्छ, यसका लागि एउटा सरल सीमा पर्याप्त छ। एआईले हाम्रो काम गर्न सक्छ, उद्देश्य निर्माणमा सहयोग गर्न सक्ला तर लक्ष्य निर्धारण गर्ने अधिकार उसलाई दिनुहुँदैन।

उसले विकल्प दिन सक्छ, मूल्य हामी आफैँले रोज्नुपर्छ। उसले योजना बनाइदिन सक्ला, गन्तव्य हामीले तय (डिक्टेट) गर्नुपर्छ। उसले हाम्रो निर्णयलाई अझ राम्रो बनाउन सक्छ, तर निर्णयको स्वामित्व भने हामीसँगै रहनुपर्छ, राख्नुपर्छ।

हामीले उसलाई हाम्रो कामको गति र क्षमता बढाउन दिऔँ, तर आफ्नो जीवनको दिशा तय गर्ने ठाउँसम्म पुर्‍याउने काम नगरौँ। ‘प्रि-अकुपाइड’ र ‘प्रि-ट्रेन्ड’ एआईले हाम्रो क्षमता विस्तार गरोस्, हाम्रो विवेक विस्थापित नगरोस्। अहँ, गर्दै नगरोस्।

पर्गेल्नैपर्ने भविष्यका अनुत्तरित प्रश्न

एआईबारे हामी अहिले धेरै कुरा गरिरहेका छौँ- यसले कति काम गर्न सक्छ, रोजगारीमा कति बदलाव ल्याउन सक्छ, यो कति शक्तिशाली बन्न सक्ला र मानिसभन्दा कति बुद्धिमान हुने होला ? यी सबै बहस आवश्यक छन्। अझ आवश्यक त के छ भने, प्रविधिमय भविष्यको आगामी उत्कर्षपूर्ण समयसँगै एआईसम्बन्धित सबैभन्दा महत्त्वपूर्ण कुरा उसले हाम्रो लागि कति सोच्न सक्छ भन्ने हुनेछैन। त्योभन्दा महत्त्वपूर्ण कुरा हुनेछ- एआईले सोचिदिएपछि पनि हामी आफैँ कति सोचिरहन्छौँ ? एआई शक्तिशाली हुँदै जाँदा मानिस आफ्नो निर्णय गर्ने क्षमताप्रति कति सचेत रहनेछ ?

सिड्नी जे. ह्यारिसको चर्चित भनाइ यहाँ सम्झनलायक छ- वास्तविक खतरा कम्प्युटरले मानिसजस्तो सोच्न थाल्नु होइन, मानिसले नै कम्प्युटरजस्तो सोच्न थाल्नु हो।

यसको अर्थ कम्प्युटरले मानिसजस्तो सोच्नु आफैँमा खतरा हो भन्ने त पक्कै होइन होला। चुनौती त्यतिबेलादेखि गहिरिनेछ, जब मानिसले पनि आफ्नो जीवनलाई केवल डेटा, दक्षता, भविष्यवाणी र ‘अप्टिमाइजेसन’ को समस्याका रूपमा हेर्न थाल्नेछ। अनि चुनौती के पनि हो भने, एआई बिस्तारै हाम्रो दैनिक घटनाक्रमको ‘अर्गनाइजर’, ‘एम्प्लिफायर’ हुँदै ‘मोबिलाइजर’ समेत बन्ने र हाम्रो आत्मनियन्त्रण संयन्त्रको उपस्थिति क्रमशः ह्रासोन्मुख हुने त होइन भन्ने पनि हो।

त्यसो त मानिसको शरीर केवल भौतिक पदार्थ होइन। उसले प्रेम गर्छ, संवेदना र करुणा प्रदर्शन गर्छ, विगत सम्झन्छ–आगतको विश्लेषण गर्छ, आफ्ना त्रुटिहरूमा पश्चात्ताप गर्छ, भावनात्मक असहमति जनाउँछ र मानवीयता देखाउँछ। विवेकी मानिसले स्वार्थभन्दा सम्बन्ध रोज्छ, सुविधाभन्दा न्याय रोज्छ र जस्तोसुकै परिस्थितिमा पनि आफ्ना मूल्यहरूसँग सम्झौता गर्दैन। कहिलेकाहीँ सबै प्रमाणले एउटा दिशातिर देखाइरहेका बेला पनि आफ्नो विवेक (सेल्फ–एजेन्सी) ले फरक बाटो रोज्छ।

एआई युगको बहसलाई अब ‘मानिस कि एआई’ भन्ने द्वन्द्वमा सीमित गर्नु पर्याप्त हुँदैन। मुख्य कुरा एआईसँगै बाँच्दै गर्दा मानिसले आफ्नो निर्णय गर्ने स्वामित्व कसरी जोगाइराख्छ भन्ने हो।

हामी एआईलाई हाम्रो लागि खोज्न दिन सक्छौँ, लेख्न दिन सक्छौँ, गणना गर्न दिन सक्छौँ, योजना बनाउन दिन सक्छौँ, काम गर्न दिन सक्छौँ। उसले हाम्रो क्षमता बढाओस्, हाम्रो समय बचाओस्, हामीले देख्न नसकेका बहुविकल्प देखाओस्। हामीले एआईलाई ‘एजेन्सी’ नभएर आफ्नो कामको ‘एजेन्ट’ मात्रै बनाउन सकौँ; तर आफ्नो आत्मचेतना, ‘फ्री विल’ र जिजीविषालाई चाहिँ हामीसँगै राखौँ।