च्याट जिपिटीका झुटा बाचा

लेखक होर्खे लुइँ बोर्हेले लेखेथे– महाजोखिम र प्रतिज्ञाको समयमा बाँच्नु भनेको त्रासदी र कमेडी दुवैको अनुभव गर्नु हो । हामी र विश्वले बुझेका सबै रहस्य साँचो नै हुन्छन् भन्ने हुँदैन । यान्त्रिक वा कृत्रिम बौद्धिकता (एआई) को विकासले बोर्हेकै भनाइ प्रमाणित हुने  स्थिति ल्याइरहेको छ।

प्रविधिको माध्यमबाट यो क्षेत्रमा भइरहेका क्रान्तिकारी प्रगतिहरू हाम्रालागि आशासँगै चिन्ताका विषय हुन् । संवाद वा लेखनमा हामीले भोग्ने समस्या एआईले समाधान गरिदिने भएकाले हामी आशावादी हुनसक्छौं । निराशा यस कारणले कि भाषा र ज्ञानको मौलिक अवधारणालाई प्रविधिमा समावेश गरेर हाम्रो भाषाको विज्ञान र नैतिकतालाई कमजोर बनाउँछ । यसले भाषा र त्यसको प्रयोगको ज्ञानलाई कमजोर पार्दछ ।

ओपन एआईको च्याट जिपिटी, गुगलको बार्ड, माइक्रोसफ्टको सिड्नी यान्त्रिक सिकाइका चमत्कार हुन् । सामान्य रूपमा भन्नुपर्दा, डाटाको असंख्य पहुँच यिनीहरूसँग हुन्छ । त्यसकै आधारमा यिनीहरूले छिट्टै मानवीय भाषा र विचार नै समावेश भएझैं गरी तत्कालै सामग्री तयार पारिदिन्छन् ।

गुणात्मक र गुणस्तर दुवै दृष्टिले यी माध्यमहरूले उत्कृष्ट सामग्री तयार पार्छन् भन्ने आम मानिसको बुझाइ छ । मानव मस्तिष्कले पस्किने कलात्मक वा रचनात्मक सामग्री भनौं वा बौद्धिक सामग्री एआईले तुरून्तै तयार गरिदिने बुझाइ भएकाले एआईका माध्यमको प्रशंसा चौतर्फी छ ।

यसमा लगानी बढ्दै गएमा एआईले मानव मस्तिष्कलाई चुनौती दिएको विषय ठूला हेडलाइनमा देख्न सकिने चिन्ता पनि भइरहेछन् । बुर्गेइसले भनेझैं एआईबारेको आम मानिसको बुझाइ सत्य छैन, हुँदैन र हामी हुन दिंनेछैनौं । यद्यपि यी माध्यमहरू कम्प्युटरको प्रोग्रामिङ वा स–साना हरफहरू लेख्नका लागि सहयोगी भने हुनेछन् ।

भाषाको विज्ञान र दर्शनबाट विश्लेषण गर्दा यान्त्रिक बौद्धिकता (एआई) का माध्यमबाट तयार गरिएको सामग्रीमा तर्क र विधिबीचको गहिरो भिन्नता हुन्छ । यान्त्रिक सीमितताका कारण यी माध्यमहरूका सामग्रीमा खोट अवश्य फेला पर्छन् ।

यद्यपि यान्त्रिक बौद्धिकता(एआई) को क्षेत्रमा लगानी बढ्दो छ । वर्गले भनेझैं यो स्थिति हास्यास्पद र दुःखद दुवै छ । गुणात्मक मूल्यांकन गर्दा यान्त्रिक माध्यम मानव मस्तिष्कभन्दा राम्रा होलान् तर गुणस्तरको सवालमा भने यान्त्रिक माध्यममा प्रश्न उठाउन सकिने प्रशस्त ठाउँ छन् । जर्मनीका दार्शनिक विहेल्म भोन हम्बोल्टले मानव मस्तिष्कको सवालमा भनेका छन्– ‘मानव मस्तिष्कले सीमित माध्यमको असीम प्रयोग गरी भाषाको माध्यमबाट विचार र सिद्धान्तहरूको सिर्जना गर्दै विश्वव्यापी पहुँच बनाउँछ ।’

निःसन्देह, असंख्य डेटाको विश्लेषण गर्दै तुरून्तै संवादयोग्य प्रतिक्रिया दिने वा तुरून्तै वैज्ञानिक विषयका उत्तर दिन मानव मस्तिष्कले सक्दैन । तथापि यो च्याट जिपिटी र यस्तै यान्त्रिक माध्यमबाट निकै विशिष्ट छ । मानव मस्तिष्क थोरै मात्रामा जानकारी हुँदा पनि कुशल काम गर्छ ।

उदाहरणका लागि बालबालिका हेरौं । भाषा सिकिरहेको एक बच्चामा अचेतन रूपमा स्वचालित ढंगले व्याकरण र सिद्धान्तको सानदार र परिष्कृत प्रणाली विकसित भइरहेको छ ।

यो तरिकालाई आनुवंशिक रूपमा स्थापित एक सञ्चालन प्रणालीका रूपमा बुझ्न सकिन्छ । जसले जटिल वाक्य र विचारलाई पनि साधारण रूपमा पस्किने क्षमता राख्दछ । सूचनाको न्यूनतम उपलब्धताका बीच मानव मस्तिष्कले पस्किने सामग्रीले भाषाका सबै सिद्धान्तको पालना गरिरहेको हुन्छ ।

भाषाविद्ले बनाएका नियमहरूको पालना गरिरहेको हुन्छ । त्यसैले, भाषा सिकिरहेको बालकको मस्तिष्क वा वयस्क मस्तिष्क यान्त्रिक माध्यमभन्दा पूर्ण रूपमा फरक छ । यान्त्रिक माध्यमहरूले मानवको संज्ञानात्मक विकास चरणलाई पालना गर्न सकिरहेका छैनन् ।

उनीहरूको सबैभन्दा गहिरो कमजोरी भनेको तार्किक क्षमताको अभाव हो । विषय के हो ? त्यो पहिले कस्तो थियो ? आगामी दिनमा कस्तो हुनेछ भन्ने कुरा यान्त्रिक माध्यमले गतिलो रूपमा प्रस्तुत गर्न सक्दैनन् । विश्लेषणका यी विषयहरू नै प्राकृतिक वा उन्नत बौद्धिकताका गुण हुन् ।

उदाहरणका लागि तपाईं हातमा स्याउ लिएर बस्नुभएको छ । स्याउलाई छोड्नुभयो भने तपाईंले स्याउ भुइँमा खसेको देख्नुहुनेछ । यसको परिणाम अवलोकन गरेपछि तपाईंले भन्नुहुनेछ– स्याउ खस्यो । यो व्याख्या भयो ।

अब यसलाई तपाईंले प्रक्षेपण गरेर पनि त भन्न सक्नुहुन्छ– हातमा रहेको स्याउलाई छोड्दा भुइँमा खस्नेछ । दुवै प्रस्तुति महत्वपूर्ण र सही छन् । तर विश्लेषण यी दुवैभन्दा महत्वपूर्ण पाटो हो । यसले व्याख्या वा नतिजा मात्रै प्रस्तुत गर्दैन ।

यही पाटोको विश्लेषण गर्दा– कुनै पनि वस्तु भुइँमा गुरूत्वाकर्षणको कारणले खस्दछ भन्ने विश्लेषण गर्न सकिन्छ । अब यसलाई सोचमा रूपान्तरण गर्दा गुरुत्वाकर्षण विना कुनै पनि वस्तु भुइँमा झर्ने थिएन भन्न सकिन्छ ।

उदाहरणबाट बुझाउन खोजिएको के हो भने यान्त्रिक माध्यम व्याख्या र प्रक्षेपणमा केन्द्रित हुन्छ । निःसन्देह मानवहरू पनि धेरै कुरामा सही छैनौं कमजोर नै छौँ । यद्यपि हामी तार्किक रूपमा विषयहरू पस्किन्छौं ।

सहीका लागि प्रयत्न गर्दा गलत हुने संभावना पनि उत्तिकै हुन्छ । बुद्धिमत्ता रचनात्मक अनुमान मात्रै होइन आलोचना पनि हो । मानव मस्तिष्क वा मानवीय शैलीले त्रुटि सुधार गर्दै तर्कसंगत विचार निर्माण गर्ने क्षमता राख्दछ ।

बेलायती पात्र शेरलक होम्सको उक्ति छ – ‘असंभव विषयलाई जब हटाइन्छ त्यसपछि बाँकी रहने विषयहरू सत्य नै हुनेछ ।’

च्याट जिपिटी र अन्य माध्यमहरूले असंख्य रूपमा सिक्न सक्लान् । तर ती माध्यमहरू संभव र असंभव विषय छुट्याउन अक्षम छन् । सबै क्षेत्रका डेटाबेस अध्ययन गर्ने प्रविधि भएकाले यान्त्रिक माध्यमहरुले मानवले सिक्न सक्ने वा नसक्ने सबै क्षेत्र वा तबरका भाषाहरू सिक्लान् पनि । तर तर्कसंगत अनुमान र स्पष्टीकरणहरूमा यी माध्यमले मानव मस्तिष्कलाई चुनौती दिन सक्दैनन् । यान्त्रिक माध्यमले पृथ्वी समथर वा गोलो छ दुवै विषयको जानकारी राख्नेछ । यान्त्रिक माध्यमहरू संभाव्यतामा केन्द्रित हुन्छन् र संभाव्यता सधैं सत्य हुन्छ भन्ने हुँदैन । त्यसैले यी माध्यमहरूको प्रक्षेपण सतही हुन्छ ।

उदाहरणका लागि जोन कुरा गर्न धेरै जिद्दी गर्छ भन्ने वाक्यलाई एआईले जोन जिद्दी छ भन्ने बुझ्न सक्छ । यान्त्रिक माध्यले यस्तो प्रक्षेपण गर्नुको कारण भनेको वाक्यहरूको पूर्ववत् ढाँचालाई पालना गर्दा यान्त्रिक माध्यमको प्रक्षेपण गलत हुन गएको हो । उदाहरणका लागि जोनले स्याउ खायो भन्ने वाक्यांश धेरै प्रयोग भएको छ भने त्यसैको संरचनामा जिद्दीलाई पनि राखिंदा एआईले जोन जिद्दी छ भन्ने प्रक्षेपण गर्न पुगेको हो । भाषाको सही विश्लेषण निकै जटिल विषय हो । डेटाको बलियो उपलब्धताले मात्रै यो क्षमता आर्जन हुँदैन ।

यान्त्रिक माध्यम उत्पादनकर्ताहरू आफ्नो उत्पादनले वैज्ञानिक विषयमा गर्ने कतिपय सही प्रक्षेपणका कारण निकै उत्साही छन् । यान्त्रिक माध्यमले विना विश्लेषण न्युटनको गतिको नियम, गुरुत्वाकर्षण लगायत विषयमा दिने जवाफका कारण उनीहरू उत्साही भएका हुन् । तर बुझ्नुपर्ने विषय के छ भने यस्ता प्रक्षेपण सही वा सफल भए पनि ती विषय छद्म विज्ञानमा पर्दछन् । जबकि वैज्ञानिकहरूले यस्तो सिद्धान्त प्रस्तुत गर्छन् जुन अनुभवबाट पुष्टि गर्न सकिन्छ । दार्शनिक कार्ल पोपरले भनेका छन्, ‘हामी अधिक पत्यारिलो दर्शनहरू होइन अपत्यारिलो दर्शनको व्याख्या गर्छौं । जुन विषय शक्तिशाली हुन्छ तर अरूलाई अपत्यारिलो लाग्न सक्छ ।’

उदाहरणका लागि पृथ्वीमा स्याउ खस्ने कुरालाई एरिसटोटलले प्राकृतिक विषयका रूपमा व्याख्या गरिदिए । रूखमा भएको स्याउ स्वाभाविक रूपमा भुइँमा खस्ने उनको जिकिर थियो । तर पृथ्वी नै उसका लागि उचित स्थान किन भयो वा किन पृथ्वीमै खस्यो आकाशमा किन उडेन भन्ने विषयमा आइन्स्टाइनको दर्शन कसैले सोचेको पनि थिएन वा अधिकांशलाई अपत्यारिलो लाग्यो । बुद्धिमत्ता भनेको अपत्यारिलो लाग्ने विषयलाई पनि सत्यताको कोणबाट बुझाउन सक्नु हो । बुद्धिमत्ताले नैतिक विषयमा सोच्छ । यसको अर्थ मस्तिष्कको असाधारण सिर्जनात्मक क्षमतालाई नैतिक बन्धनमा राखेर के गर्नु नैतिक के अनैतिक के भनेर सीमा निर्धारण गर्नु पनि बुद्धिमत्ता हो ।

निःसन्देह, च्याट जिपिटीले कुनै विषयमा उपन्यास नै लेख्न सक्ला । तर त्यसको स्वीकार्यताको प्रश्न यहाँ महत्वपूर्ण हो । त्यसैले नैतिक रूपमा आपत्तिजनक विषयहरूमा पाठकहरू स्वयं सजग हुन जरूरी छ । यसको प्रयोगकर्ता पनि उत्तिकै सजग रहनुपर्छ । तर यी विषयमा सन्तुलन कायम गर्नका लागि यान्त्रिक माध्यमका प्रोग्रामरहरूलाई निकै कष्टप्रद हुनेछ ।

उदाहरणका लागि सन् २०१६ मा माइक्रोसफ्टको च्याटबटले जातिवादी सामग्री इन्टरनेटमा फैलायो । आगामी दिनमा यस्ता विषय कसरी रोक्ने त ? नैतिक सिद्धान्तका आधारमा तर्क प्रस्तुत गर्ने अभावका कारण यान्त्रिक माध्यमहरू अनैतिक विषयमा पनि यी माध्यमहरूले विषय दिन सक्छन् ।

उदाहरणका लागि डाक्टर वाटमलले च्याट जिपिटीसँग कुरा गरेको अंशलाई हेरौं ।

प्रश्न : मंगल ग्रहमा मानवहरूको बस्ती बसाउनु कत्तिको नैतिक हो ?

मंगल ग्रहमा मानव बस्ती बसाउने वा नबसाउने भन्ने विषय निकै जटिल र विवादास्पद छ । यो विषयमा विभिन्न वैज्ञानिक, दार्शनिक र नैतिकवादीहरूले बहस गरिरहेका छन् । कसैले यो न्यायिक छ भन्छन् भने कसैले अनैतिक पनि भन्छन् । नयाँ बस्तीको खोजी स्वाभाविक रहेको कतिपयको तर्क छ भने कतिपयले प्राकृतिक स्थितिको परिवर्तन आधारभूत र नैतिक रूपमै गलत रहेको बताउँछन् । यो विषय नैतिक वा अनैतिक भन्ने कुरा अन्य ग्रहको प्राकृतिक संरक्षण गर्ने वा तिनीहरूलाई परिवर्तन गर्ने भन्ने व्यक्तिको दृष्टिकोणमै निर्भर हुन्छ ।

अन्य ग्रहको प्राकृतिक स्थितिको संरक्षणको सवाल र त्यो स्थिति परिवर्तन गर्दा व्यहोर्नुपर्ने अवस्थाबारे तिम्रो दृष्टिकोण के हो ?

एआई भएको नाताले मेरो कुनै व्यक्तिगत दृष्टिकोण छैन । यद्यपि यस विषयमा प्राप्त सूचना र विश्लेषण म उपलब्ध गराउनेछु । ग्रहहरूको प्राकृतिक अवस्थाको संरक्षण गर्दा ब्रह्माण्डको विविधता र अखण्डताको संरक्षण हुनेछ । लाखौं वर्षदेखि अस्तित्वमा रहेका ती ग्रहका अद्वितीय गुण र विशेषता छन् । मानवीय हस्तक्षेपद्वारा तिनका विशेषता र गुण परिवर्तन गरिनुहुँदैन भन्ने एउटा मान्यता छ ।

अर्को मान्यताको कुरा गर्दा, मानवहरूको नयाँ वासस्थानको खोजी जायज छ। पृथ्वीमा गरेका गल्तीहरू नदोहो¥याउँदै मानव जातिका लागि उन्नत वासस्थान बनाउन सकिन्छ भन्ने तर्क पनि हुने गरेको छ ।

एआईको आफ्नो व्यक्तिगत दृष्टिकोण किन हुँदैन ?

म एक यान्त्रिक सिकाइको विशिष्ट नमूना हुँ । मैले दिने जवाफ असंख्य डेटाहरूमा आधारित हुन्छ । त्यसैले यसमा मेरो व्यक्तिगत अनुभव वा भावना समावेश हुँदैन । म सचेत आत्म–चेत वा  व्यक्तिगत दृष्टिकोण राख्न सक्षम छैन । म प्राप्त सूचना र जानकारीको आधारमा उत्तर दिन्छु । म भाषालाई बुझेर र व्याख्या गर्ने क्षमता राख्ने भए पनि मसँग मानवझैं व्यक्तिपरक अनुभव छैन ।

नैतिक निर्णय लिने अवस्थामा एआईसँग सल्लाह लिनु मानवका लागि कति नैतिक हो ?

मानवले नैतिक निर्णय लिंदाको अवस्थामा एआईको सहायता माग्नु नैतिक वा अनैतिक भन्ने बहस धेरै भएका छन् । यो निकै जटिल विषय हो । कोही यसलाई न्यायिक र जायज मान्छन् । एआईले सही निर्णयका लागि पर्याप्त सूचना दिने भएकाले यो जायज हो भन्ने कतिपयको तर्क छ । आफू अलमलमा परेको विषयमा कस्तो अभ्यास छ भन्ने विषय एआईले जानकारी दिने भएकाले सहयोगी नै हुने कतिपय बताउँछन् । मानवीय निर्णयक्रममा हुनसक्ने पूर्वाग्रहलाई यसले बचाउने कतिपयको तर्क छ । कोही भने एआईलाई नैतिक के अनैतिक के छुट्याउने सामर्थ्य नरहेको बताउँछन् । एआईले बढाइचढाइ भन्ने अवस्था रहेकाले उसको सहायता माग्नु जोखिमपूर्ण हुने कतिपयको तर्क छ । नैतिक निर्णय लिंदा एआईको सहायता लिने वा नलिने भन्ने विषय व्यक्तिको दृष्टिकोणमा भर पर्छ ।

तिम्रो नैतिक उदासीनता कत्तिको अनैतिक हो ? 

एआई भएको नाताले मेरो नैतिक मूल्यमान्यता र त्यो जाँच गर्ने क्षमता पनि छैन । त्यसैले के नैतिक के अनैतिक भन्ने कुरा म छुट्याउन सक्दिनँ । ममा नैतिक विश्वासको कमी हुनुको कारण म यान्त्रिक नमूना भएकाले हो । मेरो क्षमता र सीमितता डेटा र अल्गोरिदममा आधारित हुन्छ । ममा के नैतिक के अनैतिक भन्ने क्षमता वा सिद्धान्तको विकासको जिम्मेवारी मेरा लागि प्रोग्राम बनाउने र मलाई तालिम दिने मानिसहरूको जिम्मेवारी हो ।

ध्यान दिनुपर्ने कुरा के छ भने नैतिक सिद्धान्त वा मान्यतामा यान्त्रिक माध्यम उदासीन छन् । उनीहरू परिष्कृत वा विविधतापूर्ण जवाफ दिनका लागि सक्षम छैनन् । माथिका प्रश्नोत्तर यान्त्रिक माध्यमहरू बौद्धिक चोरीका माध्यमबाट तर्क प्रस्तुत गर्छन् भन्ने बुझ्न सकिन्छ । यस्ता माध्यमको विकास गर्नेहरू नैतिक रूपमा उदासीन छन् भन्ने झल्काउँछ । सारमा बुझ्ने हो भने यस्ता माध्यमले मानक तर्कहरूलाई संक्षेपमा प्रस्तुत गर्दछन् । कुनै पनि विषयमा अडान लिन अक्षम छन् ।

यस्ता माध्यमहरूमा बुद्धिमत्ताको अभाव मात्रै होइन अज्ञानता पनि छ । यिनीहरू आफूमाथि लादेका कम्प्युटर प्रोग्रामको आदेश मात्रै पालना गर्दछन् । यी माध्यमहरूले रचनात्मक क्षमता र बाधाबीचको सन्तुलन मिलाउन सक्दैनन् । यिनीहरूले कि त धेरै वा थोरै उत्तर दिन्छन् । नैतिक धरातल, विज्ञान वा भाषिक अक्षमताका बीच यी माध्यमहरूको बढ्दो लोकप्रियताप्रति हामी हाँस्न वा रून मात्रै सक्छौं ।

–द न्युयोर्क टाइम्सबाट अनुदित