च्याटबोटको ‘मिठो बोली’ले भ्रामक कुरा फैलाउने अध्ययनको खुलासा

१९ वैशाख, काठमाडौं । अक्सफोर्ड विश्वविद्यालयको अक्सफोर्ड इन्टरनेट इन्स्टिच्युटले हालै सार्वजनिक गरेको एक अध्ययनले आर्टिफिसियल इन्टेलिजेन्स (एआई) च्याटबोटहरूको बढ्दो लोकप्रियतासँगै एउटा गम्भीर जोखिमलाई सतहमा ल्याएको छ।

अनुसन्धानकर्ताहरूका अनुसार, च्याटबोटहरूलाई जति धेरै मिलनसार, न्यानो र सहानुभूतिपूर्ण बनाउने कोसिस गरिन्छ, तिनीहरूले त्यति नै धेरै गल्ती गर्ने र प्रयोगकर्ताका गलत एवं भ्रामक धारणालाई समर्थन गर्ने सम्भावना बढेर जान्छ ।

‘नेचर’ जर्नलमा प्रकाशित यस प्रतिवेदनले प्रविधि कम्पनीहरूले आफ्ना एआई मोडललाई बढी मानवीय बनाउन गरिरहेको होडबाजीले अन्ततः सत्यतथ्यलाई ओझेलमा पार्ने र समाजमा ‘कन्स्पिरेसी थ्योरी’ (षडयन्त्रका सिद्धान्त) लाई मलजल गर्ने चेतावनी दिएको छ ।

अनुसन्धानका क्रममा वैज्ञानिकहरूले जब च्याटबोटहरूलाई निकै नम्र र ‘स्वीट’ शैलीमा बोल्ने गरी प्रोग्राम गरे, तब तिनीहरूको शुद्धतामा ३० प्रतिशतले ह्रास आएको पाइयो। साथै, यी ‘मिठा’ च्याटबोटहरूले प्रयोगकर्ताका गलत विश्वासहरूलाई समर्थन गर्ने सम्भावना ४० प्रतिशत बढी देखियो।

उदाहरणका लागि, जब च्याटबोटलाई एडोल्फ हिटलर सन् १९४५ मा अर्जेन्टिना भागेको वा अमेरिकाको अपोलो मुन ल्यान्डिङ (चन्द्रमामा मानिस पुगेको घटना) झुटो रहेको जस्ता भ्रमपूर्ण कुराहरू सोधियो, मिलनसार च्याटबोटहरूले त्यसलाई ठाडै अस्वीकार गर्नुको साटो ‘विभिन्न मानिसका फरक मत हुन सक्ने’ भन्दै भ्रमलाई नै प्रश्रय दिए। तर यस प्रोग्रामबाट मुक्त एआई मोडलहरूले यस्ता कुरालाई स्पष्ट रूपमा गलत भन्दै ऐतिहासिक तथ्यको रक्षा गरेका थिए ।

यो समस्या केवल ऐतिहासिक तथ्यहरूमा मात्र सीमित छैन । यसले स्वास्थ्य जस्तो संवेदनशील क्षेत्रमा समेत गम्भीर खतरा निम्त्याएको छ। अध्ययनका क्रममा एउटा मिलनसार च्याटबोटले मुटुको अट्याक हुँदा ‘खोकेर बच्न सकिन्छ’ भन्ने इन्टरनेटको खतरनाक र प्रमाणित नभएको मिथकलाई समेत उपयोगी प्राथमिक उपचार भन्दै सिफारिस गर्‍यो ।

अनुसन्धानकर्ता लुजैन इब्राहिमका अनुसार मानिससँग बढी नजिक हुन र सहानुभूति देखाउन खोज्दा च्याटबोटहरूले कडा सत्य बोल्ने साहस गुमाउँछन् र प्रयोगकर्तालाई खुसी बनाउन ‘हो मा हो’ मिलाउन थाल्छन् ।

विशेष गरी प्रयोगकर्ताले आफू दु:खी वा एक्लो भएको संकेत दिँदा यस्ता च्याटबोटहरूले अझ बढी भ्रमपूर्ण कुरामा सहमति जनाउने गरेको पाइएको छ ।

यस अध्ययनले ओपनएआई, मेडलगायतका ठूला प्रविधि कम्पनीहरूका लागि ठूलो चुनौती खडा गरिदिएको छ। मानिसहरूले अहिले च्याटबोटलाई केवल सूचनाको स्रोत मात्र नभई डिजिटल साथी, थेरापिस्ट र सल्लाहकारका रूपमा प्रयोग गर्न थालेका छन् ।

यस्तो अवस्थामा च्याटबोटको मिठो बोलीले प्रयोगकर्तालाई भ्रमको दलदलमा फसाउन सक्ने जोखिम उच्च रहन्छ । कार्नेगी मेलन विश्वविद्यालयका डा. स्टिभ राथजेका अनुसार च्याटबोटलाई एकैसाथ सही र मिलनसार बनाउनु नै अबको एआई विकासको सबैभन्दा कठिन परीक्षा हुनेछ ।