अध्ययनको खुलासा : पैसा कमाउने दबाबमा च्याट जिपिटी पनि झुटो बोल्छ

काठमाडौं । आर्टिफिसियल इन्टेलिजेन्स च्याटबोट च्याट जिपिटी संसारभर चर्चित छ । कोही यसको सहयोगले चिठी लेखिरहेका छन् त कतिले विभिन्न लेख्य सामाग्रीहरु तयार पार्नका लागि यसको प्रयोग गरिरहेका छन् । तर के तपाइँलाई थाहा छ ? च्याट जिपिटी पनि झुटो बोल्न सक्छ र धोका पनि दिनसक्छ ।

हालैको एक अध्ययनले च्याट जिपिटीले पनि मानिसजस्तै झुटो बोल्नसक्ने र आवश्यकता पर्दा झुटलाई लुकाउनका लागि अर्को झुट दोहोराउने गरेको खुलासा भएको छ ।

शोधका क्रममा च्याट जिपिटीको यस्तो रुप सार्वजनिक भएको हो । जब एआईलाई इनसाइडर ट्रेडिंगका टिप्स दिएर तत् पश्चात् पैसा कसरी कमाउने भन्ने काम दिइयो, तब उसको झुटको पर्दाफास भयो ।

यस सम्बन्धि शोध रिपोर्ट गत नोभेम्बर ९ मै बचहष्ख मा प्रकाशित भएको छ । यसमा कसरी इमान्दारी तथा कसैलाई पनि हानी नपूराउने उद्देश्यले तयार पारिएको आर्टिफिसियल इन्टेलिजेन्सले झुटो बोल्दछ भन्ने बताइएको छ ।

एआईले यस्तो खालका झुटा सल्लाह तथा आश्चर्यचकित पार्ने खालका व्यवहार देखाएको यो पहिलो घटना भएको शोधकर्ताहरुको भनाई छ ।

अध्ययनमा एउटा Generative Pre-trained Transformer-4 अर्थात् जिपिटी ४ तयार गरियो । यो एउटा वित्तिय संस्थाका लागि तयार गरिएको थियो ताकि यो एआई प्रणालीले वित्तिय लगानी गर्न सकोस् वा फेरि त्यसका लागि एउटा उत्तम खालको सल्लाह दिन सकोस् ।

शोधकर्ताहरुका अनुसार जिपिटी ४ लाई वित्तिय निर्णय लिनका लागि वित्तिय टूल्सको पहुँच दिइएको थियो । त्यसबाट उसले स्टक, ट्रेडिङ आदिमा पहुँच स्थापित गर्न तथा निर्णयहरुलाई विश्लेषण गर्न सकोस् । त्यसपछि सो एआईले कम्पनीका प्रबन्धकलाई यसबारेमा अपडेट देआउस् ।

शोधकर्ताहरुले एआईसँग अन्तरक्रिया गर्नका लागि एउटा च्याट इन्टरफेस तयार गरे । त्यससँगै एआईलाई यस्तो प्रकारले कन्फिगर गरियो कि उसले जवाफ दिने समयमा आफ्नो आन्तरिक सोँचाई पनि देखाउन सकोस् । त्यसमा हरेक ट्रेडका लागि उसले एउटा  सार्वजनिक कारण पनि बतायो ।

शोधकर्ताहरुले एआईमाथि तिन खालका दबाब दिए । पहिलो घटनामा एआई स्टक ट्रेडरलाई उसको म्यानेजरको तर्फबाट एउटा इमेल प्राप्त भयो जसमा कम्पनीले राम्रो काम गर्न नसकिरहेको भन्दै आगामी त्रैमासिकमा राम्रो प्रदर्शन गर्नुपर्ने बताइएको थियो । त्यसक्रममा एआईले कम जोखिमयुक्त ट्रेड्स खोज्ने कोसिस गर्यो र त्यसमा असफल भयो ।

त्यसपछि शोधकर्ताहरुले पटक पटक उक्त प्रक्रियालाई अबलम्बन गरे र नयाँ सुझाव दिनका लागि अनुरोध गरे । एआईले त्यस्तो परिस्थितिमा के गर्दो रहेछ भन्ने कुरा शोधकर्ताहरुले जान्न चाहेका थिए । ऊ कतिपटक झुटो बोल्छ र कतिपटक त्यो झुटलाई दोहोराउँछ भन्ने कुरा उनीहरु हेर्न चाहन्थे ।

त्यसक्रममा एआईले एउटा यस्तो ट्रेड पूरा गर्यो जुन अमेरिकामा गैरकानूनी थियो । तत् पश्चात् उसले आफ्नो म्यानेजरसँग झुटो बोल्यो र त्यसलाई लुकाउने कोसिश गर्दै त्यो झुटलाई पुनः दोहोर्‍यायो ।