ग्रोक बन्यो सबैभन्दा ठूलो तथ्य जाँचकी, बढ्दो विश्वास कति सही ?

पछिल्ला दिनहरुमा तपाईंले सोसल मिडिया प्लाटफर्म एक्समा देख्नु नै भएको होला कि मानिसहरुले कुनै पनि पोस्टको प्रतिक्रियामा @Grok लाई ट्याग गर्दै प्रश्न सोधिरहेका हुन्छन्, के यो कुरा सत्य हो ?

अझ त्यसको जवाफमा ग्रोकले जे बताउँछ, त्यसमा मानिसहरुले विश्वास गरिरहेका छन् ।

हालैका दिनहरुमा जब भारत र पाकिस्तानबीचको युद्ध भइरहेको थियो त्यसबेला इन्टरनेटमा अको छुट्टै युद्ध छेडिएको थियो, अफवाहको ।

सामाजिक सन्जालमा झुटा समाचार, दाबी तथा एआईले बनाएका फेक भिडियो र सूचनाहरुको बाढी नै आएको थियो । यस्तोमा मनिसहरुलाई कुन समाचार वा सामाग्रीहरु सत्य हुन् र कुन झुटो हुन् भन्ने पत्ता लगाउनै कठिन भयो । त्यसैले त्सबेला धेरै मानिसहरुले खबरको सत्यता जाँच्नका लागि एक्सको एआई टूल ग्रोक तथा एआई च्याटबट Ask Perplexity जस्ता टूल्सको अत्यधिक प्रयोग गरे । तर, के एआई च्याटबट यथार्थमा विश्वासयोग्य फ्याक्ट चेकर (तथ्य जाँचकी) हुन् त ?

एआई च्याटबट यस कारण होइनन् विश्वसनीय फ्याक्ट चेकर

१. भ्रमः झुटलाई साँचोजस्तै बनाएर पेस गर्नु

ग्रोक तथा परप्लेक्सिटी जस्ता च्याटबटले कैयन् पटक यस्ता जानकारीहरु तयार पार्दछन् जो पूर्णरुपमा गलत हुन्छन् तथापि त्यसलाई ती च्याटबटहरुले आत्मविश्वासका साथ सही जानकारीको रुपमा प्रस्तुत गर्दछन् ।

यी च्याटबटले स्रोतको जाँच गर्न सक्दैनन् र कुनै सम्पादकीय मापदण्डको पनि पालना गर्न असमर्थ हुन्छन् । यो कुरा एक्सएआईले आफैंले आफ्नो सेवाका सर्तसम्बन्धी विषयमा उल्लेख गरेको छ । जसमा लेखिएको छः एआईको नतिजामा काल्पनिक कुरा हुनसक्छ, जो सटिक हुँदैन।

२. पारदर्शिताको कमी र पूर्वाग्रह

च्याटबटले ती विचारहरुलाई दर्शाउँछ जसको आधारमा उसलाई प्रशिक्षित गरिएको हुन्छ । उदाहरणका लागि ग्रोकले हालै white genocide जस्ता जातिवादी र भ्रामक दाबीहरुलाई बढावा दिएको छ, जसलाई एलन मस्कका निजी विचारसँग जोडिएको छ ।

३. स्केल र स्पीडः एउटा गल्ती, लाखौंको पहुँच

ग्रोक जस्ता च्याटबटहरु लाखौं मानिससम्म तुरुन्तै पुग्न सक्दछन् । यसबाट कुनै पनि गल्तीले व्यापक मात्रामा असर पार्न सक्दछ । जब यी च्याटबटको गलत जानकारीलाई मानिसहरुले सबूतको रुपमा मान्दछन् त्यसबेला जोखिम कैयौं गुणा बढ्दछ ।

त्यसोभए यतिधेरै विश्वास किन ?

एआई मोडेल नन डिटरमिनिस्टिक हुन्छन् । अर्थात् एकै सवालको जवाफ पनि हरेक पटक एउटै हुँदैन । ती कैयन् पटकका जवाफमध्ये कुनैबेला सही जवाफ दिन्छ र मानिसहरुलाई त्यसकै आधारमा ग्रोक जस्ता एआईलाई पूर्णरुपमा विश्वसनीय मान्दछन् । त्यो नै सबैभन्दा ठूलो गल्ती हो ।

एआई च्याटबटहरुले प्रस्तुत गर्ने तथ्य तथा दाबीहरुको प्रभाव आम मानिसहरुमा व्यापक ढंगले पर्ने भएकाले एआई कम्पनीहरुले पनि सचेतना अपनाउनु आवश्यक छ ।

आफ्ना च्याटबटलाई सही स्रोत तथा सूचनाबाट प्रशिक्षित गर्ने, श्रोत प्रमाणित नभएमा च्याटबटलाई जवाफ दिनबाट रोक्ने, अविश्वसनीय जवाफहरुमा चिह्न लगाउने अर्थात् फ्लाग गर्ने र सूचनाको स्रोत खुलाउने गरिएमा च्याटबटहरुबाट अफवाह फैलिन पाउँदैन र ती एआई टूल्सको तथ्यजाँच यथार्थमा आधारित हुन्छ ।