एप स्टोरमा कसरी छिरे मानिसलाई नंग्याउने एप ?

अमेरिकास्थित गैरनाफामूलक अनुसन्धान संस्था टेक ट्रान्सपरेन्सी प्रोजेक्ट (टीटीपी) ले सार्वजनिक गरेको एक प्रतिवेदनले डिजिटल सुरक्षाबारे गम्भीर प्रश्न खडा गरेको छ । प्रतिवेदनअनुसार एआई प्रविधि प्रयोग गरेर तस्बिरबाट कपडा हटाइदिने खालका दर्जनौँ एपहरू गुगल प्ले स्टोर र एप्पल एप स्टोरमा छिरेका छन् ।

प्राविधिक भाषामा यस्ता एपलाई न्युडिफाई एप भनिन्छ । जसको मुख्य उद्देश्य साधारण तस्बिरलाई अश्लील रूपमा रूपान्तरण गर्नु हो।यी एपहरू एप्पल र गुगल दुवैका एप स्टोरमा खुलेआम उपलब्ध हुनुले नारी अस्मिताको सुरक्षा, व्यक्तिगत गोपनीयता र डिजिटल नैतिकतामाथि गम्भीर खतरा उत्पन्न भएको हो।

यस्ता एपहरूले गुगल र एप्पलका सुरक्षा नीतिहरूको प्रष्ट उल्लङ्घन गरिरहनु झनै चिन्ताको विषय रहेको विज्ञको भनाइ छ । ती एपहरूले कसरी एप स्टोरमा प्रवेश पाए र त्यहाँबाट करोडौँ पटक डाउनलोड हुन सके भन्ने प्रश्न अनुत्तरित रहेको छ ।

करोडौँ डाउनलोड, अर्बौँको कारोबार

समाचार वेबसाइट म्यासेबलमा प्रकाशित रिपोर्ट अनुसार गुगल प्ले स्टोरमा ५५ वटा र एप्पल एप स्टोरमा ४७ वटा यस्ता आपत्तिजनक एपहरू टीटीपीको अनुसन्धानमा फेला परेका छन् । डेटा एनालिटिक्स कम्पनी एप म्याजिकका अनुसार यस्ता एपहरू विश्वभर गरी ७० करोड ५० लाखभन्दा बढी पटक डाउनलोड भइसकेका छन् ।

यी एपहरूको माध्यमबाट अहिलेसम्म करिब ११ करोड ७० लाख अमेरिकी डलर बराबरको आम्दानी भएको अनुमान छ । यस आम्दानीको केही हिस्सा कमिसनका रूपमा एप्पल र गुगललाई पनि प्राप्त हुने भएकाले यस प्रकरणमा दुवै कम्पनी समान रूपमा जिम्मेवार देखिन्छन् । त्यसैले यस्ता अनैतिक र आपत्तिजनक एपहरूको कालो कारोबारबाट एप्पल र गुगलजस्ता विश्वका ठूला प्रविधि कम्पनीहरूले समेत प्रत्यक्ष फाइदा उठाइरहेको तथ्य उजागर भएको छ।

यो प्रतिवेदन सार्वजनिक भएसँगै एप्पलले यस्ता २८ वटा एपहरू आफ्नो एप स्टोरबाट हटाइएको जानकारी दिएको छ । साथै गुगलले पनि केही एपहरू निलम्बन गरिएको र यस विषयमा थप अनुसन्धान जारी रहेको बताएको छ । तर दुई कम्पनीको यो कदम समस्याको गहनताको तुलनामा अत्यन्तै अपर्याप्त रहेको अनुसन्धानको निष्कर्ष छ ।

टीटीपीका अनुसार प्रयोगकर्ताको पूर्णसुरक्षा र गोपनीयताको दाबी गरेतापनि एआई डीपफेक प्रविधिको दुरुपयोग रोक्न एप्पल र गुगल दुवै असफल भएका छन् । कुनै पनि महिलाको सामान्य तस्बिरलाई अश्लील छविमा रूपान्तरण गर्न सक्ने यस्ता एपहरू उनीहरूकै एप स्टोरमा सजिलै उपलब्ध हुनु महिला सुरक्षा र डिजिटल गोपनीयताका लागि अत्यन्तै डरलाग्दो यथार्थ भएको बताइएको छ ।

ग्रोक पनि विवादमा तानियो

एलन मस्कको कम्पनी एक्स एआईले विकसित एआई च्याटबोट ग्रोकमा पनि यस्तै डीपफेक अश्लील सामग्री निर्माण गरिएको विषय पछिल्लो समय विश्वव्यापी विवादको केन्द्रमा आएको थियो । प्रयोगकर्ताहरूले केही अक्षर लेखेर कमाण्ड दिएकै भरमा अश्लील तस्बिर तयार पारिएको थियो ।

सबैभन्दा चिन्ताजनक कुरा त के भने यस्ता गतिविधि रोक्ने कुनै प्रभावकारी सुरक्षा संयन्त्र सुरुवातमा ग्रोकमा उपलब्ध थिएन । पछि विभिन्न देशका सरकारहरूले कडा चेतावनी दिएपछि मात्र ग्रोकमाथि कडाइ भएको हो । एक तथ्याङ्कअनुसार केवल ११ दिनमै ग्रोकको प्रयोग गरेर ३० लाखभन्दा बढी यौन सामग्रीसम्बन्धी तस्बिरहरू निर्माण गरिएका थिए।

विशेषज्ञहरूका अनुसार सहमतिबिना तयार गरिने अर्थात् नन–कन्सेन्सुअल डीपफेक अश्लील सामग्रीलाई रोक्न विश्वभरका सरकारहरूले तत्कालै कडा र स्पष्ट कानुनी व्यवस्था ल्याउनु अपरिहार्य भइसकेको छ ।

एजेन्सी