क्लड प्रयोग गरेर ओपन एआईको सुरक्षा कमजाेरी फेला पार्ने भारतीय रिसर्चर

०५ असोज, काठमाडौं । भारतीय मूलका तीन साइबर सुरक्षा अनुसन्धानकर्ताले एन्थ्रोपिकको एआई मोडल ‘क्लड’ प्रयोग गरेर ओपनएआईका प्रणालीमा रहेका सुरक्षा कमजोरी पहिचान गरेका छन्।

उनीहरूले ती कमजोरीलाई आपसमा जोडेर ओपनएआईका केही कर्मचारीको च्याटजीपीटी र काेडएक्स खाता खाता नियन्त्रणमा लिनुका साथै कम्पनीको आन्तरिक सफ्टवेयर रिपोजिटरीसम्म पुग्ने बाटो देखाएका छन्।

यो घटना वास्तविक साइबर आक्रमण नभई ओपनएआईको ‘बग बाउन्टी’ कार्यक्रमअन्तर्गत गरिएको अधिकृत सुरक्षा परीक्षण थियो। अनुसन्धानकर्ताहरूले कमजोरीबारे ओपनएआईलाई जानकारी गराएपछि कम्पनीले समस्या समाधान गरेको र उनीहरूलाई ६ हजार ५०० अमेरिकी डलर पुरस्कार दिएको छ।

अनुसन्धानमा संलग्न तीनजना को हुन् ?

साइबर सुरक्षा स्टार्टअप ह्ययाकट्रोन एआईका तीन अनुसन्धानकर्ताले यसको सुरक्षा अनुसन्धान गरेका हुन् । मोहन पेडापाटी, हर्ष जायसवाल र राहुल मेनी यसमा संलग्न थिए ।

उनीहरूले जुलाई २५ मा परीक्षण सुरु गरेको र कर्मचारीका खातासम्म पहुँच देखाउन ७२ घण्टाभन्दा कम समय लागेको बताएका छन्। अनुसन्धानका क्रममा एआई उपकरण प्रयोग गर्न तीन हजार डलरभन्दा कम खर्च भएको विभिन्न रिपोर्टमा उल्लेख छ।

अनुसन्धानकर्ताहरूले ओपनएआईको सार्वजनिक कम्युनिटी फोरममा प्रयोग भएको डिस्कोर्स सफ्टवेयरमा रहेको कमजोरीबाट इन्ट्री गरेका थिए ।

त्यसपछि उनीहरूले ओपनएआईको लगइन प्रणालीमा रहेको अर्को कमजोरी पहिचान गरी दुईवटा फरक सुरक्षा त्रुटिलाई जोडेर आक्रमणको बाटो बनाएका थिए ।

कसरी सुरु भयो कमजोरीको प्रयोग ?

ओपनएआईको कम्युनिटी फोरममा प्रयोगकर्ताले हेल्फ (HELF) वा एचईआईसी (HEIC) ढाँचाका फोटो अपलोड गर्दा ती फाइललाई जेपीईजीमा (JPEG) मा रूपान्तरण गरिन्थ्यो।

यस प्रक्रियामा फाइल इमेज म्याजीक हुँदै लिबहेईफ नामको सफ्टवेयर लाइब्रेरीसम्म पुग्थ्यो।

अनुसन्धानकर्ताका अनुसार लिबहेईफको पुरानो संस्करणमा रहेको मेमोरीसम्बन्धी कमजोरीका कारण विशेष रूपमा तयार गरिएको फोटो फाइल प्रयोग गरेर फोरम सर्भरमा अनधिकृत निर्देशन चलाउने अवस्था सिर्जना गर्न सकिन्थ्यो।

यस प्रकारको कमजोरीलाई सामान्यतया ‘मेमोरी करप्सन’ भनिन्छ। आक्रमणकारीले यस्तो कमजोरी प्रयोग गर्दा सफ्टवेयरले मेमोरीमा गलत स्थान पढ्न वा लेख्न सक्छ। त्यसबाट सर्भर बन्द हुनेदेखि लिएर आक्रमणकारीले आफ्नै कोड चलाउन सक्नेसम्मको जोखिम हुन्छ।

लिबहेईफ डेभलपरले समस्या समाधान गरिसकेका भए पनि फोरम सर्भरमा प्रयोग भएको सफ्टवेयरमा पुरानो संस्करण नै रहेको अनुसन्धानकर्ताहरूले बताएका छन्। डिस्कोर्स सम्बन्धी सुरक्षा विवरणमा यस कमजोरीलाई रिमोट कोड एक्जिक्युसनको जोखिमका रूपमा वर्गीकरण गरिएको छ।

फोरमबाट कर्मचारीका खातासम्म कसरी पुगे?

फोरम सर्भरमा प्रवेश पाएपछि अनुसन्धानकर्ताहरूले ओपनएआईको ‘साइन इन विथ ओपनएआई’ प्रणालीमा अर्को कमजोरी फेला पारे।

ओपनएआईको कम्युनिटी फोरममा लगइन गर्न प्रयोग हुने प्रणाली च्याटजीपीटी र कोडएक्स जस्ता अन्य सेवासँग पनि जोडिएको थियो। यही साझा ‘सिंगल साइन-अन’ अर्थात् एसएसओ प्रणालीका कारण फोरममा लगइन गरेका केही प्रयोगकर्ताका प्रमाणीकरण टोकन अन्य ओपनएआई सेवामा पनि मान्य हुने अवस्था रहेको बताइएको छ।

प्रमाणीकरण टोकन भनेको प्रयोगकर्ताले पासवर्ड हरेक पटक नहालीकन सेवा प्रयोग गर्न पाउने डिजिटल परिचयपत्रजस्तै हो। अनुसन्धानकर्ताले फोरम सर्भर नियन्त्रणमा लिएपछि त्यहाँ रहेका यस्ता टोकन प्राप्त गरे। तीमध्ये केही टोकन ओपनएआईका कर्मचारीका च्याटजीपीटी र कोडएक्स अकाउन्टसँग सम्बन्धित थिए।

यसरी उनीहरूले कर्मचारीले कुनै अतिरिक्त लिंकमा क्लिक नगरे पनि सम्बन्धित खातामा प्रवेश गर्न सकेका थिए।

अनुसन्धानकर्ताहरूका अनुसार समस्या डिस्कोर्स सफ्टवेयरमा मात्र सीमित थिएन। सार्वजनिक फोरमजस्तो कम विश्वासयोग्य सेवासँग आन्तरिक सेवाले एउटै लगइन प्रणाली बाँड्दा जोखिम बढेको उनीहरूको निष्कर्ष छ।

निजी कोड रिपोजिटरीसम्म पहुँच

अनुसन्धानकर्ताहरूले नियन्त्रणमा लिएको एउटा कर्मचारीको कोडएक्स अकाउन्ट ओपनएआईको निजी गिटहब समूहसँग जोडिएको थियो। त्यसबाट उनीहरूले कम्पनीको आन्तरिक सफ्टवेयर रिपोजिटरीसम्म पुग्ने सम्भावना देखाएका थिए।

यद्यपि, उनीहरूले स्रोत कोड पढेनन्, कुनै कोड परिवर्तन वा मर्ज गरेनन् र ग्राहकको डेटा छोएनन्। पहुँच प्रमाणित गर्न उनीहरूले सुरक्षित र हानिरहित एउटा पुल रिक्वेस्ट मात्र सिर्जना गरेको बताएका छन्।

ह्याक्टोनका अनुसार उक्त पहुँचले गिटहबबाहेक स्ल्याक, इमेल र अन्य कर्मचारी जोडिएका प्रणाली वा सेवासम्म पनि जोखिम विस्तार गर्न सक्थ्यो। तर अनुसन्धानकर्ताहरूले ती सेवामा थप पहुँच प्रयोग नगरेको बताएका छन्।

क्लाउडले के भूमिका खेल्यो ?

अनुसन्धानकर्ताहरूले सुरक्षा कमजोरी पत्ता लगाउने, त्यसको परीक्षण गर्ने र एक्स्प्लोइट तयार पार्ने क्रममा एन्थ्रोपिकको क्लड प्रयोग गरेका थिए।

सुरुमा उनीहरूले क्लड अपस ४.८ प्रयोग गरेका थिए। तर सर्भरमा रहेको सुरक्षा सुरक्षा प्रणाली एएसएलआर सक्रिय हुँदा त्यसले काम गर्ने एक्स्प्लोइट तयार गर्न नसकेको अनुसन्धानकर्ताहरूले बताएका छन्।

एन्थ्रोपिकले क्लड अपस ५ सार्वजनिक गरेपछि भने अनुसन्धानकर्ताहरूले सोही समस्यासम्बन्धी निर्देशन नयाँ मोडललाई दिएका थिए।

उनीहरूका अनुसार अपस ५ ले केही घण्टामै काम गर्ने एक्स्प्लोइट तयार गर्न सहयोग गरेको थियो।

अनुसन्धानमा क्लडले कोड लेख्ने, त्रुटि सच्याउने र एक्स्प्लोइटलाई परीक्षण वातावरणअनुसार परिमार्जन गर्ने काममा सहयोग गरेको थियो। तर अनुसन्धान पूर्ण रूपमा स्वचालित नभएको ह्याकट्रोनको भनाइ छ । अनुभवी मानव अनुसन्धानकर्ताले लक्ष्य निर्धारण, परीक्षण वातावरण तयार र एआईले दिएको परिणामको मूल्यांकन गरेका थिए।

यस घटनाले एआईले साइबर आक्रमणका लागि आवश्यक प्राविधिक दक्षताको सीमा घटाउँदै गएको देखाएको छ।

पहिले महिनौँ लाग्न सक्ने केही अनुसन्धान र एक्स्प्लोइट विकासका काम अहिले दक्ष मानव निर्देशनसहित केही दिनमै गर्न सकिने जोखिम बढेको छ।

ओपनएआईको प्रतिक्रिया

ह्याकट्रोनले कमजोरीबारे ओपनएआई र डिस्काेर्स दुवैलाई जानकारी गराएको थियो। डिस्कोर्सले जुलाई २७ मा सम्बन्धित समस्या समाधान गरेको बताइएको छ।

ओपनएआईले आफ्नातर्फको लगइनसम्बन्धी कमजोरी समाधान गरेको, प्रभावित टोकन र सत्र रद्द गरेको तथा साझा लगइन प्रणालीमा थप नियन्त्रण लागू गरेको जनाएको छ।

कम्पनीले सेप्टेम्बर १ मा ह्याकट्रोनलाई ६ हजार ५०० अमेरिकी डलर बग बाउन्टी दिएको थियो।

ओपनएआईका अनुसार उक्त रकम डिस्कोर्सको कमजोरी प्रयोग गरेको कामका लागि नभई ओपनएआईको आफ्नै पहिचान तथा लगइन प्रणालीमा भेटिएको कमजोरीका लागि प्रदान गरिएको हो।

फोरम सर्भरमा गरिएको परीक्षण ओपनएआईको बग बाउन्टी कार्यक्रमको प्रत्यक्ष दायराभन्दा बाहिर रहेको कम्पनीको भनाइ छ।

हालसम्म उक्त कमजोरी वास्तविक आक्रमणकारीले प्रयोग गरेको प्रमाण सार्वजनिक भएको छैन। उपलब्ध रिपोर्टअनुसार अनुसन्धानकर्ताहरूले परीक्षणका क्रममा ग्राहकको डेटा वा ओपनएआईको स्रोत कोडमा अनधिकृत रूपमा पहुँच गरी दुरुपयोग गरेका थिएनन्।

घटनाले उठाएको सुरक्षा प्रश्न

यो घटनाले एआई कम्पनीहरूको सुरक्षा प्रणालीमा दुई महत्त्वपूर्ण प्रश्न उठाएको छ।

पहिलो, सार्वजनिक फोरमजस्तो बाह्य सेवामा हुने कमजोरीबाट आन्तरिक कर्मचारीका खातासम्म पुग्ने बाटो किन खुला थियो भन्ने हो। दोस्रो, एउटै एसएसओ प्रणालीमार्फत सार्वजनिक र संवेदनशील आन्तरिक सेवाहरू जोड्दा कुनै एउटा सेवा नियन्त्रणमा लिएपछि अन्य सेवामा पनि पहुँच विस्तार हुने जोखिम हो।

साइबर सुरक्षा विशेषज्ञहरूका लागि यस घटनाको मुख्य पाठ भनेको सार्वजनिक सेवा र आन्तरिक प्रणालीबीच विभाजन कायम गर्नुपर्ने हो। संवेदनशील सेवाका लागि पुनः प्रमाणीकरण, सीमित पहुँच र छुट्टाछुट्टै टोकन प्रणाली आवश्यक हुने देखिएको छ।

यस्तै, प्रयोगकर्ताले अपलोड गर्ने फाइल प्रशोधन गर्ने सफ्टवेयरलाई नियमित रूपमा अद्यावधिक गर्नुपर्ने हुन्छ। त्यस्ता फाइललाई अलग र सुरक्षित ‘स्यान्डबक्स’ वातावरणमा प्रशोधन गर्नु तथा आवश्यक नभएमा केही ढाँचा निष्क्रिय गर्नु पनि सुरक्षा उपायका रूपमा उपयोगी मानिन्छ।