एआईद्वारा बनाइएका अनुहार खुट्याउने उपयोगी उपाय

सन् २०२४ मा 'अरप' नामको इन्जिनियरिङ कम्पनीमा कार्यरत हङकङका एक व्यक्ति अधिग्रहणसम्बन्धी गोप्य छलफलका लागि सहकर्मीहरूसँग 'भिडिओ कल'मा बसेका थिए। वित्तीय क्षेत्रका ती व्यक्तिले त्यहाँ केही असामान्य देखेनन्।

तर २ करोड ५० लाख अमेरिकी डलरको भुक्तानी गरेपछि मात्र उनले आफू ठगिएको थाहा पाए।

अरू सबै त भइहाले, भिडिओ कलमा बसेका प्रमुख वित्तीय अधिकृतजस्तो देखिने व्यक्तिसमेत एआईद्वारा सिर्जना गरिएका 'डीपफेक' थिए।

एआईद्वारा बनाइएका अनुहारहरू खुट्याउन दिनप्रतिदिन कठिन हुँदै गइरहेको छ।

परामर्शदाता कम्पनी 'डेलोइट'को सन् २०२४ को प्रतिवेदनअनुसार 'जेनरटिभ एआई' प्रयोग गरेर आगामी वर्षसम्म अमेरिकामा मात्र करिब ४० अर्ब डलर बराबरको ठगी हुने ठानिएको छ।

यिनैमध्येका कारणले गर्दा अस्ट्रेलिअन न्याश्नल यूनिभर्सिटीकी मनोवैज्ञानिक तथा सहप्राध्यापक एमी डवेलको मनमा एउटा प्रश्न आयो, के हामी सबैले एआईद्वारा बनाइएका अनुहारहरू अझ राम्रोसँग खुट्याउने तरिका सिक्न सक्छौँ?

"अहिले हामी एआई अनुहारहरू चिन्न असाध्यै कमजोर छौँ," उनी भन्छन्।

त्यसमा हाम्रो क्षमता आधाआधाको अनुमानभन्दा राम्रो छैन वा कहिलेकाहीँ त त्यसभन्दा पनि कमजोर छ।

तपाईँ वास्तविक मानिसको अनुहार र एआईद्वारा बनाइएको अनुहार खुट्याउन कत्तिको सक्षम हुनुहुन्छ?

'अति औसत' अनुहार

यदि माथिको परीक्षणमा तपाईँलाई अप्ठेरो भयो भने त्यस्तो महसुस गर्ने तपाईँ एक्लो होइन।

डवेलका अनुसार एआई अनुहार चिन्न गाह्रो भयो भने वास्तविक जीवनमा त्यसका गम्भीर प्रभावहरू देखिन सक्छन्। "चाहे त्यो फर्जी पहिचान बनाएर ठगी गर्ने कार्य होस्, 'डेटिङ साइट'हरूमा हुने छलछाम वा हाम्रो ब्याङ्क खातालाई लक्षित गरेर गरिने ठगी नै किन नहोस्", ती सबैका असर हामीमाथि पर्न सक्छन्।

एउटा अध्ययनका क्रममा डवेल तथा अस्ट्रेलिया, क्यानडा र स्कट्ल्यान्डका उनका सहकर्मीहरूले मानिसहरूलाई प्रशिक्षण दिने नयाँ विधिको परीक्षण गरे, जसको विवरण गत महिना 'पीएनएएस' जर्नलमा प्रकाशित भएको छ।

एआई प्रविधि निरन्तर उन्नत हुँदै जाँदा आधुनिक प्रणालीहरूले पहिलेपहिले देखिने गरेका जस्ता स्पष्ट किसिमका त्रुटिहरू हुने सम्भावना सुधारिसकेका छन्। त्यसले गर्दा ठगहरूले त्यस्ता स्पष्ट कमजोरीसहितका तस्बिरहरू प्रयोग गर्ने सम्भावना कम हुने डवेल बताउँछिन्।

त्यसैले शोधकर्ताहरूले मानिसहरूलाई नमिलेजस्ता देखिने कानका झुम्का वा अन्य ससाना विकृत सङ्केतहरू खोज्न सिकाउनुको साटो समग्रमा सिङ्गो अनुहारलाई हेरेर सहज अनुभूतिका आधारमा निर्णय गर्न सिकाए।

"एआईद्वारा बनाइएका अनुहारहरू अनौठा देखिन्छन् भन्ठान्नु नै एउटा समस्या हो। यो हाम्रो विगतको अनुभवमा आधारित धारणा हो," डवेल भन्छिन्, "खासमा मानिसका अनुहार पूर्ण रूपमा दुरुस्तै हुँदैनन्। तिनमा ससाना प्राकृतिक असमानता वा विशेषताहरू हुन्छन्। त्यसले गर्दा अहिले परिस्थिति उल्टिएको छ।"

डवेलको अघिल्लो अनुसन्धानका क्रममा एआईद्वारा सिर्जित अनुहारहरूलाई वास्तविक मानिसको अनुहारभन्दा पनि अधिक पटक मानव अनुहारका रूपमा पहिचान गरियो। त्यसलाई उनीहरूले "एआई हाइपररिअलिजम" नाम दिए।

एआईका एल्गोरिदमहरू आफूलाई 'ट्रेन' गरिएका हजारौँ अनुहारका गणितीय औसतबाट प्रभावित हुने भएकाले "वास्तविक मानव अनुहारका तुलनामा एआई अनुहारहरू थप औसत वा 'हाइपरएभरेज' देखिन्छन्," डवेल भन्छिन्।

यसले "तिनीहरूलाई वास्तविक मानव अनुहारभन्दा अलि बढी विश्वासयोग्य, आकर्षक र परिचितजस्तो" प्रतीत गराउँछ।

भलै उक्त अध्ययनमा एआईद्वारा सिर्जित श्वेत अनुहारहरू मात्र समावेश गरिएका थिए। एआई एल्गोरिदमहरूलाई असमान रूपमा अधिक श्वेत अनुहारहरूमा 'ट्रेन' गरिने भएकाले अन्य समूहका तुलनामा ती अनुहारहरू विशेष रूपमा अधिक यथार्थपरक देखिने सम्भावना रहन्छ।

प्रशिक्षण

उक्त पछिल्लो अध्ययनमा शोधकर्ताहरूले सुरुमा ४५ जना वयस्क सहभागीमाझ एआईद्वारा सिर्जित अनुहार चिन्न सक्ने क्षमता परीक्षण गरे। एउटा परीक्षणमा उनीहरूलाई तीनवटा अनुहारहरूको श्रृङ्खला देखाइयो र तीमध्ये एआईद्वारा सिर्जित अनुहार खुट्याउन भनियो। औसतमा उनीहरूले ४१ प्रतिशत अवस्थामा सही उत्तर दिए।

त्यसपछि उनीहरूलाई करिब एक घण्टाको प्रशिक्षण दिइयो। डवेलका अनुसार त्यस क्रममा उनीहरूलाई करिब १०० वटा अनुहार देखाइयो, जसमा आधा वास्तविक र आधा एआईद्वारा सिर्जित थिए। डवेलका अनुसार प्रत्येक अनुहारलाई उनीहरूले विशिष्टता, स्मरणीयता, अभिव्यक्तिशीलता, दुरुस्तपन (सिमिट्री), मिलेको अवस्था (प्रपोर्शनेलटी) रआकर्षकपना गरी छ वटा प्रमुख विशेषताका आधारमा मूल्याङ्कन गर्न भनियो।

डवेलका अनुसार वास्तविक मानव अनुहार प्रायः अधिक विशिष्ट, बढी स्मरणीय र बढी अभिव्यक्तिशील हुन्छन्। तर एआईद्वारा सिर्जित अनुहारहरू प्रायः थप उस्तै, मिलेका र आकर्षक हुन्छन्।

"हामी उनीहरूलाई एआई अनुहारहरू अधिक दुरुस्तै हुन्छन् भनेर पनि भन्दैनौँ। उनीहरूले केवल दुरुस्तपनाका आधारमा मूल्याङ्कन गर्ने हो। उनीहरूलाई कुन अनुहार एआईसिर्जित हो र कुन वास्तविक मानव अनुहार हो भनेर जानकारी दिइन्छ," डवेल भन्छिन्, "त्यसरी बारम्बार हेर्दै जाँदा उनीहरूले एआई अनुहारहरू वास्तविक मानव अनुहारभन्दा कसरी फरक देखिन्छन् भनेर आफैँ बुझ्न थाल्छन्।"

यो प्रशिक्षणपछि अघिल्लो परीक्षणमा सहभागी भएकाको सही पहिचान गर्ने क्षमता औसतमा लगभग दोब्बर भई ८१ प्रतिशत पुग्यो।

शोधकर्ताहरूले भिन्नै समूह बनाएर क्यानडामा पनि त्यस्तै प्रशिक्षण चलाए।

डवेलका अनुसार "उनीहरूले उक्त तथ्याङ्कलाई भिन्नै विश्लेषण गरे र त्यहाँ पनि त्यस्तै बलियो प्रभाव देखियो।"

प्राकृतिक प्रवृत्ति

उक्त अनुसन्धानमा संलग्न नभएका ब्रिटेनस्थित बर्नमथ विश्वविद्यालयमा 'भिजुअल पर्सेप्शन' बारे शोधरत मनोवैज्ञानिक डाक्टर अलेहान्द्रो इस्टूडिओले बीबीसीसँग बताएअनुसार उक्त अध्ययनका विवरण हेर्दा उनी छक्क परेका थिए।

किनभने यसमा अन्य अनुसन्धानकर्ताहरूले अपनाएभन्दा भिन्न विधि अपनाइएको थियो।

उनका अनुसार यो नयाँ विधिको विशेषता भनेकै मानिसको सोच्ने र बुझ्ने प्राकृतिक क्षमताको उपयोग हो।

"हामी अनुहारलाई छुट्टाछुट्टै विशेषतामा केन्द्रित भएर विश्लेषण गर्दैनौँ, समग्रमा हेर्छौँ," उनी भन्छन्।

उदाहरण लागि, कुनै अनुहारको विशिष्टता वा दुरुस्तपन मूल्याङ्कन गर्दा कुनै एउटा विशेषतामा मात्र ध्यान दिइँदैन, समग्रमा हेरिन्छ।

"दैनिक जीवनमा [शोधका] सहभागीहरूले जसरी स्वाभाविक रूपमा अनुहार चिन्छन्, [भेद खुट्याउन] त्यही प्रक्रिया अपनाउनु नै राम्रो उपाय होला भनेर कसैले सोचेको थिएन," इस्टूडिओले भने।

'मुसाबिरालाको खेल'

यद्यपि यस अध्ययनका केही सीमाहरू पनि छन्।

अनुसन्धानकर्ता डवेलका अनुसार यो प्रशिक्षण अहिलेका सबैभन्दा यथार्थपरक एआई अनुहार सिर्जना गर्ने प्रणालीहरूमध्येको 'स्टाइलजीएएनथ्री' का लागि अत्यन्त प्रभावकारी देखिएको छ। तर अन्य एआई मोडलहरूमा पनि यसको प्रभावकारिता परीक्षण गर्न आवश्यक छ।

"हाम्रा सबै सहभागी युवा वयस्क थिए। त्यसैले यो प्रशिक्षण बालबालिका वा वृद्धवृद्धामा प्रभावकारी हुन्छ कि हुँदैन भन्ने महत्त्वपूर्ण प्रश्न अझै बाँकी छ। ती समूहहरू पनि खास गरी ठगीको जोखिममा पर्न सक्छन् भन्ने हामीलाई थाहा छ," उनी थप्छिन्।

मानिसहरू अहिले निरन्तर सुधार हुँदै गइरहेका एआई प्रणालीहरूसँग प्रतिस्पर्धामा रहेका र त्यो नै वास्तविक चुनौती भएको शोधकर्ताहरू बताउँछन्।

एल्गोरिदम प्रयोग गरेर एआईसिर्जित सामग्री खुट्ट्याउने स्वचालित उपकरणहरू पनि उपलब्ध नभएका होइनन् तर तिनका पनि आफ्नै सीमा छन्।

तिनीहरू केही निश्चित एआई प्रणालीहरूमा मात्र प्रभावकारी हुन सक्छन् र नयाँ मोडलहरू विकास हुँदा वा तस्बिरहरू सम्पादन गरिँदा तिनको प्रभावकारितामा समस्या देखिन सक्छ। त्यसैले एआईसिर्जित डीपफेक खुट्याउने प्रक्रियाको केन्द्रमा मानिसहरू नै रहन आवश्यक भएको शोधकर्ताहरू बताउँछन्।

"यो मुसाबिरालाको खेलजस्तै हो," डवेल भन्छिन्, "कम्प्युटर भाइरसहरूजस्तै तिनीहरू निरन्तर परिवर्तन भइरहेका हुन्छन् र तिनलाई भेट्टाउन हामी पनि सँगसँगै अघि बढ्नुपर्छ।"

तथापि उनी यी अध्ययनका निष्कर्षहरूले "आशावादी हुने पर्याप्त आधार" प्रदान गरेका ठान्छिन्।

भविष्यमा मानिसहरूलाई एआईसिर्जित स्थिर अनुहारहरू मात्र नभई आवाज र भिडिओहरू पहिचान गर्न समेत सहयोग पुर्‍याउने किसिमका प्रशिक्षणहरू विकास गर्न सकिने उनी बताउँछिन्। त्यसबाट हामी फोन वा भिडिओ कलमा हामीसँग बोलिरहेका व्यक्ति वास्तवमै हाम्रा सहकर्मी हुन् वा एआईसिर्जित 'डीपफेक' भनेर खुट्याउन अझ सक्षम हुन सक्ने छौँ।

बीबीसी न्यूज नेपाली यूट्यूबमा पनि छ। हाम्रो च्यानल सब्स्क्राइब गर्न तथा प्रकाशित भिडिओहरू हेर्न यहाँ क्लिक गर्नुहोस्। तपाईँ फेसबुक, इन्स्टाग्राम र ट्विटरमा पनि हाम्रा सामग्री हेर्न सक्नुहुन्छ। अनि बीबीसी नेपाली सेवाको कार्यक्रम बेलुकी पौने नौ बजे रेडिओमा सोमवारदेखि शुक्रवारसम्म सुन्न सक्नुहुन्छ।