ओपनआर्टबाट Dalle-3 प्रयोग गरेर बनाइएको चित्र।

आजभोलि, लगभग जो कोहीले पनि सरल, सुलभ, कृत्रिम बुद्धिमत्ता (एआई) सफ्टवेयर प्रयोग गरेर सेलिब्रेटीहरू वा सामान्य व्यक्तिहरूको अभिनय र कुराकानी गर्ने अडियो वा भिडियो रेकर्डिङहरू सिर्जना गर्न सक्छन्, जुन पहिले उनीहरूले कहिले पनि गरेका थिएनन् होला। जसका आवाज र फोटोहरू प्रयोग भइरहेका छन्, तिनीहरूका अधिकारहरूलाई अझ गम्भीरतापूर्वक सुरक्षित गर्न आवश्यक छ। विश्वभरि हुने आगामी चुनावमा एआईको दुरुपयोग रोक्न ठूला टेक कम्पनीहरू मिलेर ऐतिहासिक प्रयासमा हात हालेका छन्।

डीपफेकको विकास जारी छ र प्रत्येक पटक राम्रो गुणस्तर, थप विश्वस्त, र वास्तविकताको नजिक भईरहेको छ। सन् २०२४ मा विश्वभर ठूलो संख्यामा हुने निर्वाचनले, यी निर्वाचन प्रक्रियाहरूमा कृत्रिम बुद्धिमत्ता (एआई) समावेश हुनेले चिन्ता बढाएको छ। यसले निर्वाचनको अखण्डतामा सम्झौता गर्न सक्नेछ। चुनावको तयारीमा रहेका विश्वका धेरै देशहरूमा डिपफेकद्वारा हुन सक्ने मतदाता हेरफेर अथवा छल-कपट मुख्य छलफलमध्ये एक हो। ५० भन्दा बढी देशका करिब ४ अर्ब मानिसहरू मतदान गर्न जानेछन्। राजनीतिक प्रभाव परिचालनकार्यहरूमा एआईद्वारा-उत्पन्न सामग्रीको प्रयोगमा शिक्षाविद्, पत्रकार र राजनीतिज्ञहरूले चिन्ता व्यक्त गरेका छन्।

तथापि, एआईद्वारा उत्पन्न सामग्रीले हाम्रो सामाजिक जीवनमा पनि ठूलो प्रभाव पार्छ। हालसालै भाइरल घटनाहरू सेलिब्रेटीहरूसँग सम्बन्धित छन्, तर यस्तो हुँदाहुँदै कति छिटो डीपफेकहरू विकसित भइरहेका छन् भने हामीसँग सामान्य व्यक्तिहरू, जो सेलिब्रेटी वा राजनीतिज्ञ होइनन् र जसका जागिर वा गतिविधिहरू सार्वजनिक रुचिको विषय होइनन्, उनीहरूको डीपफेक भिडियोहरू हुनेछन् । यो समाजको लागि धेरै गम्भीर खतरा हुनेछ, र त्यसैले एआईद्वारा उत्पन्न योजनाहरू विरुद्ध सामूहिक पहल हुनु धेरै महत्त्वपूर्ण छ।

ताजा डीपफेकहरूको परिस्थितिबारे अध्ययन

डीपफेकहरू, वा गैर-एआई-आधारित हेरफेरहरू लाई “चीपफेक” भनिन्छ, जुन नयाँ होइनन् र केही समयदेखि हाम्रा वरिपरि नै छन्। यद्यपि,  एआईलाई फराकिलो दर्शकमाझ पुर्याउन गरिएको ChatGPT को प्रभाव ले गर्दा गत वर्ष एआई कम्पनीहरूमा अर्बौं डलर लगानी गरिएको छ। यस्ता कार्यक्रमहरूको विकासले तिनीहरूको उत्पादनलाई बढावा दिन्छ, विशेष गरी जनतालाई लक्षित गर्ने डीपफेकहरूको उत्पादन गर्न कृत्रिम बुद्धिमत्ताको प्रयोगलाई धेरै गुणाले बढाएको छ। अहिले पनि, भिडियो हेरफेरको अतिरिक्त, त्यहाँ त्यस्ता घटनाहरू छन् जहाँ अडियो डीपफेक उत्पादन गरिएको छ, जुन बनाउन अझ सजिलो छ।

राज्यको प्राइमरीमा मतदान नगर्न मानिसहरूलाई आग्रह गर्दै न्यू ह्याम्पशायरमा वितरण गरिएको अमेरिकी राष्ट्रपति जो बाइडेनको अडियो डिपफेकको मामिला २०,००० भन्दा बढी मानिसहरूमा पुगेको थियो। यो हेरफेरको पछाडि रहेको व्यक्ति स्टीव क्रेमर थिए र यसलाई तयार गर्न १५० अमेरिकी डलर भुक्तानी गरिएको थियो र उनले राजनीतिमा कृत्रिम बुद्धिमत्तासँग सम्बन्धित जोखिमहरूमा ध्यान आकर्षित गर्न र एआईको आवश्यकतामा ध्यान आकर्षित गर्न नागरिक अवज्ञाको रूपमा यो कार्य गरेको बताए।

एक अर्को ठूलो उदाहरण, स्लोभाक राजनीतिज्ञ माइकल सिमेकाको अडियो डीपफेक, जसले देखायो कि लोकतन्त्रको लागि डीपफेक कसरी खतरनाक हुन सक्छ । स्लोभाकियाको चुनाव हुनुभन्दा ४८ घन्टाअघि फेसबुकमा एक रेकर्ड गरिएको भ्वाइस सन्देश अपलोड गरिएको थियो, जसमा सिमेकाले पत्रकार मोनिका टोडोभासँग चुनावी धाँधलीबारे छलफल गरिरहेको देखिन्छ। एक उदाहरण जसले गम्भीर राजनीतिक र सामाजिक निहितार्थ हुन सक्छ, त्यो लन्डनका मेयर सादिक खानको अडियो डीपफेक हो। सन् २०२३ को नोभेम्बरको सुरुमा खानको एउटा अडियो डीपफेक भाइरल भयो जसमा उनले युद्धविराम दिवस (पहिलो विश्वयुद्ध समाप्त भएको पललाई चिन्ने उत्सव) को अपमान गरेको र प्यालेस्टाइन समर्थक मार्चहरूलाई प्राथमिकता दिनुपर्ने माग गर्दै गरेको देखियो।

राजनीतिक नायकहरूको अडियो डीपफेकहरूका साथसाथै सेलिब्रेटीहरूसँगको भिडियो डीपफेकहरू पनि इन्टरनेटमा प्रसारित भइरहेका छन्। उदाहरणका लागि, प्रख्यात हलिउड अभिनेता टम हैंक्सको भिडियो डीपफेकहरू छन्, जसमा उनको एआई संस्करणले एक डेंटल योजनालाई प्रवर्द्धन गर्‍यो, अथवा प्रसिद्ध अमेरिकी यूट्यूबर मिस्टरबीस्ट, जसले “विश्वको सबैभन्दा ठूलो आईफोन १५ उपहार” होस्ट गरिरहेको देखियो।

यस वर्षको सुरुमा गायिका टेलर स्विफ्टको डीपफेक फोटो धेरै सामाजिक सञ्जाल प्लेटफर्महरू –  एक्स (पहिलेको ट्विटर), इन्स्टाग्राम, फेसबुक र रेडिटमा प्रकाशित भएको थियो र यो पनि भाइरल भयो। यसलाई एक्स बाट हटाउनुअघि स्विफ्टको एक डीपफेक फोटो त्यस प्लेटफर्ममा लगभग १७ घण्टामा ४.५ करोडभन्दा बढी पटक हेरिएको थियो।

एआई द्वारा-उत्पन्न चालबाजीविरुद्ध एक सामूहिक पहल

म्युनिख सुरक्षा सम्मेलनमा घोषणा गरिएको “२०२४ को चुनावमा एआईको भ्रामक प्रयोगसँग लड्न टेक सम्झौता” मा एडोब, गुगल, माइक्रोसफ्ट, ओपनएआई, स्न्याप इंक, र मेटा लगायत २० ठूला कम्पनीहरूले नवीनतम टेक्निक प्रयोग गरेर हानिकारक एआईद्वारा-उत्पन्न सामग्री जसले मतदाताहरूलाई बहकाउने उद्देश्य राख्छ, सो पत्ता लगाउने र प्रतिरोध गर्ने प्रतिबद्धता र साथसाथै जनचेतना, मिडिया साक्षरता, र सबै समाजको लचिलोपनलाई बढावा दिने प्रयासहरूलाई समर्थन गर्नेछ। पहिलो पटक २० विभिन्न कम्पनीहरू एआईद्वारा-उत्पन्न चालबाजी विरुद्ध एकसाथ एकजुट हुँदैछन्।

सहभागी कम्पनीहरू भ्रामक एआई चुनाव सामग्रीसँग सम्बन्धित जोखिमहरू कम गर्न आठ विशेष प्रतिबद्धताहरूमा सहमत भए। प्राविधिक क्षेत्र र एआईबीचको यस पहलको उद्देश्य एआईद्वारा सिर्जना गरिएका तस्विर, भिडियो र अडियोहरूलाई लक्षित गर्ने हो जसले उम्मेदवारहरू, निर्वाचन अधिकारीहरू र मतदान प्रक्रियाको बारेमा मतदाताहरूलाई भ्रममा पार्न सक्छन्। यद्यपि, यसले त्यस्ता सामग्रीलाई पूर्ण रूपमा प्रतिबन्ध लगाउन माग गर्दैन।