अध्याय ५ · खण्ड I · 15 मिनेट
डिपफेक र कृत्रिम सामग्री
सस्तो, छिटो, विश्वासयोग्य — कृत्रिम भिडियो, अडियो र तस्बिर अब सीमान्त समस्या होइनन्, र कुनै पनि संस्था तयार हुनुअघि नेपालले यसको असर सडकस्तरमै भोग्नेछ।
फोटोग्राफीको लगभग सम्पूर्ण इतिहासमा, कुनै व्यक्तिले केही भनेको चलचित्र त्यो व्यक्तिले त्यही कुरा भनेको हो भन्ने पर्याप्त बलियो प्रमाण मानिन्थ्यो। त्यो धारणा — चुपचाप, करिब तीन वर्षको अवधिमा — सुरक्षित रहन छाडेको छ। २०२६ मा, एउटा सक्षम कृत्रिम भिडियो एउटै सन्दर्भ तस्बिर र तीस सेकेन्डको आवाज नमुनाबाट, मध्यम स्तरको ल्यापटपमा, कुनै विशेष तालिम नभएको व्यक्तिले बनाउन सक्छ। बाधा अब प्राविधिक सीप वा महँगो उपकरण होइन; बाधा हो — नक्कली बनाउने व्यक्तिलाई दुःख गर्ने इच्छा छ कि छैन। बढ्दो रूपमा, छ।
प्रविधि वास्तवमा कहाँ छ
तीन क्षमता समानान्तर रूपमा परिपक्व भएका छन्, र महत्त्वपूर्ण कुरा यिनको संयोजन हो।
भिडियो। खुला-स्रोत डिफ्युजन मोडेलहरूले अब चिनिने वास्तविक व्यक्ति — नेता, सेलिब्रेटी, तपाईंको छिमेकी — को छोटो क्लिप बनाउन सक्छन्, जसमा बनाउनेको मन लागेको शब्द र काम देखाइन्छ। गुणस्तर एकनासको छैन। एक घण्टा काम गर्ने सक्षम जालसाजीले फोनमा स्क्रोल गर्ने अधिकांश दर्शकले समात्न नसक्ने कुरा निकाल्न सक्छ। संकेत (दाँतमा झिल्को, गलत सङ्ख्याका औँला भएको हात, कोठासँग नमिल्ने प्रकाश) खोज्न खोजे देखिन्छन्, तर सामाजिक सञ्जालको फिड डिजाइन यस्तो छ कि कसैले खोज्दैन।
अडियो। आवाज क्लोनिङ अहिले तीनमध्ये सबैभन्दा परिपक्व छ। लक्षित आवाजको करिब तीस सेकेन्डको सफा अडियो — पडकास्ट क्लिप, फोन कलको रेकर्ड, फेसबुक भिडियो — पर्याप्त छ, जुन सामान्य श्रोताले स्वीकार्ने स्वरमा कुनै पनि नयाँ वाक्य बनाउँछ। फोन-लाइनको अडियो कम्प्रेसनले जालसाजीलाई मद्दत गर्छ, किनकि यसले साना दोषहरू लुकाउँछ।
तस्बिर। स्थिर तस्बिर वर्षौंदेखि बनाउन सकिने नक्कली थिए; जे बदलिएको छ त्यो हो गति र मात्रा। एउटा सानो समूहले अब एक दिउँसोमा सयौं विश्वासयोग्य देखिने तस्बिर बनाउन सक्छ — नक्कली प्रदर्शनकारी, नक्कली अपराध स्थल, नभएकै समाचारका नक्कली स्क्रिनसट।
नेपालका तीन जोखिम ढाँचा
डिपफेकको विश्व बहस हलिवुड-शैलीका परिदृश्यमा केन्द्रित हुन्छ। नेपालले बढी सामान्य र बढी हानिकारक कुरा देख्नेछ।
१. साँघुरो चुनाव झ्यालमा राजनीतिक बदनामी। कल्पना गर्नुहोस् — मतदानको अघिल्लो रात बेलुकी ९ बजे टिकटकमा १५ सेकेन्डको एक क्लिप देखापर्छ: एक उम्मेदवार, आफ्नै आवाज र अनुहारमा, घूस लिएको स्वीकार गर्दै वा कुनै जात वा समुदायको अपमान गर्दै देखिन्छ। तथ्य-जाँचकर्ताहरू बिउँझँदासम्म, क्लिप दस हजार भाइबर समूहमा पठाइसकिएको हुन्छ। उम्मेदवारले खण्डन जारी गर्दासम्म, मतदान सुरु भइसकेको हुन्छ। खण्डनले नक्कलीको दर्शक संख्याको एक अंशमा मात्र पुग्छ, र कम भावनात्मक रूपमा पुग्छ। निर्वाचन आयोगसँग यस्ता घटनाका लागि कुनै प्रक्रिया छैन। धेरै जिल्ला-स्तरका पत्रकारसँग प्रमाणित गर्ने औजार पनि छैन।
२. महिलाविरुद्ध हतियार बनाइएको गैर-सहमतिको अन्तरङ्ग सामग्री। विश्वव्यापी रूपमा यो ठूलो मात्रामा भइरहेको छ, र नेपाल भाषा वा दूरीले संरक्षित छैन। कलेज विद्यार्थीको फेसबुक तस्बिर पर्याप्त कच्चा सामग्री हो। तस्बिर बनाइन्छ, ह्वाट्सएप समूहमा साझा गरिन्छ, त्यसपछि टेलिग्राममा, अनि महिलाकै सामाजिक वृत्तमा फर्किन्छ। हानि अमूर्त छैन — रोजगारी गुम्छ, विवाह टुट्छ, सार्वजनिक जीवनबाट हट्नुपर्छ, र सबैभन्दा खराब अवस्थामा, आत्महत्या। साइबर अपराध ब्युरोमा उजुरी पुग्छ; तस्बिर पहिले नै फिर्ता गर्न नसकिने भइसकेको हुन्छ। हालको कानून त्यो संसारका लागि लेखिएको थियो जहाँ यस्ता तस्बिर बनाउन गाह्रो थियो।
३. आवाज-क्लोन ठगी कल। बिर्गन्जका एक अभिभावकलाई फोन आउँछ। अर्को टाउकोमा रहेको आवाज तिनको कतारमा काम गर्ने छोराको हो। ऊ संकटमा छ — दुर्घटना, अस्पताल, प्रहरी, यो खातामा अहिल्यै पैसा पठाउनुहोस्। आवाज ठीक छ। डर ठीक छ। पैसा पठाइन्छ, र पछि वास्तविक छोराले कतारबाट फोन गरेर सोध्छ — आमा किन रोएको। क्लोनको आवाज नमुना दुई वर्षअघि छोराले सार्वजनिक फेसबुक समूहमा हालेको तीस सेकेन्डको भ्वाइस नोटबाट आएको थियो।
यी तीन ढाँचाको एउटा साझा संरचना छ: नक्कलीले भावनात्मक प्रतिक्रिया (आक्रोश, लज्जा, डर) को शोषण गर्छ जुन प्रमाणीकरणलाई छोट्टै काट्न डिजाइन गरिएको हुन्छ। प्रविधि महत्त्वपूर्ण छ, तर सामाजिक इन्जिनियरिङ बढी महत्त्वपूर्ण छ।
निर्माण योग्य रक्षात्मक बानी
प्राविधिक समाधान — “डिपफेक पत्ता लगाउने एप” — मागिने स्वाभाविक प्रवृत्ति बुझ्न सकिने तर धेरै हदसम्म गलत छ। पत्ता लगाउने औजार छन्, सुधार भइरहेका छन्, र सधैँ जेनेरेसन औजारभन्दा पछाडि रहनेछन्, किनकि जेनेरेटरले डिटेक्टरविरुद्ध तालिम लिन सक्छ तर डिटेक्टरले नयाँ नक्कली देख्न पर्खनुपर्छ। आत्मविश्वासका साथ “एआई डिपफेक डिटेक्सन” बेच्ने कसैले तपाईंलाई एउटा सम्भावना उदार रूपमा गोलाइ गरेर बेच्दैछ।
वास्तवमा काम गर्ने रक्षाहरू अधिकांश व्यवहारगत छन्।
बहु-स्रोत प्रमाणीकरण। यदि क्लिप वास्तविक र महत्त्वपूर्ण छ भने, घण्टा भित्रै एकभन्दा बढी विश्वासयोग्य स्रोतले रिपोर्ट गर्नेछ। दोस्रो स्रोत पर्खनुहोस्। पर्खने लागत सानो छ। नक्कली अगाडि पठाउने लागत तपाईंले सोचेभन्दा ठूलो हुन्छ।
मूल सन्दर्भको खोजी। स्क्रिनसटको रिभर्स-इमेज सर्च गर्नुहोस्। उद्धरण खोज्नुहोस्। कथित स्थान र मिति त्यस दिनको समाचारमा छ कि छैन हेर्नुहोस्। आश्चर्यजनक प्रतिशत भाइरल नक्कलीहरू पाँच मिनेटको खोजीले उजागर हुन्छन्।
विस्फोटक सामग्रीप्रति आधारभूत शङ्का। सामग्री जति बढी भावनात्मक रूपमा सक्रिय बनाउने हुन्छ, त्यति नै सक्रिय बनाउन डिजाइन गरिएको हुने सम्भावना बढी हुन्छ। तपाईंलाई तत्कालै साझा गर्न मन लाग्ने क्लिप ठ्याक्कै एक दिन छाड्नुपर्ने क्लिप हो।
व्यक्तिगत मामिलामा अर्को च्यानलबाट प्रमाणीकरण। यदि कुनै आफन्तले संकटमा परेर पैसा मागे, फोन काट्नुहोस् र पहिले नै थाहा भएको नम्बरमा फर्केर कल गर्नुहोस्। यदि सम्पर्क हुँदैन भने, तेस्रो परिवारको सदस्यलाई फोन गर्नुहोस्। फोनमा आउने आवाज अब बोल्ने व्यक्तिको प्रमाण होइन।
संस्थाहरूले के गर्नुपर्छ — र अधिकांशले गरिरहेका छैनन्
नेपालका न्युजरूमलाई प्रमाणीकरण डेस्क चाहिन्छ, सानो भए पनि, आधारभूत फरेन्सिक प्रविधिको तालिमसहित। निर्वाचन आयोगलाई चुनावी अवधिमा कथित कृत्रिम सामग्री ह्यान्डल गर्ने प्रकाशित प्रक्रिया चाहिन्छ, छिटो समीक्षा र निर्णयको सार्वजनिक अभिलेखसहित। प्लेटफर्म — टिकटक, फेसबुक, भाइबर — लाई (प्रेस काउन्सिल, नागरिक समाज, सरकारबाट) दबाब दिनुपर्छ कि सम्भावित कृत्रिम सामग्रीलाई लेबल लगाइयोस् र संवेदनशील झ्यालमा त्यसको फैलावटलाई सुस्त बनाइयोस्। यीमध्ये कुनै पनि अहिले ठूलो मात्रामा भइरहेको छैन। प्रविधि प्रतिक्रियाभन्दा छिटो दौडिरहेको छ।
बीचमा, बोझ व्यक्तिमा पर्छ। यो अन्यायपूर्ण छ, तर अवस्था यही हो।
आफ्नो बुझाइ जाँच्नुहोस्
छोटो जाँच
—राति ढिलो, स्रोत लिङ्क नभएको र कुनै अर्को आउटलेटले रिपोर्ट नगरेको सार्वजनिक व्यक्तिको छोटो, विस्फोटक भिडियो क्लिप तपाईंको टिकटक फिडमा देखापर्छ। पहिलो सबैभन्दा रक्षणीय प्रतिक्रिया के हो?
छोटो जाँच
—२०२६ मा एआई-आधारित डिपफेक डिटेक्सन औजारको अवस्थालाई कुन वाक्यले सबैभन्दा सही ढङ्गले वर्णन गर्छ?
अब के आउँछ
यदि कृत्रिम सामग्रीले सूचना आपूर्तिलाई बाढी ल्याउँदैछ भने, संकेतलाई आवाजबाट छुट्याउने जुन संस्थाको काम हो — न्युजरूमहरू — असामान्य दबाबमा छन्। अर्को खण्डले हेर्नेछ — नेपाली पत्रकारिताले एआई आफै कसरी प्रयोग गर्दैछ, त्यसले कहाँ मद्दत गर्छ, कहाँ विश्वास खिँच्छ, र विश्वसनीयता जोगाउने कार्यप्रवाह वास्तवमा कस्तो हुन्छ।