अध्याय २ · खण्ड II · 17 मिनेट
नेपालमा देखिने पूर्वाग्रह — जात, लिङ्ग, भाषा, क्षेत्र
एल्गोरिदमिक पूर्वाग्रहबारेका विश्वव्यापी साहित्यले अमेरिकी जात र लिङ्गका कुरा गर्छ; नेपालमा मोडलले वास्तवमा उत्पादन गर्ने पूर्वाग्रहको आफ्नै व्याकरण छ, र केही अडिट गर्नुअघि नै तपाईंले त्यो व्याकरण सिक्नैपर्छ।
एल्गोरिदमिक पूर्वाग्रहबारे लेखिएको अधिकांश सामग्री अमेरिकी ढाँचामा लेखिएको छ। केस स्टडीहरू अमेरिकी हुन् — फ्लोरिडाका अदालतमा COMPAS, अमाजनको कर्मचारी छनोट उपकरण, डेट्रोइटका थानामा अनुहार पहिचान। संरक्षित श्रेणीहरू अमेरिकी हुन् — कालो, हिस्पानिक, “न्यून-आय ZIP।” यो सामग्री पर्याप्त पढेपछि तपाईंले पूर्वाग्रह ती ढाँचाहरूमै आउँछ भनेर कल्पना गर्न थाल्नुहुन्छ, र यहाँ यसले लिने वास्तविक आकारहरू छुटाउन थाल्नुहुन्छ। नेपालको पूर्वाग्रहको फरक व्याकरण छ। चरहरू फरक छन्, प्रोक्सीहरू फरक छन्, क्षेत्रहरू फरक छन्, र पूर्वाग्रही डाटा उत्पादन गर्ने संस्थाहरू फरक छन्। अमेरिकी चेकलिस्ट उधारो लिँदा महत्त्वपूर्ण कुराको केही अंश समातिन्छ, अधिकांश छुट्छ। तपाईंले स्थानीय व्याकरण सिक्नैपर्छ।
जात, र थरको समस्या
नेपालमा छनोट मोडल बनाउने कुनै पनि टोलीले बुझ्नैपर्ने सबैभन्दा महत्त्वपूर्ण कुरा हो: थरले जात बोक्छ। आवेदकको नामलाई फिचरको रूपमा प्रयोग गर्ने मोडल — वा त्यसबाट निकालिएको कुनै पनि फिचर, इमेल ठेगाना, सोसल मिडिया ह्यान्डल, वा मिलाइएको विद्यालयको स्मारिका — प्रभावमा जातलाई फिचरको रूपमा प्रयोग गरिरहेको छ। तालिमको बेला पर्याप्त थर देखेको मोडलले कसैले स्पष्ट रूपमा नभने पनि त्यो सम्बन्ध सिकेको हुन्छ। एकातिर शर्मा, अधिकारी, भट्टराई, पाण्डे; अर्कोतिर विश्वकर्मा, परियार, दमाई, सार्की; तेस्रोतिर यादव, महतो, साह, मण्डल। मोडललाई जात के हो थाहा हुँदैन। थाहा हुने कुरा त के थरहरू के परिणामसँग सम्बन्धित छन् भन्ने हो, र नेपालमा परिणामहरू शताब्दीयौंदेखि जातले आकार दिएको छ।
यो सैद्धान्तिक होइन। काठमाडौंको कुनै टेक कम्पनीको पछिल्लो पाँच वर्षको नियुक्तिमा तालिम दिइएको छनोट प्रणालीले कसैले डिजाइन नगरीकनै सिक्नेछ कि केही थरहरू प्रस्तावमा बढी प्रतिनिधित्व छन् र अरू अन्तर्वार्तामा कम। त्यसपछि यसले उही ढाँचालाई अगाडि “अनुमान” गर्नेछ, र टोलीले रिपोर्ट गर्नेछ कि मोडल ऐतिहासिक आधाररेखाको ९२% शुद्धतामा प्रदर्शन गरिरहेको छ — जुन ठ्याक्कै समस्या हो। आधाररेखा नै पूर्वाग्रह हो। त्यसलाई जित्नु भनेको त्यसको पुनरुत्पादन हो।
लिङ्ग, र बागमती पाइपलाइन
नेपाली टेक क्षेत्र, सबै ठाउँको नेपाली टेक क्षेत्र जस्तै, लिङ्ग समस्या भएको क्षेत्र हो। अधिकांश काठमाडौं सफ्टवेयर कम्पनीमा महिलाहरू कार्यबलको १५-२०% छन्, वरिष्ठ भूमिकामा कम छन्, र डाटाले यो देखाउँछ। यी कम्पनीहरूमध्ये कुनै एकमा “सफल कर्मचारी”मा तालिम दिइएको मोडल, संरचनात्मक रूपमा, “बागमतीमा २०१८ देखि २०२४ बीच जोडिएका सफल पुरुष कर्मचारी”को मोडल हुनेछ। अर्को वर्षका आवेदकहरू छान्न तैनात गर्नुहोस् र यसले चुपचाप महिलालाई तल राख्नेछ, कसैले नियम लेखेर होइन, ऐतिहासिक ढाँचा नै मोडलले सिकेको नियम भएर।
उही समस्या क्रेडिट डाटा, भाडामा बस्ने डाटा, स्टार्टअप-कोष रेकर्ड, र पुरुषहरू ऐतिहासिक रूपमा नामित कर्ता भएका सबै कुरामा देखिन्छ। २००० को सुरुका सहकारी रेकर्डमा तालिम दिइएको लघुवित्त मोडलमा अधिकांश ऋण घरमूली पुरुषको नाममा रेकर्ड भएको हुनेछ, वास्तविक ऋणी र भुक्तानीकर्ता समूहभित्रको महिला भए पनि। मोडलले महिला-नामका खाताहरू असामान्य छन् भनेर सिक्छ र असामान्यलाई संदिग्ध मान्छ। पूर्वाग्रह माथिल्लो स्रोतमा छ, रेकर्डिङ अभ्यासमा, तर हानि तल्लो भागमा देखिन्छ — कसलाई स्वीकार गरिन्छ भनेर।
भाषा, र मैथिली अन्तराल
ठूला भाषा मोडलहरूले इन्टरनेट पढ्छन्, र नेपालमा इन्टरनेट कुनै एकरूप तरिकाले नेपालीमा छैन। यो खस-नेपालीमा भारी छ, अङ्ग्रेजीमा भारी छ, च्याट एपहरूमा रोमन मिश्रित लिपिमा, र मैथिली, तामाङ, लिम्बू, थारू, मगर, नेवार, भोजपुरी, अवधी, वा डोटेलीमा लगभग केही पनि छैन। “नेपाली बोल्ने” मोडल भन्नुको अर्थ लगभग सधैं खस-नेपाली बोल्ने मोडल हो — र त्यसमा पनि, अधिकांश काठमाडौं-दर्जाको खस-नेपाली।
तल्लो प्रभावहरू वास्तविक छन्। अनुवाद मोडलले मैथिली आदरार्थी रूपलाई बिगार्नेछ वा अनुवाद गर्न नै इन्कार गर्नेछ। काठमाडौंका लवजमा तालिम दिइएको बोली पहिचान प्रणालीले तराईको वक्तालाई स्थिरता मार्फत जस्तो सुन्नेछ। लिखित निबन्ध मूल्याङ्कन गर्ने विद्यालय मूल्याङ्कन उपकरण — विशेष गरी पहिले अङ्ग्रेजीमा तालिम दिइएको र पछि नेपालीमा अनुकूलित गरिएको — ले पश्चिमी शैलीका तर्कशील निबन्धलाई नेपाली माध्यमिक शिक्षाले वास्तवमा सिकाउने उद्धरण-भारी, बढी आदरयुक्त शैलीभन्दा उच्च मूल्याङ्कन गर्नेछ। यीमध्ये कुनै पनि मोडल अन्यायपूर्ण हुन डिजाइन गरिएको थिएन। सबै नै हुन्, र अनुमान योग्य रूपमा, किनभने तालिम वितरणमा अब सेवा गर्न लगाइएको जनसङ्ख्या समावेश थिएन।
क्षेत्र, र दुई नेपाल
मोडल तालिम दिन सकिने नेपालका लगभग हरेक डाटासेट केही जिल्लामा उत्पादन गरिएको हो। बैङ्कका रेकर्डहरू मुख्यतया काठमाडौं, ललितपुर, भक्तपुर, कास्की, चितवन, मोरङ हुन्। टेलिकम प्रयोग डाटा सहरी टावरतिर झुकेको छ। अस्पतालका रेकर्डहरू काठमाडौंका तृतीयक अस्पतालमा विस्तृत रूपमा छन्, जिल्ला सदरमुकाममा सारांशमा छन्, र अन्य कतै बिरलै छन्। “राष्ट्रिय” डाटासेटहरू — घरपरिवार सर्वेक्षण, शिक्षा तथ्याङ्क — ले पनि सबैभन्दा टाढाका वडाहरूलाई कम नमुना लिन्छन्।
यो डाटामा तालिम दिइएको फ्रड पहिचान मोडलले “सामान्य” कारोबार कस्तो देखिन्छ भनेर सिक्छ, र “सामान्य” को अर्थ उपत्यकाका मानिसले के गर्छन् भन्ने हुन्छ। रेमिट्यान्स कोरिडोरमा भारतीय सीमा पारिवारिक धेरै साना दोहोरिएका रकम पठाउने मधेसी व्यापारी मोडललाई असामान्य देखिनेछ — व्यापारीले केही गलत गरेर होइन, व्यापारीको व्यवहार तालिम सेटमा कम प्रतिनिधित्व भएर। मोडलले धेरै मधेस कारोबार फ्ल्याग गर्छ, बैङ्कले धेरै मधेस ग्राहकको अनुसन्धान गर्छ, ती ग्राहकले खराब सेवा अनुभव गर्छन्, र डाटाको अर्को पुनरावृत्तिले “मधेसमा धेरै फ्ल्याग” लाई तथ्यको रूपमा रेकर्ड गर्छ। फिडब्याक लूप कसिँदै जान्छ।
यसको सबैभन्दा सफा नाम दुई-नेपाल समस्या हो: मोडलहरू सहरी, जोडिएको, खस-आर्य, बागमती-भारित नेपालमा तालिम दिइन्छन्, र त्यसपछि ती कुनै पनि होइन देशभर तैनात गरिन्छन्। तालिम वितरण र तैनाती वितरण फरक देश हुन्। मोडलले पहिलोमा राम्रो र दोस्रोमा अन्यायपूर्ण प्रदर्शन गर्छ, र यसलाई चलाउने मानिसहरू सामान्यतया पहिलोको नजिक हुन्छन्।
वास्तविक उपाय कस्तो देखिन्छ
मोडलले पूर्वाग्रही परिणाम उत्पादन गरिरहेको छ भनेर टोलीले स्वीकार गरेपछि, गलत प्रतिक्रियाहरू ठूला हुन्छन् र सही प्रतिक्रियाहरू बिस्तारै। गलत प्रतिक्रियाहरू समावेश छन्: बेवास्ता गर्ने, सङ्ख्या त राम्रै छन्; मोडल पुनः ब्रान्ड गरेर पठाउने; अस्वीकरण थप्ने र तैनात भयो भन्ने; असामान्य भएकोमा प्रयोगकर्तालाई दोष दिने। यीमध्ये कुनैले पनि मोडलले मानिसलाई के गर्छ भन्ने बदल्दैन।
सही प्रतिक्रियाहरू ठोस र अनाकर्षक छन्। समूह अनुसार अडिट — आफ्नो परीक्षण डाटा जात-समूह, लिङ्ग, प्रदेश, भाषा अनुसार विभाजन गर्नुहोस्, र प्रत्येकका लागि मोडलको त्रुटि दर र स्वीकृति दर रिपोर्ट गर्नुहोस्। तालिम डाटा बदल्ने — कम प्रतिनिधित्व भएको जनसङ्ख्याबाट थप डाटा सङ्कलन गर्नुहोस्, भएकोलाई पुनः-वजन गर्नुहोस्, वा अन्तराल बन्द नभएसम्म पठाउन इन्कार गर्नुहोस्। सीमामा मानवीय समीक्षा थप्ने — उच्च-दाँव निर्णयहरू (ऋण, नियुक्ति, फ्रड फ्ल्याग) का लागि लूपमा मानिस आवश्यक छ, विशेष गरी ती समूहहरूका लागि जहाँ मोडल सबैभन्दा कम सही छ। अन्तरालमा पारदर्शी हुने — खराब सङ्ख्या समेत, समूह अनुसारका सङ्ख्या प्रकाशित गर्नुहोस्, किनभने तिनलाई लुकाउनु अर्को टोलीले उही गल्ती गर्ने तरिका हो। यीमध्ये कुनै पनि रोमाञ्चक छैन। सबै एक पटक पुनः तालिम दिएर आशा गर्नुभन्दा राम्रो काम गर्छन्।
आफ्नो बुझाइ जाँच्नुहोस्
छोटो जाँच
—नेपाली बैङ्कद्वारा तैनात गरिएको फ्रड पहिचान मोडलले जनकपुर र बिर्गन्जबाट सुरु भएका कारोबारलाई काठमाडौं र पोखराबाट सुरु भएका कारोबारको लगभग दोब्बर दरमा फ्ल्याग गर्छ, कारोबार आकार नियन्त्रण गरेपछि पनि। नेपालमा पूर्वाग्रहबारे हामीलाई थाहा भएको कुरासँग कुन व्याख्या सबैभन्दा सङ्गत छ?
छोटो जाँच
—काठमाडौंको एउटा फर्मद्वारा तैनात गरिएको कर्मचारी छनोट उपकरणले समान योग्यता भएका महिला वा दलित अथवा मधेसी थर भएका उम्मेदवारभन्दा खस-आर्य थर भएका पुरुष उम्मेदवारलाई उल्लेखनीय रूपमा बढी दरमा सुझाव दिएको पाइन्छ। कुन प्रतिक्रिया सबैभन्दा बचाउन योग्य उपाय हो?
अब के आउँछ
यहाँ पूर्वाग्रह कस्तो देखिन्छ हेरेपछि, स्पष्ट अर्को प्रश्न सबैभन्दा कठिन छ: यी मध्ये कुनै मोडलका लागि “न्यायपूर्ण” हुनुको वास्तविक अर्थ के होला? “न्यायपूर्ण” का प्रतिस्पर्धात्मक गणितीय परिभाषाहरू छन् जुन एकैचोटि लागू हुन सक्दैनन् — र तीमध्ये छनोट गर्नु गणना होइन, मूल्य निर्णय हो। अर्को खण्डले ती परिभाषाहरू के हुन् र तीमध्ये छनोट गर्दा तपाईं वास्तवमा के मा प्रतिबद्ध हुनुहुन्छ भनेर हिँडाउँछ।