अध्याय २ · खण्ड III · 15 मिनेट
"न्यायपूर्ण" को वास्तविक अर्थ
"न्यायपूर्ण" एउटा कुरा होइन — यो कम्तीमा तीन परस्पर असङ्गत गणितीय परिभाषाहरू हुन्, र तीमध्ये छनोट गर्नु गणनाको रूप लिएको राजनीतिक निर्णय हो।
एल्गोरिदमिक न्यायपूर्णताबारेको सबैभन्दा अस्थिर पार्ने तथ्य — र नेपालका लगभग कुनै पनि व्यावसायिक बैठकले अहिलेसम्म समाहित नगरेको कुरा — यो हो कि “न्यायपूर्ण” भन्ने एउटै कुरा छँदै छैन। यी धेरै असङ्गत कुराहरू हुन्, हरेकलाई कुनै तर्कसङ्गत व्यक्तिले न्यायपूर्ण भन्न सक्छ, र मोडलले तीमध्ये कुनै एकलाई मात्रै पूरा गर्न सक्छ अरूलाई उल्लङ्घन गरेर। यो विज्ञानको अस्थायी अवस्था होइन, राम्रो परिभाषाको पर्खाइमा। यो प्रमेय हो: गणितज्ञहरूले प्रमाणित गरेका छन् कि, तपाईंले तुलना गरिरहेका समूहहरू समान भएको खण्डहीन अवस्थामा बाहेक, मुख्य न्यायपूर्णता परिभाषाहरूमध्ये एकभन्दा बढी एकैचोटि पूरा गर्न सकिँदैन। तपाईंको बैङ्क, तपाईंको अस्पताल, तपाईंको विश्वविद्यालयले वास्तविक जनसङ्ख्यामा मोडल प्रयोग गर्न लाग्दैछ भनेर स्वीकार गरेकै क्षण, कसैले कुन न्यायपूर्णता चाहिएको हो छनोट गर्नैपर्छ। र हरेक छनोटले चुपचाप अरू न्यायपूर्णताहरू र तिनले संरक्षण गर्ने मानिसहरूलाई बहिष्कार गर्छ।
तीन परिभाषा, छोटकरीमा
एल्गोरिदमिक न्यायपूर्णतामा दर्जनौं औपचारिक परिभाषाहरू छन्, तर तीनवटाले अधिकांश भार बोक्छन्। प्रत्येक आफैमा सहज छ। समस्या तब सुरु हुन्छ जब तपाईंले एकैचोटि दुईवटा माग्नुहुन्छ।
१. समान स्वीकृति दर (डेमोग्राफिक प्यारिटी)। मोडलले हरेक समूहबाट उही अंश आवेदक स्वीकार गर्छ। पुरुष आवेदकको ३०% लाई ऋण स्वीकृत भएमा, महिला आवेदकको पनि ३०% स्वीकृत हुनुपर्छ। मानिसहरूले “मोडलले पुरुष र महिलालाई समान व्यवहार गर्छ” भन्दा अधिकांशले यही बुझाउँछन्।
२. समान त्रुटि दर (इक्वलाइज्ड अड्स)। मोडलले हरेक समूहका लागि उही दरमा गल्ती गर्छ। योग्य पुरुष आवेदकको ५% गलत रूपमा अस्वीकृत भएमा, योग्य महिला आवेदकको पनि ५% गलत रूपमा अस्वीकृत हुनुपर्छ। र अयोग्य पुरुष आवेदकको ८% गलत रूपमा स्वीकृत भएमा, अयोग्य महिला आवेदकको पनि ८% गलत रूपमा स्वीकृत हुनुपर्छ।
३. समान क्यालिब्रेसन। मोडलले “तिर्ने ७०% सम्भावना” भन्दा, त्यसको अर्थ हरेक समूहका लागि ७०% नै हुनुपर्छ। खस-आर्य आवेदकको ०.७ स्कोर र दलित आवेदकको ०.७ स्कोर दुवै, वास्तविक संसारमा, दश मध्ये सात जना वास्तवमा तिर्नेसँग मेल खानुपर्छ। सङ्ख्याले कसको बारेमा भनिएको हो भन्दा फरक नपरीकन त्यसले भनेकै अर्थ दिनुपर्छ।
यी हरेक परिभाषालाई तपाईंले “न्यायपूर्ण” भन्न सक्नुहुन्छ। हरेकले वास्तविक नैतिक अन्तर्ज्ञान समात्छ। र क्षेत्रलाई भत्काउने नतिजा — चौल्डेचोवा, क्लाइनबर्ग र अरूले प्रमाणित गरेको असम्भवता प्रमेय — यो हो कि तपाईंले एकैचोटि तीनैवटा पाउन सक्नुहुन्न, समूहहरूको आधार दर पहिले नै समान नभए बाहेक। तिनीहरू समान नभएको कुनै पनि वास्तविक जनसङ्ख्यामा, मोडलले कुनै एक परिभाषा पूरा गर्न कम्तीमा अर्को एक उल्लङ्घन गर्नैपर्छ।
कार्य उदाहरण — नेपाली बैङ्कको क्रेडिट मोडल
काठमाडौंको एउटा बैङ्कले नेपालभर प्रयोग गरिने क्रेडिट-डिफल्ट मोडल बनाइरहेको कल्पना गर्नुहोस्। मानौं ऐतिहासिक डिफल्ट दर दुई समूहहरू बीच — मानौं बागमतीका र कर्णालीका आवेदकहरू — अर्थपूर्ण रूपमा फरक छ, कुनै अन्तर्निहित कारणले होइन, आय अस्थिरता, फसल चक्र, र औपचारिक क्रेडिटमा पहिलेको पहुँचको संरचनात्मक भिन्नताका कारण। मोडलले को डिफल्ट गर्छ अनुमान गर्नैपर्छ। बैङ्कले “न्यायपूर्ण” हुन चाहन्छ।
बैङ्कले समान स्वीकृति दर छान्यो भने, यसले बागमती आवेदकको जति अंश कर्णालीको पनि स्वीकृत गर्नेछ। डिफल्टका फरक आधार दर हुँदा यो गर्न, मोडलले दुई समूहका लागि फरक थ्रेसहोल्ड प्रयोग गर्नुपर्छ — कर्णालीको ०.५५ अनुमानित-पुनर्भुक्तानी स्कोर भएको आवेदक स्वीकृत हुन सक्छ, तर त्यही स्कोर भएको बागमतीको आवेदक अस्वीकृत हुन्छ। बैङ्कलाई दुई गुनासो आउनेछ। बागमती आवेदकहरूले उनीहरूलाई कडा मापदण्डमा राखिएको छ भन्नेछन्। बैङ्कका जोखिम अधिकारीहरूले स्वीकृत कर्णाली पुस्तक स्वीकृत बागमती पुस्तकभन्दा औसतमा बढी डिफल्ट हुनेछ भन्नेछन्।
बैङ्कले समान त्रुटि दर छान्यो भने, यो फरक सम्झौता स्वीकार गर्छ। मोडल यसरी क्यालिब्रेट गरिएको हुन्छ कि गलत रूपमा अस्वीकृत योग्य ऋणी, र गलत रूपमा स्वीकृत अयोग्य ऋणीको दर दुवै समूहका लागि समान हुन्छ। बैङ्कले हरेक समूहको थोरै फरक अंश स्वीकृत गर्न पुग्न सक्छ, जुन बाहिरबाट डेमोग्राफिक असमानता जस्तो देखिनेछ। तर हरेक समूहभित्र, गल्तीहरू समान रूपमा वितरित हुन्छन्।
बैङ्कले समान क्यालिब्रेसन छान्यो भने, यसले स्कोरहरूले समूहहरूभर उही अर्थ दिनेमा प्रतिबद्धता गर्छ — ०.७ भनेको ०.७ हो, आवेदक बझाङबाट होस् वा भक्तपुरबाट। यो तटस्थ लाग्छ, र नियामकको कार्यालयमा बचाउन सबैभन्दा सजिलो परिभाषा हो। तर यसले समूहहरूभर स्वीकृति दर र त्रुटि दरमा महत्त्वपूर्ण भिन्नता अनुमति दिन्छ। यदि डिफल्टका आधार दर फरक छन् भने, उही क्यालिब्रेटेड मोडलले एउटा समूहका धेरै आवेदकलाई अर्कोभन्दा अस्वीकार गर्न पुग्नेछ — र हरेक समूहभित्र, त्रुटि ढाँचाहरू फरकिन सक्छन्।
ट्रेडअफबाट उम्कने चौथो विकल्प छैन। बैङ्कले छान्न सक्ने हरेक मेट्रिकले, गणितीय आवश्यकताअनुसार, कम्तीमा एक समूहलाई कम्तीमा एक परिभाषाद्वारा अर्कोभन्दा खराब व्यवहार गर्नेछ। प्रश्न मोडल कुनै मेट्रिकद्वारा अन्यायपूर्ण हुने हो कि होइन भन्ने होइन; प्रश्न त बैङ्क लिखित रूपमा कुन अन्याय बचाउन तयार छ भन्ने हो।
यो नेपालमा विशेष किन महत्त्वपूर्ण छ
यी मोडलहरू तैनात गर्ने सबैभन्दा सम्भावित नेपाली संस्थाहरू — बैङ्कहरू, टेलिकम, बीमा प्रदायक, सरकारको सामाजिक सुरक्षा रजिस्ट्री, नयाँ निजी स्वास्थ्य बीमा योजनाहरू, स्वतः छनोट लागू गर्ने अनिवार्य विश्वविद्यालयहरू — सँग आफूले कुन न्यायपूर्णता परिभाषामा आफूलाई बाँध्ने भन्ने सार्वजनिक प्रथा अहिलेसम्म छैन। NRB ले बैङ्किङ क्षेत्रका लागि मोडल शासनबारे कुरा गर्न सुरु गरेको छ, तर न्यायपूर्णता मेट्रिकको वास्तविक छनोट नियमनमा छैन। नतिजा यो छ कि हरेक संस्था, आज, यो छनोट निजी रूपमा गरिरहेको छ — सामान्यतया त्यसलाई नाम नदिईकनै, सामान्यतया दुर्घटनावश, सामान्यतया विक्रेताको ड्यासबोर्डले जे रिपोर्ट गर्छ त्यसैमा डिफल्ट गरेर।
विक्रेताको ड्यासबोर्डले, बदलामा, लगभग सधैं क्यालिब्रेसन रिपोर्ट गर्छ। क्यालिब्रेसन गणना गर्न सबैभन्दा सजिलो मेट्रिक हो, देखाउन सबैभन्दा सजिलो, र “तटस्थ” भन्न सबैभन्दा सजिलो किनभने मोडलले सम्भावनाबारे इमानदार भइरहेको देखिन्छ। यसले लुकाउने सबै कुरा हो — स्वीकृति अन्तराल, त्रुटि अन्तराल, मोडलका “इमानदार” सम्भावनाहरूले अझै कर्णाली आवेदकलाई बागमती आवेदकभन्दा फरक सम्झौता उत्पादन गर्ने तरिका।
स्वस्थ प्रथा, जब संस्थालाई अपनाउन मनाउन सकिन्छ, उच्च-दाँव मोडलका लागि तीनैवटा सङ्ख्या प्रकाशित गर्नु हो — समूह अनुसार स्वीकृति दर, समूह अनुसार त्रुटि दर, र समूह अनुसार क्यालिब्रेसन — र लिखित रूपमा, संस्थाले कुनलाई अनुकूलित गरिरहेको छ र किन भनेर नाम दिनु हो। ट्रेडअफलाई नाम दिनु यसलाई समाधान गर्नु जत्तिको होइन। तर यसले राजनीतिलाई देखिने बनाउँछ, जुन एकमात्र अवस्था हो जसमा जनता, नियामक, र प्रभावित समूहहरूले संस्थाले राम्रो छनोट गरेको छ कि छैन भनेर तर्क गर्न सक्छन्।
“मोडल त तटस्थ हो” बारे छोटो टिप्पणी
यो खण्डबाट तपाईंले एउटा कुरा लानुहुन्छ भने, यो लिनुहोस्: कुनै मोडल “केवल तटस्थ” हो वा “केवल डाटा सिकिरहेको” भन्ने जो कोही या त भ्रमित छ या तपाईंलाई केही बेचिरहेको छ। तैनात गरिएको हरेक मोडलले न्यायपूर्णताको छनोट गाडेको हुन्छ, बनाउनेहरूलाई थाहा होस् वा नहोस् कि कुन हो। छनोट थ्रेसहोल्डमा छ। लस फङ्सनमा छ। डाटाले कुन समूहलाई बढी प्रतिनिधित्व गर्छ त्यसमा छ। ड्यासबोर्डले छापेको मेट्रिकमा छ। तटस्थता मुद्रा हो, गुण होइन। यस कामको इमानदार संस्करणले छनोटलाई नाम दिन्छ र बचाउँछ। बेइमान संस्करणले छनोट गर्नै परेन भनेर ढोङ्ग गर्छ।
आफ्नो बुझाइ जाँच्नुहोस्
छोटो जाँच
—एल्गोरिदमिक न्यायपूर्णताबारे निम्न मध्ये कुन कथन सत्य हो?
अब के आउँछ
पूर्वाग्रह र न्यायपूर्णता AI मानिसहरूसँग कसरी भेट्छ भन्नेको एक अनुहार मात्रै हुन्। अर्को अध्यायले अर्को अनुहारतर्फ मोडिन्छ — गोपनीयता, डाटा, र सार्वभौमिकता: कसले कसको बारेमा के सङ्कलन गर्न पाउँछ, त्यो डाटा कहाँ बस्छ, कसको कानुनले शासन गर्छ, र नेपाल जस्तो देशका लागि यसको के अर्थ छ जहाँ नागरिकहरूको डाटा भारी मात्रामा आफूले स्वामित्व नलिएको पूर्वाधारमा भण्डारण, प्रशोधन, र मोडल गरिन्छ।