अध्याय १ · खण्ड II · 16 मिनेट
तीन दृष्टिकोण — न्याय, स्वायत्तता, जवाफदेहिता
सटीकता (accuracy) ले महत्त्वपूर्ण धेरै प्रश्नहरूमा मौन रहन्छ; यो कोर्स बारम्बार तीन निश्चित दृष्टिकोणहरूमा फर्किन्छ जसले ती मौन प्रश्नहरूलाई सतहमा ल्याउन बाध्य पार्छन्।
नयाँ एआई प्रणालीहरू कसरी सुरु गरिन्छन् भन्ने एउटा भरपर्दो ढाँचा छ। एउटा विक्रेता वा भित्री टिमले केही बनाउँछन्। उनीहरूले होल्डआउट सेटमा मूल्याङ्कन गर्छन्। एउटा सङ्ख्या रिपोर्ट गर्छन् — सामान्यतया सटीकता (accuracy), कहिलेकाहीं प्रिसिजन र रिकल, कहिलेकाहीं अझ प्रभावशाली देखिने F1 वा AUC। सङ्ख्या राम्रो छ। कोठाका सबैले टाउको हल्लाउँछन्। मोडेल तैनात हुन्छ। अनि छ महिनापछि, गुनासाहरू देशका ती भागहरूबाट आउन थाल्छन् जसलाई सटीकताको सङ्ख्याले सधैं छुटाउँथ्यो। सङ्ख्या कहिल्यै गलत थिएन। यो केवल महत्त्वपूर्ण प्रश्नहरूमा मौन थियो।
यो कोर्स बारम्बार तीन दृष्टिकोणहरूमा फर्किन्छ जसले ती मौन प्रश्नहरूलाई देखाउँछन्: न्याय (fairness), स्वायत्तता (autonomy), र जवाफदेहिता (accountability)। कुनै पनि विदेशी छैन। कुनैलाई पनि उच्चस्तरीय गणित चाहिँदैन। हरेकलाई इमानदारीपूर्वक लागू गर्दा, कोठाका सबैले पहिले नै सहमत भइसकेको कम्तीमा एउटा निर्णय लज्जित पार्ने प्रवृत्ति राख्छ।
दृष्टिकोण १: न्याय — कसले जित्छ, कसले हार्छ
एउटा मोडेलले विजेता र पराजितहरू उत्पादन गर्छ। मोडेलले गर्ने काम नै यही हो। न्यायको प्रश्न “के मोडेलमा पूर्वाग्रह छ?” होइन — जुन अमूर्त रूपमा अनुत्तरित छ — तर धेरै उपयोगी “जब यो प्रणाली ठूलो पैमानामा चल्छ, कसले व्यवस्थित रूपमा राम्रो परिणाम पाउँछ र कसले व्यवस्थित रूपमा खराब, र के त्यो वितरण रक्षणीय छ?” हो।
यो खण्डभर हामीले प्रयोग गर्ने एउटा ठोस उदाहरण लिनुहोस्: नेपालको एउटा मध्यम आकारको वाणिज्य बैंकमा फ्रड-डिटेक्सन मोडेल। मोडेलले हरेक कारोबारलाई वास्तविक समयमा स्कोर गर्छ र, थ्रेसहोल्डभन्दा माथि भएमा, खाता म्यानुअल समीक्षाका लागि फ्रिज गर्छ। बैंकको डेटा-साइन्स टिमले होल्डआउट सेटमा ९५% सटीकता र फ्रिज निर्णयहरूमा ९७% प्रिसिजन रिपोर्ट गर्छ। उच्च व्यवस्थापन प्रसन्न छ।
अब न्यायको प्रश्न सोध्नुहोस्। मोडेललाई तीन वर्षको ऐतिहासिक कारोबार डेटामा तालिम दिइएको थियो। त्यो डेटा, अनुमानयोग्य रूपमा, काठमाडौं उपत्यकाका खाताधनीहरूतर्फ धेरै झुकेको छ — उनीहरू बैंकका अधिकांश ग्राहक हुन्, सबैभन्दा बढी कारोबार गर्छन्, अधिकांश लेबल उत्पादन गर्छन्। मोडेलले धेरै काठमाडौं खर्च ढाँचा देखेको छ र त्यो जनसङ्ख्याका लागि “सामान्य” के हो भनी सिकेको छ। यसले कर्णालीका साना व्यवसायी खाताहरू तुलनात्मक रूपमा थोरै देखेको छ — फसल बेला अनियमित नगद जम्मा, चाडबाडमा ठूला मोबाइल-मनी ट्रान्सफर, सुस्तीका अवधि अनि अचानक गतिविधि — र तिनको सामान्यतालाई असामान्य ठान्छ।
जब तपाईंले वास्तवमा सङ्ख्या भाँच्नुहुन्छ, परिणाम: कर्णाली ठेगानामा दर्ता खाताहरूमा फ्रिज दर काठमाडौं ठेगानामा दर्ता खाताहरूमा भन्दा झण्डै दोब्बर छ। हेडलाइन सटीकताको सङ्ख्याले यो देखाउँदैन, किनभने कर्णाली खाताहरू डेटासेटको सानो अंश हुन्; तिनका निर्णयहरू व्यवस्थित रूपमा गलत हुँदा पनि औसत मुस्किलले हल्लिन्छ। मोडेल, आफ्नै मूल्याङ्कनद्वारा, डिजाइन गरिएझैं काम गरिरहेको छ। यो, कुनै इमानदार पठनद्वारा, देशको एक भागलाई अर्कोको तुलनामा खराब व्यवहार पनि गर्दैछ।
न्यायको दृष्टिकोणले आफैले के गर्ने भन्ने बताउँदैन। सायद बैंकले निर्णय गर्छ कि कर्णाली फ्रिज दर फ्रड बचतको स्वीकार्य लागत हो। सायद यसले कर्णाली-दर्ता खाताहरूका लागि थ्रेसहोल्ड घटाउने निर्णय गर्छ। सायद यसले तैनात गर्नुअघि कर्णालीबाट थप तालिम डेटा सङ्कलन गर्ने निर्णय गर्छ। यी फरक तौलयुक्त फरक निर्णयहरू हुन्। दृष्टिकोणको उद्देश्य भनेको प्रश्न मोडेल सुरु हुनुअघि — पत्रकारले छ महिनापछि असमानता प्रकाशित गर्ने बेला होइन — रेकर्डमा सोधिनु हो।
दृष्टिकोण २: स्वायत्तता — कसको कार्यक्षमता
स्वायत्तताको दृष्टिकोणले फरक प्रश्न सोध्छ: जब यो प्रणाली चल्छ, कसको कार्य गर्ने, निर्णय गर्ने, वा चुनौती दिने क्षमता संरक्षित हुन्छ, र कसको खिइन्छ?
फ्रड मोडेलमै फर्किनुहोस्। काठमाडौंको एक खाताधनी जसको खाता फ्रिज भएको छ, बैंकको ग्राहक सेवामा फोन गर्छिन्, प्रायः कसैलाई चिन्ने कोही चिन्छिन्, माथि बढाइन्छिन्, र सामान्यतया एक-दुई दिनमा अनफ्रिज हुन्छिन्। उनको स्वायत्तता सामान्य रूपमा असुविधाग्रस्त हुन्छ। कर्णालीकी साना व्यवसायी जसको खाता फ्रिज भएको छ, उही नम्बरमा फोन गर्छिन्, होल्डमा पर्खिन्छिन्, “सिस्टम-जेनेरेटेड” फ्रिज भएको र समीक्षाका लागि पर्खनुपर्ने भनिन्छ, यथोचित दूरीमा शाखा छैन, त्यो हप्ता आपूर्तिकर्तालाई भुक्तानी गर्न सक्दिनन्, र या त सम्झौता गुमाउँछिन् या त साहूबाट ऋण लिन्छिन् जुन सर्तमा बैंकको आधिकारिक ऋण कहिल्यै दिने थिएन। मोडेलकै कार्यले स्वायत्तताका लागि एकदम फरक परिणाम उत्पादन गरेको छ।
स्वायत्तताका प्रश्नहरू सूक्ष्म तरिकामा पनि देखापर्छन्। एक एआई ट्युटरले बच्चीको नेपालीमा व्यक्त गरिएको प्रश्नलाई अंग्रेजी उत्तरले आत्मविश्वासका साथ सच्याउँदा यो केवल अन्यायपूर्ण मात्र होइन — यो बच्चीलाई सिकाउँदै पनि छ कि उनको भाषा सोच्न गलत भाषा हो। एक सरकारी च्याटबटले कुनै निश्चित नागरिकता-सम्बन्धी प्रक्रियाबारे प्रश्नहरू ह्यान्डल गर्न इन्कार गर्दा यो केवल मद्दत नगरेको मात्र होइन — यसले नागरिकको एकमात्र बाँकी विकल्प जिल्ला कार्यालयको भौतिक यात्रा बनाइदिएको छ। मोडेलको डिजाइनले उनले गर्न सक्ने कुराहरूको ठाउँ साँघुरो बनाएको छ।
दृष्टिकोण ३: जवाफदेहिता — कसले उत्तर दिन्छ
जवाफदेहिताको दृष्टिकोण तीनमध्ये सबैभन्दा स्पष्ट छ, र सबैभन्दा भरपर्दो रूपमा छल गरिने पनि। यसले सोध्छ: जब यो प्रणाली असफल हुन्छ — र हुनेछ — कसले जिम्मेवारी लिन्छ, यसरी कि हानि पुगेको व्यक्तिले वास्तवमा पहुँच गर्न सक्छन्?
हाम्रो फ्रड-डिटेक्सन मोडेल कर्णाली खातामा असफल हुन्छ। खाताधनीले कसलाई जिम्मेवार ठान्ने? शाखा प्रबन्धकले फ्रिज सिस्टम-जेनेरेटेड भएको भन्नेछन्। बैंकको आईटी विभागले मोडेल विक्रेताले दिएको भन्नेछ। विक्रेताको सम्झौताले उनीहरूको दायित्व लाइसेन्स शुल्कको फिर्तीमा सीमित गर्नेछ। नियामक, सोधिएमा, बैंक आफ्नो तैनाती निर्णयका लागि जिम्मेवार छ भन्नेछ। खाताधनी, व्यवहारमा, कसैसँग पनि जवाफदेहिता राख्न सक्दिनन्। उनलाई हानि पुर्याउने निर्णयको कुनै लेखक छैन।
यो एउटा बैंकको विशेषता होइन। यो आधुनिक एआई तैनातीहरूमा जवाफदेहिताको सामान्य ढाँचा हो। मोडेल एक टिमले बनाउँछ, अर्कोले फाइन-ट्युन गर्छ, तेस्रोले तैनात गर्छ, चौथोले अडिट गर्छ (जब अडिट हुन्छ), र शृङ्खलाको हरेक कडीसँग असफलता अघिल्लो कडीको जिम्मेवारी थियो भन्ने विश्वसनीय कारण छ। छरिएको जिम्मेवारी समस्या संस्थाहरूले एआई कसरी प्रयोग गर्छन् भन्ने त्रुटि होइन; यो संस्थाहरूले एआई प्रयोग गर्न मन पराउने मुख्य कारणमध्ये एक हो।
एक कार्यशील जवाफदेहिता दृष्टिकोणले तैनातीभन्दा अघि, लिखित रूपमा, तीन ठोस प्रश्न सोध्न बाध्य पार्छ:
१. जब यो प्रणालीले कसैलाई भौतिक रूपमा असर पार्ने निर्णय गर्छ, त्यो व्यक्तिले चुनौती दिन के गर्नुपर्छ, र त्यसमा कति समय लाग्छ?
२. जब प्रणाली हानि पुर्याउने तरिकाले गलत हुन्छ, संस्थाभित्रको कुन विशेष भूमिकाले असफलताको स्वामित्व लिन्छ — “टिम” होइन, “सिस्टम” होइन, तैनाती परिवर्तन गर्ने अधिकार भएको नामधारी भूमिका?
३. जब नियामक, प्रेस, वा अदालतले निर्णयको आधार माग्छन्, के कसैले साँच्चै उत्पादन गर्न सक्छ — इनपुट, मोडेल संस्करण, थ्रेसहोल्ड, लग — वा उत्तर प्रभावकारी रूपमा “एआईले गर्यो” हो?
यदि सुरु गर्नुअघि ती मध्ये कुनै प्रश्नको स्पष्ट उत्तर छैन भने, प्रणाली जवाफदेहिताविना तैनात भइरहेको छ। त्यो आफैमा एक नैतिक निर्णय हो, र इमानदार हुन योग्य।
तीन किन, र यिनै तीन किन
तपाईंले अरू दृष्टिकोण छनोट गर्न सक्नुहुन्थ्यो — सात, बाह्र, बीसजना सिद्धान्त भएका सम्पूर्ण ढाँचाहरू छन्। यो कोर्सले यिनै तीनमा बस्ने कारण यो हो कि, सँगै, तिनले नेपाली तैनातीहरूमा वास्तवमा छुट्ने प्रश्नहरू समेट्छन्। न्यायले हेडलाइन मेट्रिकले औसत निकालेको जनसङ्ख्या समात्छ। स्वायत्तताले गलत हुनुसँग नभई मानिसहरूले गर्न सक्ने काम साँघुरो पार्नुसँग सम्बन्धित हानिहरू समात्छ। जवाफदेहिताले छरिएको-जिम्मेवारीको चलाखी समात्छ जसले असफल तैनातीलाई कुनै लेखक नहुने बनाउँछ।
हरेक पछिल्लो अध्यायमा — पूर्वाग्रह र न्याय, स्वचालन र काम, गोपनीयता, सार्वजनिक क्षेत्रमा एआई — हामी यिनै तीनमा फर्किनेछौं र, क्रमशः, टेबलमा रहेको जुनसुकै प्रणालीलाई सोध्नेछौं। अनुशासन यो होइन कि तपाईंले सधैं सन्तोषजनक उत्तर पाउनुहुनेछ। यो हो कि तपाईंलाई कुन प्रश्नहरू बेवास्ता गर्ने निर्णय गर्नुभयो भनी थाहा हुनेछ।
आफ्नो बुझाइ जाँच्नुहोस्
छोटो जाँच
—यो परिदृश्यमा कुन दृष्टिकोण सबैभन्दा उपयुक्त छ: बैंकको फ्रड मोडेललाई कुल ९५% सटीक रिपोर्ट गरिएको छ, तर यसले कर्णाली-दर्ता साना व्यवसायी खाताहरूलाई काठमाडौं-दर्ता खाताहरूको तुलनामा झण्डै दोब्बर दरमा फ्रिज गर्छ?
छोटो जाँच
—एक टिमले रिपोर्ट गर्छ कि उनीहरूको हालै तैनात गरिएको मोडेल ९५% सटीक र ९७% प्रिसिज छ। यो कोर्सको ढाँचामा, त्यो रिपोर्टबाट सबैभन्दा सही रूपमा के छुटेको छ?
अब के आउँछ
तीन दृष्टिकोण तब तीखो हुन्छन् जब तपाईंले तिनलाई वास्तवमा कार्यान्वयन हुने नियमहरूमा पोइन्ट गर्न सक्नुहुन्छ। अर्को खण्डले नेपालको नीति घडी तर्फ फर्किन्छ — सन् २०२६ मा देशको एआई-सान्दर्भिक नियमहरू कहाँ छन्, कुन निकायहरूले लेखिरहेका छन्, र प्राविधिक धारणा भएको एक सामान्य नेपाली पेशेवरले वास्तवमा कहाँ धकेल्न सक्छ।