अध्याय १ · खण्ड I · 15 मिनेट
हामीले गरिरहेका निर्णय — र कसले गर्छ
सन् २०२६ मा एआई नैतिकता भनेको कुनै सुदूर भविष्यको सुपर-इन्टेलिजेन्सबारेको बहस होइन; यो आज, अहिले, बैंक, मन्त्रालय, विद्यालय र प्रोडक्ट टिमभित्र चुपचाप गरिएका साना तर नामधारी निर्णयहरूको योगफल हो।
एआई नैतिकताबारे तपाईंले पढ्ने धेरैजसो लेख, कुनै न कुनै रूपमा, एउटा हलिउड फिल्मको कथा हो। त्यसले एउटा भविष्यको अति-शक्तिशाली बौद्धिकता कल्पना गर्छ, जुन प्रयोगशालाबाट भाग्छ, र या त मानवजातिलाई बचाउँछ या त नष्ट गर्छ। नाटकीय छ, सिनेमाजस्तो छ — र नेपालमा यो वर्ष भइरहेका वास्तविक निर्णयहरूका लागि, झण्डै पूर्ण रूपमा अप्रासङ्गिक छ। आगामी एक दशकमा करोडौं नेपालीलाई स्वचालित प्रणालीहरूले कसरी व्यवहार गर्ने भन्ने कुरा निर्धारण गर्ने नैतिक निर्णयहरू अहिले, यसै बेला, नाम, तलब र इमेल ठेगाना भएका मानिसहरूले गरिरहेका छन् — र तीमध्ये कसैले पनि आफ्नो कामलाई “नैतिकता” भन्दैनन्।
जे साँच्चै भइरहेको छ
काठमाडौंको एउटा वाणिज्य बैंकमा एक खरिद अधिकारी (procurement officer) यो त्रैमासमा दुई क्रेडिट-स्कोरिङ विक्रेताबीच तुलना गर्दै छन्। एउटा सस्तो छ, मार्केटिङ चम्किलो छ, र अधिकांश भारतीय उपभोक्ता डेटामा तालिम पाएको हो। अर्को महंगो छ, इन्टिग्रेसन ढिलो हुन्छ, र कम्तीमा “नेपाली ऋण-तिर्ने ढाँचा” हेरेको दाबी गर्छ। खरिद अधिकारीले एउटा स्प्रेडसिट र एउटा स्लाइड डेकको आधारमा छनोट गर्नेछन्। त्यो स्प्रेडसिटमा “नैतिकता” भन्ने स्तम्भ छैन। तर जुन विक्रेताले जित्छ, त्यसैले नै — चुपचाप, ठूलो पैमानामा — कुन नेपाली साना व्यवसायीले ऋण पाउँछ र कुनलाई स्वचालित अस्वीकृति पठाइन्छ, जुन उनीहरूले कहिल्यै चुनौती दिन सक्दैनन्, त्यो निर्णय गर्नेछ।
केही किलोमिटर पर, एक महानगरपालिकाको आईटी प्रबन्धकलाई एक भारतीय विक्रेताले “एआई-संचालित अनुहार पहिचान” गर्ने सीसीटीभी प्रणाली बेच्न खोजिरहेको छ। प्रस्तुति पकेटमार समात्ने र हराएका बच्चा खोज्ने बारे छ। तर कोठामा कसैले पनि सोधेका छैनन् — पूर्वी पहाडका अनुहारहरूमा मोडेलको गलत-सकारात्मक दर (false-positive rate) कति छ, मिलेका अनुहारहरू कहाँ जान्छन्, अनि पाँच वर्षपछि त्यो डेटाबेस कसले निकाल्न सक्छ। प्रबन्धकले हस्ताक्षर गर्छन् वा गर्दैनन्। त्यही हस्ताक्षर नै नैतिकता हो।
ललितपुरको एउटा निजी विद्यालयले कक्षा ६ का विद्यार्थीहरूका लागि एआई ट्युटर — अंग्रेजी भाषाको एउटा ठूलो भाषा मोडेलको पातलो र्यापर — सुरु गर्दैछ। ती विद्यार्थीहरूमध्ये धेरैले घरमा नेपालीमा गणित सिक्छन् र विद्यालयमा अंग्रेजी माध्यममा। विद्यालयको ब्रोशरले यसलाई “विश्वस्तरीय” भन्नेछ। तर कसैले सोधेको छैन — जब बच्चीले आफ्नो अलमल नेपालीमा भन्छिन् र अंग्रेजीमा आत्मविश्वासका साथ गलत उत्तर पाउँछिन्, के हुन्छ? तैनात गर्ने त्यो निर्णय नै नैतिकता हो।
“एजीआई” किन सजिलो ध्यान-विभाजक हो
एआई नैतिकताको एउटा विशेष ढाँचा छ — विदेशी प्रयोगशाला सीईओ, पडकास्ट होस्ट र निश्चित प्रकारका थिंक-ट्याङ्कहरूमा लोकप्रिय — जसले यो क्षेत्रलाई मुख्यतः अस्तित्वगत जोखिम बारेको ठान्छ: केही वर्षपछि पर्याप्त शक्तिशाली एआईले सभ्यता-अन्त हुने तरिकाले बिग्रिने सम्भावना। यो ढाँचा मूर्ख होइन। यसमा विश्वास गर्ने गम्भीर मानिसहरू छन्, र तिनका केही तर्क ध्यान दिनयोग्य छन्।
तर ध्यान दिनुहोस्, नेपालजस्तो देशमा यो ढाँचाले के गर्छ। यसले बहसलाई बैंकको ऋण मोडेलबाट — जुन वास्तविक छ, तैनात छ, र यो हप्ता मानिसहरूलाई अस्वीकार गर्दैछ — एउटा परिकल्पित भविष्यको प्रणालीतर्फ धकेल्छ जुन अहिले अस्तित्वमै छैन। यसले अधिकारलाई वास्तवमा हस्तक्षेप गर्न सक्ने मानिसहरूबाट (नियामक, खरिद अधिकारी, नागरिक समाज) भविष्यको विशेष ज्ञान दाबी गर्नेहरूतर्फ (विदेशी प्रयोगशाला, विदेशी थिंक-ट्याङ्क, विदेशी सल्लाहकार) सार्छ। अनि वर्तमानका हानिहरूलाई सानो, सम्हाल्न सकिने, “वास्तविक” नैतिकता कामभन्दा तल्लो ठान्छ।
यो दीर्घकालीन जोखिम महत्त्वपूर्ण छैन भन्ने तर्क होइन। यो तर्क हो कि यो पढ्ने झण्डै सबैका लागि, दीर्घकालीन ढाँचा उनीहरूको प्रभाव-क्षेत्र होइन। बिर्गन्जको एक शिक्षिकाले फ्रन्टियर मोडेल अलाइन गर्न सक्दिनन्। तर उनी नै एकमात्र वयस्क हुन सक्छिन् जसले याद गर्छिन् — विद्यार्थीहरूको एआई ट्युटरले उनीहरूको मैथिली-प्रभावित अंग्रेजी प्रश्नहरूलाई व्यवस्थित रूपमा गलत बुझ्दैछ। त्यो याद गर्नु नै नैतिकता हो। त्यसपछि उनले के गर्छिन्, र कसैले सुन्छ कि सुन्दैन — त्यो पनि।
वास्तवमा कसले निर्णय गर्छ
नेपालमा एआई नैतिक निर्णय व्यवहारमा कसले गर्छ भन्ने बारे ठोस हुनु उपयोगी छ। सूची सेमिनारले सुझाएजस्तो छैन।
१. खरिद अधिकारीहरू — बैंक, अस्पताल, मन्त्रालय र ठूला गैरसरकारी संस्थाहरूमा। यिनै मानिसहरू विक्रेताहरूबीच छनोट गर्छन्। उनीहरूको छनोटले कुन मोडेलले कुन नेपालीलाई छुन्छ भन्ने निर्धारण गर्छ। धेरैजसोसँग औपचारिक एआई तालिम छैन र चम्किला विदेशी बिक्री टिमलाई गाह्रो प्रश्न सोध्ने प्रायः कुनै शक्ति छैन।
२. इन्जिनियर र प्रोडक्ट म्यानेजरहरू — नेपाली प्रोडक्ट कम्पनीहरूमा (खल्ती, ईसेवा, पठाओ, फूडमान्डु, दराज नेपाल) र दर्जनौं साना फिनटेक र लजिस्टिक्स फर्महरूमा। उनीहरूले के लग गर्ने, के मोडेल बनाउने, के A/B टेस्ट गर्ने, के पठाउने निर्णय गर्छन्। एउटा स्ल्याक-म्यासेजको निर्णय — फ्रड-डिटेक्सन थ्रेसहोल्ड ०.८ को साटो ०.७ राख्ने — एक वर्षमा हजारौं वैध कारोबार अस्वीकार गर्नेछ।
३. NRB, NTA, NITC र विभिन्न मन्त्रालयका नियामकहरू। उनीहरूले विक्रेताले पालना गर्नैपर्ने नियम लेख्छन्। जब कुनै निर्देशिकाले “उद्योगका उत्तम अभ्यास प्रयोग गर्नुहोस्” मात्र भन्छ, त्यो एउटा नैतिक निर्णय हो — नैतिकताको जिम्मा विक्रेताको वकिलले “उद्योग” भन्ने जे हो भन्छ त्यसैलाई बाहिर पठाइदिएको हो।
४. प्रयोगकर्ताहरू, चुपचाप। हरेक पटक एक नेपालीले अंग्रेजीमा लेखिएको र नपढिएको सेवा-सर्तमा “accept” थिच्छ, हरेक पटक एक साना व्यवसायीले भुक्तानी एपलाई आफ्ना सम्पर्क पहुँच दिन्छ, हरेक पटक एक अभिभावकले बच्चाको डेटा के गर्छ नहेरी “एआई होमवर्क हेल्पर” इन्स्टल गर्छ — त्यो पनि निर्णय हो। निर्णयजस्तो लाग्दैन। तर हो।
५. “एआई नैतिकविद्” भनिने झण्डै कोही पनि होइनन्। नेपालमा त्यो जागिर मुस्किलले अस्तित्वमा छ। त्यो उपाधि भएका थोरै मानिसहरू सामान्यतया प्रोफेसर वा सल्लाहकार हुन्, जसले लेख्ने कागजहरू पहिलो अनुच्छेदको खरिद अधिकारीले कहिल्यै पढ्दैनन्। यो प्रोफेसरहरूविरुद्धको गुनासो होइन। यो वास्तविक निर्णयहरू कहाँ बस्छन् भन्ने वर्णन हो।
यसले बाँकी कोर्सका लागि के अर्थ राख्छ
यदि तपाईंले माथिको तर्क स्वीकार गर्नुभयो — कि वास्तविक नैतिक काम वर्तमानमा छ, छरिएको छ, र कार्यालयी छ — भने बाँकी कोर्सको एउटा निश्चित आकार छ। यसले सुपर-इन्टेलिजेन्समा धेरै समय बिताउने छैन। यसले एक खरिद अधिकारी, एक नियामक, एक शिक्षक, एक पत्रकार, एक सफ्टवेयर इन्जिनियर, वा एक सूचित नागरिकले वास्तवमा हस्तक्षेप गर्न सक्ने प्रकारका निर्णयहरूमा धेरै समय बिताउनेछ। यसले मान्नेछ कि “नैतिकता” मुख्यतः त्यो हो जुन प्रणालीमा त्यो क्षणमा निर्माण हुन्छ जब कसैले सम्झौतामा हस्ताक्षर गर्छ, विक्रेता छान्छ, थ्रेसहोल्ड सेट गर्छ, वा “जस्तै पनि सबैले अंग्रेजी बुझ्छन्” भनेर इन्टरफेस नेपालीमा अनुवाद नगर्ने निर्णय गर्छ।
यो सकिएपछि तपाईं नैतिकविद् बन्नुहुने छैन। तर आशा छ, तपाईं ठग्न गाह्रो हुनुहुनेछ — र खरिद बैठकमा त्यो एक वा दुई प्रश्न सोध्न सक्षम हुनुहुनेछ जसले कुन मोडेल तैनात हुन्छ र कुन नेपालीलाई छुन्छ बदल्छ। सन् २०२६ मा यो देशमा नैतिकताको काम धेरैजसो यस्तै देखिन्छ।
आफ्नो बुझाइ जाँच्नुहोस्
छोटो जाँच
—व्यवहारमा, अहिले नेपालमा एआई नैतिकताका सबैभन्दा महत्त्वपूर्ण निर्णयहरू कसले गरिरहेका छन्?
छोटो जाँच
—एआई नैतिकतालाई मुख्यतया भविष्यको सुपर-इन्टेलिजेन्स वा एजीआईको प्रश्नका रूपमा प्रस्तुत गर्नुको प्रमुख समस्या के हो?
अब के आउँछ
यदि नैतिकता मुख्यतः वर्तमानका निर्णयहरूबारे हो भने, अर्को प्रश्न यो हो: हामी ती निर्णयहरू कसरी मूल्याङ्कन गर्छौं? अर्को खण्डले यो कोर्सले बारम्बार फर्केर हेर्ने तीन दृष्टिकोण — न्याय (fairness), स्वायत्तता (autonomy), र जवाफदेहिता (accountability) — परिचय गराउँछ, र तिनलाई एउटा ठोस उदाहरणमा लागू गर्छ: एक नेपाली बैंकको फ्रड-डिटेक्सन मोडेल जसले कहिलेकाहीं गलत खाताहरू फ्रिज गर्छ।