अध्याय ५ · खण्ड III · 12 मिनेट
कहिले प्रयोग नगर्ने
तपाईंका प्रम्प्ट जति राम्रा भए पनि जेनेरेटिभ एआई गलत उपकरण भएका अवस्थाहरूको छोटो सूची।
यो पाठ्यक्रमको धेरैजसो जेनेरेटिभ एआई कसरी राम्ररी प्रयोग गर्ने बारे थियो। यो खण्ड प्रतिकार हो। यस्ता प्रयोगका श्रेणी छन् जहाँ यी उपकरण गलत उपकरण हुन्, तपाईंले जति सावधानीपूर्वक प्रम्प्ट दिनुस्, र कुनै प्रमाणीकरणले मौलिक रूपमा अनुपयुक्त प्रयोगलाई बचाउन सक्दैन।
यो सूची थाहा पाउनु — “यो उपकरण यसका लागि होइन” भन्न सक्नु — एआई साक्षरताले दिन सक्ने सबैभन्दा मूल्यवान् कुरामध्ये एक हो।
प्रयोग १ — उच्च-दाउका सन्दर्भमा तथ्यको स्रोतका रूपमा
हामीले भ्रम खण्डमा छलफल गर्यौं, तर शीर्ष-स्तरको नियमका रूपमा नाम राख्न लायक छ।
जेनेरेटिभ एआईलाई तथ्यको प्राथमिक स्रोतका रूपमा प्रयोग नगर्नुहोस् जब:
- तथ्य प्रकाशित गरिनेछ वा तपाईंलाई श्रेय दिइनेछ।
- तथ्यले वास्तविक परिणामसहितको निर्णय मार्गदर्शन गर्नेछ (चिकित्सा, कानुनी, वित्तीय)।
- तथ्य विशिष्ट नामिएको व्यक्ति, स्थान, वा घटनासँग सम्बन्धित छ।
तपाईंले पहिले नै प्रमाणित गरेका तथ्यलाई व्यवस्थित गर्न जेनेरेटिभ एआई प्रयोग गर्न सक्नुहुन्छ। तपाईंले ती तथ्यको स्रोत हुन यसमा भर पर्नुहुन्न।
प्रलोभन ठूलो छ किनकि आउटपुट अधिकारिक सुनिन्छ। तपाईंलाई श्रेय दिइएको गलत तथ्यको लागत झन् ठूलो छ।
प्रयोग २ — वास्तविक निर्णय गर्ने चिकित्सा, कानुनी, वा वित्तीय सल्लाहका लागि
सामान्य सिद्धान्त: जेनेरेटिभ एआई सल्लाहजस्तो सुनिने पाठ उत्पादन गर्न तालिम पाएको छ, योग्य सल्लाह हुन होइन। विनियमित क्षेत्रमा परिणामकारी निर्णयका लागि यो ठ्याक्कै गलत आकारको उपकरण हो।
- मोडेलले मधुमेह, अवसाद, वा क्यान्सरबारे सामान्य अवधारणा व्याख्या गर्न सक्छ। यसले तपाईंलाई मूल्याङ्कन गर्ने डाक्टरलाई प्रतिस्थापन गर्न सक्दैन।
- मोडेलले नेपालको सम्झौता कानुन वा सम्पत्ति अधिकारबारे सामान्य अवधारणा व्याख्या गर्न सक्छ। यसले तपाईंको विशिष्ट केस मूल्याङ्कन गर्ने वकिललाई प्रतिस्थापन गर्न सक्दैन।
- मोडेलले लगानी वा बजेटबारे सामान्य अवधारणा व्याख्या गर्न सक्छ। यसले तपाईंको विशिष्ट अवस्था सँग काम गर्ने वित्तीय सल्लाहकारलाई प्रतिस्थापन गर्न सक्दैन।
जानकारी सङ्कलन र अवधारणा सिकाइका लागि जेनेरेटिभ एआई ठीक छ। वास्तविक निर्णयका लागि योग्य मानिस हेर्नुहोस्।
प्रयोग ३ — सङ्कटमा भावनात्मक सहयोगका लागि
ग्रे क्षेत्र, बढ्दो प्रयोगसहित। धेरै मानिसले भावनात्मक कठिनाइ छलफल गर्न ChatGPT वा Claude प्रयोग गर्छन्। यो श्रेणीगत रूपमा खराब छैन — कतिका लागि, यसले सहयोग गर्छ। तर विशिष्ट अवस्था छन् जहाँ यो गलत उपकरण हो:
- आत्महत्या विचार वा तीव्र सङ्कट। वास्तविक मानवतर्फ हात बढाउनुहोस् — साथी, परिवार, सङ्कट हटलाइन (नेपाल: TUTH आत्महत्या रोकथाम हेल्पलाइन ११६६, वा स्थानीय बराबर)। जेनेरेटिभ एआई सङ्कट परामर्शदाताका रूपमा तालिम पाएको छैन, खेल्ने प्रयास गरे पनि।
- गम्भीर मानसिक रोगका लक्षण। पेसेवर आवश्यक छ। मोडेल थेरापिस्ट होइन।
- अर्को व्यक्तिले एआईसँग छलफल गर्न सहमति नदिएको सम्बन्धबारे निर्णय। व्यावहारिक र नैतिक।
दैनिक कुरा बाहिर निकाल्न, डायरी लेख्न, वा सोच्न मोडेलसँगको कुराकानी उपयोगी हुन सक्छ। वास्तविक सङ्कटका लागि मोडेल थप उपकरण हो, मानवीय र पेसेवर हेरचाहको विकल्प होइन।
प्रयोग ४ — इनपुट गोप्य भएको र प्रदायकलाई भर नपरेको बेला
अर्को अध्यायमा हामी विस्तारमा यसलाई व्यवहार गर्छौं, तर सिद्धान्त उल्लेख गर्न लायक छ:
- गोप्य व्यापार जानकारी (ग्राहक डाटा, वित्तीय, व्यापार रहस्यसहितको स्रोत कोड) उपभोक्ता च्याटबटमा नटाँस्नुहोस् यदि तपाईंले यसको डाटा सञ्चालन सर्तहरू पढ्नुभएको छैन र तिनले तपाईंको प्रयोगलाई समर्थन गर्दैनन्।
- अन्यको व्यक्तिगत डाटा (बिरामीका चिकित्सा रेकर्ड, ग्राहकका वित्तीय विवरण) अस्पष्ट डाटा सञ्चालन भएको उपकरणमा नटाँस्नुहोस्।
- सरकार-वर्गीकृत वा सम्झौताले गोप्य गरिएको सामग्री तपाईंले पूर्ण रूपमा नियन्त्रण नगर्ने कुनै कुरामा नटाँस्नुहोस्।
धेरै सङ्गठनसँग विशिष्ट नीति छ। आफ्नो खोज्नुहोस्। तपाईंसँग एउटा छैन भने सावधानीमा डिफल्ट गर्नुहोस् — मान्नुहोस् तपाईंले टाँस्नुभएको कुरा प्रदायकमा लग गरिएको, भण्डारण गरिएको, तालिमका लागि प्रयोग गरिएको, वा मानव समीक्षकले देखेको हुन सक्छ। गोप्य कामका लागि निजी तैनाथी प्रयोग गर्नुहोस्, वा जेनेरेटिभ एआई बिल्कुल प्रयोग नगर्नुहोस्।
प्रयोग ५ — आउटपुट प्रमाणित गर्ने सीप नभएको बेला
सूक्ष्म तर महत्त्वपूर्ण केस। मोडेल त्यतिबेला सबैभन्दा उपयोगी हुन्छ जब तपाईंसँग आउटपुट प्रमाणित गर्न पर्याप्त विशेषज्ञता हुन्छ। कनिष्ठ लेखापालले बैलेन्स सिट मस्यौदा गर्न मोडेल प्रयोग गर्न सक्छन्, किनकि कनिष्ठ लेखापालले बैलेन्स सिट कस्तो देखिनुपर्छ थाहा छ। पूर्ण शुरुवाती गर्न सक्दैनन् — तिनीहरूसँग मोडेलका त्रुटि समात्ने तरिका छैन।
उही ढाँचा डोमेनहरूमा लागू हुन्छ:
- नयाँ प्रोग्रामरले बुझ्नुनसक्ने कोड लेख्न मोडेल प्रयोग गर्दा समात्न नसक्ने बग ल्याउनेछन्।
- कुनै पृष्ठभूमि नभएको विषय व्याख्या गर्न मोडेल प्रयोग गर्ने इतिहास विद्यार्थीले विश्वासी गलत दाबी थाहा नपाई समावेश गर्नेछन्।
- “कूटनीतिक तर दृढ” इमेल लेख्न मोडेल प्रयोग गर्ने नयाँ प्रबन्धकले मोडेलको स्वर तिनको आशयको स्वर होइन भन्ने समात्न सक्नेछैनन्।
समाधान शुरुवाती हुँदा जेनेरेटिभ एआई बच्ने होइन। यसलाई सिकाउने उपकरण को रूपमा प्रयोग गर्ने हो — डोमेन सिक्न, मानव शिक्षक वा पाठलाई आधार सत्यका रूपमा — आउटपुट प्रमाणित गर्न पर्याप्त विशेषज्ञता प्राप्त नगरेसम्म। जेनेरेटिभ एआई तपाईंसँग पहिले नै रहेको सीपको एम्प्लिफायर को रूपमा सबैभन्दा राम्रो काम गर्छ, तपाईंले प्राप्त गर्न नसकेको सीपको विकल्पको रूपमा होइन।
प्रयोग ६ — असफलता मोड असममित भएको बेला
केही कार्यमा, गलत हुने लागत सही हुनेभन्दा अत्यन्तै उच्च हुन्छ। ९५% सटीक मोडेल ग्राहक उजुरीलाई विभागमा छुट्याउनका लागि उत्कृष्ट छ — गलत ५% सजिलै सच्याइन्छ। उही ९५% सटीकता अस्वीकार्य छ, मानौं प्यारोलमा कुन कैदी रिहा गर्ने मूल्याङ्कनका लागि, जहाँ गलत ५% व्यक्तिलाई हानि हुन सक्छ।
असममित कार्यका लागि परीक्षण “मोडेल सामान्यतया सही छ?” होइन तर “गलत हुँदा के हुन्छ, र कसले तिर्छ?” हो।
उपयोगी असममित-असफलता रातो झण्डा:
- गलत आउटपुटले वास्तविक, पहिचान योग्य व्यक्तिलाई हानि गर्न सक्छ।
- गलत आउटपुट अपरिवर्तनीय छ।
- गलत आउटपुटलाई थप मानव समीक्षा बिना कार्यान्वयन गरिनेछ।
तीनै लागू हुँदा जेनेरेटिभ एआई व्यापक गार्डरेलसहित तैनाथ नभए लगभग कहिल्यै सही उपकरण हुँदैन।
तपाईंले आफै लागू गर्न सक्ने परीक्षण
कुनै कार्यका लागि जेनेरेटिभ एआईतर्फ हात बढाउने निर्णय गर्दा सोध्नुहोस्:
- मोडेलले यहाँ वास्तवमा के गर्छ — पाठ/छवि/अडियो उत्पादन, वा सत्य/मूल्य/सहीपनको न्याय? दोस्रो भए, धेरै सावधान हुनुहोस्।
- गलत हुने लागत के हो? स्पष्ट रूपमा नक्सा बनाउनुहोस्।
- के म कार्य गर्नुअघि प्रमाणित गर्नेछु? होइन भने, किन होइन?
- के कुनै योग्य मानिस छ जसको भूमिका यसले प्रतिस्थापन गर्नेछ? हो भने, के त्यो उपयुक्त प्रतिस्थापन हो?
- यदि यो आउटपुट भोलि सार्वजनिक रूपमा पोस्ट गरिन्थ्यो भने, के यो उत्पन्न भएको थियो, लिखित होइन भन्ने मलाई सहज लाग्थ्यो? होइन भने, खुलासा योजना के हो?
यी पाँच प्रश्न पूर्ण फिल्टर होइनन्, तर तपाईंले उपकरण राम्रोसँग प्रयोग गर्दै हुनुहुन्छ वा गलत प्रयोग गर्दै हुनुहुन्छ भन्ने सामान्यतया पर्याप्त बताउन सक्छन्।
आफ्नो बुझाइ जाँच्नुहोस्
छोटो जाँच
—साथीले ChatGPT लाई आफ्नो निरन्तर छाती दुख्ने मुटुको रोग हुन सक्छ कि भनेर सोध्छन्। ChatGPT ले सामान्य कारणहरू ढाक्ने विचारशील, विस्तृत उत्तर दिन्छ। सबैभन्दा सटीक विवरण के हो?
अब के?
हामीले सीमा ढाक्यौं। अध्याय ६ ले समयसँगै जेनेरेटिभ एआई राम्ररी प्रयोग गर्ने सञ्चालन पक्षमा फर्किन्छ — गोपनीयता, आफ्नो प्रयोगबारे इमानदारी, र आफ्नो सीप नगुमाई यी उपकरण आफ्नो काममा एकीकृत गर्ने। हामी पाठ्यक्रम त्यहीँ बन्द गर्छौं।