अध्याय ४ · खण्ड III · 14 मिनेट
रिग्रेसन
संख्या अनुमान — भैंसेपाटीको घरको मूल्य, चितवनको धानको उत्पादन, हिउँदको रातमा बिजुलीको माग।
वर्गीकरणले वर्ग अनुमान गर्छ। रिग्रेसनले अंक अनुमान गर्छ। भैंसेपाटीको यो घर कति मा बिक्ला? यो सिजन चितवनले कति टन धान उत्पादन गर्ला? आज राति ७ बजे काठमाडौंको बिजुली माग कति होला? तीनै रिग्रेसन समस्या हुन्। तीनै उद्योगमा शीर्षक पाउने डीप लर्निङ प्रणालीभन्दा धेरै सामान्य छन्।
सबैभन्दा सरल रूप रैखिक रिग्रेसन हो: डाटामा सीधा रेखा फिट गर्ने। यो उद्योगमा लागू एआईको प्रमुख विधि हो — ट्रान्सफर्मरभन्दा धेरै सामान्य, र वास्तविक तैनाथीमा धेरै बढी देखिन्छ।
उदाहरणको ढाँचा
मान्नुहोस् हामीसँग भैंसेपाटीका २०० पछिल्ला घर बिक्रीको डाटा छ। प्रत्येक घरका लागि हामीलाई थाहा छ:
- वर्ग फिटमा आकार।
- कोठाको सङ्ख्या।
- विद्यालय भएको नजिकको चोकसम्मको दूरी।
- बिक्री मूल्य।
हामी नयाँ घरको आकार, कोठा, र दूरीबाट बिक्री मूल्य अनुमान गर्न चाहन्छौं।
यो सुपरभाइज्ड लर्निङ हो — प्रत्येक तालिम उदाहरणसँग इनपुट (आकार, कोठा, दूरी) र लक्ष्य (मूल्य) छ। यो रिग्रेसन हो किनकि लक्ष्य निरन्तर अंक (मूल्य) हो, वर्ग होइन।
एक अनुच्छेदमा रैखिक रिग्रेसन
रैखिक रिग्रेसनले मान्छ — मूल्य लगभग इनपुट विशेषताको भारित योग र एउटा स्थिर अंकको योग हो:
अनुमानित मूल्य ≈ w₁ × आकार + w₂ × कोठा + w₃ × दूरी + b
w₁, w₂, w₃, b अंकहरू भार (weights) हुन्। एल्गोरिथमको काम तालिम डाटामा अनुमान वास्तविक मूल्यको जति नजिक हुन्छ त्यति राम्रो भारको मान खोज्नु हो।
त्यो नै पूरै मोडेल हो। प्रत्येक विशेषतालाई आफ्नो भारले गुणन गर्नुहोस्, जोड्नुहोस्, स्थिर अंक थप्नुहोस्, र तपाईंलाई अनुमान मिल्यो।
भार कसरी खोजिन्छ
हामी तालिम डाटामा अनुमान वास्तविक मूल्यसँग मिलाउन चाहन्छौं। त्यसैले हामीले मोडेलको त्रुटि लाई सबै तालिम उदाहरणमा अनुमान र वास्तविक मूल्यबीचको फरकको वर्गको योग भनेर परिभाषित गर्छौं:
त्रुटि = Σ (अनुमान_i − वास्तविक_i)²
यो त्रुटि न्यूनतम गर्ने भार “उत्तम फिट” रैखिक भार हुन्। रैखिक रिग्रेसनका लागि एउटा सुन्दर गणित छ — नर्मल समीकरण — जसले एकैचोटि उत्तम भार दिन्छ, पुनरावृत्ति आवश्यक छैन।
व्यवहारमा, धेरै ठूला डाटासेटसँग, हामी ग्रेडियन्ट डिसेन्ट प्रयोग गर्छौं: अनियमित भारबाट सुरु गर्नुहोस्, प्रत्येक भार अलिकति परिवर्तन गर्दा त्रुटि कसरी बदलिन्छ हेर्नुहोस्, र त्रुटि घटाउने दिशामा कदम चाल्नुहोस्। थप घटाउन नसकिने नभएसम्म दोहोर्याउनुहोस्। ग्रेडियन्ट डिसेन्ट तपाईंले सुनेका सबै न्यूरल नेटवर्क तालिम दिने उही एल्गोरिथम हो, धेरै ठूलो स्केलमा मात्र।
उदाहरण
मान्नुहोस् हाम्रा २०० भैंसेपाटीका घरले हामीलाई यी भार दिए:
- w₁ = ४,५०० (प्रति वर्ग फिट)
- w₂ = २,००,००० (प्रति कोठा)
- w₃ = −१,५०,००० (विद्यालय चोकको प्रति किलोमिटर)
- b = ५,००,०००
दूरीमा नकारात्मक भार उपयुक्त छ: विद्यालयबाट टाढा मूल्य घट्छ।
अब नयाँ सूचीकरण आउँछ: १,२०० वर्ग फिट, ३ कोठा, नजिकको विद्यालय चोकबाट ०.८ किमि। अनुमानित मूल्य:
४,५०० × १,२०० + २,००,००० × ३ + (−१,५०,०००) × ०.८ + ५,००,००० = ५४,००,००० + ६,००,००० − १,२०,००० + ५,००,००० = रू. ६३,८०,०००
त्यो पूरै अनुमान हो। विशेषतालाई भारले गुणन। जोड्ने। सकियो।
रैखिक रिग्रेसनले के गर्न सक्दैन
“रैखिक” मान्यता नै सीमा हो। विशेषता र मूल्यबीचको सम्बन्ध एकल-विशेषता प्रभावको योग मानिन्छ। वास्तविक जीवन त्यति दयालु छैन।
- ८०० वर्ग फिटमा दुई कोठा खुम्चिएको छ, तर २,००० वर्ग फिटमा दुई कोठा खुला छ। अतिरिक्त कोठाको मूल्य वर्ग फिटमा निर्भर हुन्छ। रैखिक रिग्रेसनले सहयोग बिना यो प्रतिनिधित्व गर्न सक्दैन।
- व्यस्त मुख्य सडकबाट १०० मि. टाढाको घर ५०० मि. भन्दा बढी मूल्यवान् (सुविधाजनक) हुन सक्छ; तर सडकबाट २ मिटरको घर कम मूल्यवान् छ (आवाज)। सम्बन्ध दूरीमा एकनासको होइन।
- मूल्य छिमेकको सीमामा अचानक बदलिन्छ। अलि बढी प्रतिष्ठित छिमेकभित्रको घर महँगो हुन्छ, कुनै सहज ग्रेडियन्ट बिना।
समाधान छन्। हाते-निर्मित अन्तरक्रिया विशेषता (आकार × कोठा), गैर-रैखिक रूपान्तरण (दूरीको वर्गमूल), वा अझ धनी मोडेल (निर्णय रूख, न्यूरल नेटवर्क) प्रयोग गर्न सकिन्छ। यी सबैले सरलता र व्याख्यायोग्यताको मूल्यमा फिट सुधार्छन्।
ओभरफिटिङ: रिग्रेसनको सार्वभौमिक जाल
पर्याप्त विशेषता थप्नुहोस् भने रैखिक रिग्रेसनले कुनै पनि तालिम डाटा ठ्याक्कै फिट गर्न सक्छ। यो राम्रो सुनिन्छ — पूर्ण अनुमान! — तर मोडेलले अनि तालिम डाटाको आवाज पनि फिट गर्छ, र नदेखेका नयाँ उदाहरणमा भयानक अनुमान गर्छ।
यसलाई ओभरफिटिङ भनिन्छ, र यो रिग्रेसनमा मात्र होइन, मेसिन लर्निङमा जताततै देखिन्छ। मानक रक्षा हो — डाटाको एक अंश छुट्याउने, बाँकीमा तालिम दिने, र छुट्याइएको अंशमा प्रदर्शन जाँच्ने। तालिम डाटामा राम्रो तर छुट्याइएकोमा खराब हुँदा त्यो ओभरफिट हो। मोडेल सरल बनाउनुहोस् — कम विशेषता, साना भार — र फेरि कोसिस गर्नुहोस्।
यसैले “मोडेलले तालिम डाटामा १००% सटीकता पायो” राम्रो संकेत होइन। यसको अर्थ सामान्यतया मोडेलले सिक्नुको साटो सम्झेको छ।
रैखिक रिग्रेसनभन्दा अघि
रैखिक रिग्रेसन बुझेपछि बाँकी सुपरभाइज्ड लर्निङ धेरैजसो उहीे आकारको ठूलो मेसिनरीसहित छ:
- लोजिस्टिक रिग्रेसन ले उही भारित-योग विचार प्रयोग गर्छ तर आउटपुटलाई सम्भाव्यतामा रूपान्तरण गर्छ — यो वर्गीकरणका लागि पुन: प्रयोग गरिएको रिग्रेसन हो।
- निर्णय रूख ले एक पटकमा एक विशेषतामा डाटा विभाजन गर्छ र प्रत्येक पातमा अंक (वा वर्ग) अनुमान गर्छ। यिनले गैर-रैखिकता स्वदेशी रूपमा सञ्चालन गर्छन्।
- न्यूरल नेटवर्क ले बीचमा गैर-रैखिक कार्यसहित धेरै भारित-योग स्ट्याक गर्छ। तालिम अझै “त्रुटि घटाउने भार खोज्नु” हो — धेरै बढी भारमा मात्र।
तीनै अर्को दुई अध्यायमा सिकाइन्छन्। तपाईंलाई आश्चर्यचकित बनाउँदैनन्, किनकि तपाईंले पहिले नै मूल विचार देखिसक्नुभएको छ।
आफ्नो बुझाइ जाँच्नुहोस्
छोटो जाँच
—नगरपालिकाको खानेपानी संस्थाले जनसङ्ख्या, औसत तापक्रम, र नयाँ निर्माण अनुमतिको सङ्ख्याबाट आगामी वर्षको मासिक पानी मागको अनुमान गर्न चाहन्छ। यो कस्तो समस्या हो?
अब के?
हामी यहाँ मेसिन-लर्निङ अध्याय बन्द गर्छौं। अध्याय ५ न्यूरल नेटवर्कमा जान्छ — चाटजीपीटी, छवि उत्पादन, र आधुनिक देवनागरी OCR पछाडिको प्रविधि। मूल विचार अझै “त्रुटि घटाउने भार खोज्नु” नै हो। धेरै भारमा मात्र।