ailiteracynepal 🇳🇵
पाठ आकार

अध्याय ६ · खण्ड III · 18 मिनेट

Practitioner को playbook

Course 05 बाट सबै कुरा एक कागजातमा। तपाईंले आफ्नो अर्को परियोजनामा carry गर्न सक्ने checklist — तपाईंको पहिलो commit देखि तपाईंको पहिलो हजार प्रयोगकर्ताहरू सम्म — तपाईंसँग लिन लायकको specific निर्णयहरू, thresholds, र बानीहरूको साथ।

तपाईंले पाँच courses सिध्याउनुभयो। तपाईंलाई थाहा छ AI के हो, मोडेलहरूले कसरी सिक्दछन्, data कसरी बनाइन्छ, language models कसरी उत्पादहरूमा wrap गरिन्छन्, र ती उत्पादहरू कसरी ship हुन्छन् र स्वस्थ रहन्छन्। यो अन्तिम खण्ड एक compact playbook हो — Course 05 बाट specific checklists, thresholds, र बानीहरू form मा जुन तपाईंले आफ्नो desk मा राख्न सक्नुहुन्छ। सारांश होइन, reference। कागजात जुन तपाईंको भविष्यको आफूलाई समय बचाउँछ।

दिन-एक checklist

कुनै पनि Nepal-facing AI उत्पादलाई real प्रयोगकर्ताहरूमा ship गर्नुभन्दा अघि:

उत्पाद र scope

  • Named प्रयोगकर्ता (specific व्यक्ति / role) र specific निर्णय जुन उत्पादले मद्दत गर्दछ।
  • System prompt मा named scope (“म X गर्छु। म Y गर्दिन।”)।
  • हरेक scope-बाहिर श्रेणीको लागि Refusal responses drafted।

Infrastructure

  • Versioned API मा Wrapped (FastAPI वा समान)।
  • Singapore/Mumbai region सँग managed platform मा Deployed।
  • HTTPS सँग Custom domain (.com.np preferred)।
  • Platform मार्फत Environment secrets stored (कहिल्यै कोडमा होइन)।
  • Health-check endpoint (/health) 200 फर्काउँदै।

Cost र limits

  • Provider-level मासिक बजेट cap set (Anthropic Console / OpenAI Dashboard)।
  • प्रति-प्रयोगकर्ता दैनिक quota (calls + tokens)।
  • Input length र max_tokens मा प्रति-request cap।
  • प्रति प्रयोगकर्ता वा IP Rate limit (10 req/min baseline)।
  • Cost dashboard ले प्रति घण्टा, प्रति दिन, प्रति महिना Rs देखाउँछ।

Reliability

  • हरेक मोडेल call मा Timeouts (30 s)।
  • Exponential backoff र jitter सँग Retries (429, 500-504 को लागि)।
  • Fallback path (सस्तो मोडेल, वा explicit “हामी down छौं” सन्देश)।
  • Graceful, honest user-facing error सन्देशहरू।

Logging र observability

  • हरेक request मा Structured JSON logs (request_id, user_id, latency, cost, model, prompt version)।
  • Plain logs मा कुनै PII नहोस् (hash वा mask)।
  • Retention policy documented (ops को लागि 30-90 दिन; audit को लागि लामो)।
  • Latency p50/p95, error rate, cost rate, refusal rate सँग Dashboard।
  • Actionable alerts (5xx > 1%, cost > 3× baseline, latency p95 > 10 s)।

Evaluation र feedback

  • Fixed eval set (50-200 items), Nepali + English + edge cases कभर गर्दै।
  • Daily automated eval run; results टिमलाई posted।
  • हरेक AI जवाफमा Thumbs up/down।
  • Thumbs-down feedback को साप्ताहिक review (30-मिनेट बानी)।
  • Failure categories को backlog, frequency × impact अनुसार sorted।

Versioning र rollouts

  • Pinned model version (claude-3-5-sonnet-20241022, -latest होइन)।
  • Code मा system prompt versioned (v1.0, v1.1, …)।
  • Index version प्रति RAG deploy tracked।
  • Change log maintained (हरेक deploy: के परिवर्तन भयो, कुन axis मा)।
  • हरेक production deploy भन्दा अघि Staging environment प्रयोग गरिन्छ।
  • कुनै पनि गैर-तुच्छ परिवर्तनको लागि Canary rollout (5% → 25% → 100%)।
  • हरेक परिवर्तनको लागि Documented rollback plan।

Trust, privacy, र compliance

  • UI मा उत्पादलाई AI-generated को रूपमा Labelled।
  • Plain-language privacy policy (नेपाली + अंग्रेजी)।
  • Data collection को लागि Consent flow।
  • Named मानव contact (“nishan@example.np मा मलाई email गर्नुहोस्”)।
  • Breach response policy documented।
  • Regulated-sector विचारहरू reviewed (banking, health, legal)।

अठाइस बक्स। हरेक एक सानो निर्णय हो। सँगै, तिनीहरू एक demo र एक launched उत्पाद बीचको फरक हुन्।

Four-metric dashboard

तपाईंले दिनभर खुला राख्ने screen:

┌────────────────────────────────────────────┐
│ Latency:       p50 = ___ ms, p95 = ___ ms  │
│ Error rate:    ___% (past hour)            │
│ Cost:          Rs ___ / hour, Rs ___ / day │
│ Thumbs-down:   ___% (past 24h)             │
└────────────────────────────────────────────┘

चार संख्याहरू। टिममा कोहीले पनि तिनीहरूलाई 30 सेकेन्ड मा पढ्न सक्दछ। जब एउटा shifts हुन्छ, जाँच गर्नुहोस्।

साप्ताहिक rhythm

एकपटक तपाईं ship गर्दै हुनुहुन्छ, operational rhythm ले उत्पाद सुधार गर्न राख्दछ:

  • Daily: dashboard मा 5 मिनेट। कुनै spikes?
  • Weekly: thumbs-down feedback पढ्दा 30 मिनेट। Failures categorise गर्नुहोस्।
  • Weekly: Automated eval run posted। कुनै drift?
  • हरेक deploy: Change log entry। Staged rollout। Metrics हेरिएको।
  • Monthly: Provider changelogs मा 15 मिनेट। कुनै आउँदो drift?
  • Monthly: Backlog मा 30 मिनेट। अर्को ship गर्ने कुन सुधारहरू?
  • Quarterly: Checklist review गर्नुहोस्। कुनै decayed?

राम्रो-run सानो AI उत्पादको लागि, मोटामोटी हप्तामा दुई घण्टा। यसलाई skip गर्नुले समय बचाउँदैन; यसले planned बाट reactive मा समय सर्दछ।

पाँच सबैभन्दा सामान्य failure modes

Protect गर्नको लागि Real failure patterns:

  1. Viral wallet fire। उत्पाद viral जान्दछ; costs balloon। → Budget caps + quotas + rate limits (Chapter 2)।
  2. Silent quality drift। Model provider updates; व्यवहार परिवर्तन। → Pinned models + continuous eval (Chapters 4-5)।
  3. Retrieval regression। कसैले नयाँ chunker सँग RAG corpus reindex गर्दछ; retrieval सूक्ष्म रूपमा टुट्छ। → Index versioning + A/B tests (Chapter 5)।
  4. User-trust break। प्रयोगकर्ताहरूले उत्पादले केही लुकाएको (data प्रयोग, AI पहिचान, silent failures) खोज्दछन्। → Trust practices (खण्ड 6.1)।
  5. Regulated-sector surprise। उत्पाद sensitive area मा operate गर्दछ; specific नियम छुटाइयो। → Sector-specific compliance (खण्ड 6.2)।

यीमध्ये हरेकले real projects अन्त्य गरेको छ। हरेकको माथिको checklist मा specific defence छ। तिनीहरू बिना deploy नगर्नुहोस्।

One-page reference

Course 05 को compressed संस्करण, save गर्न पर्याप्त सानो:

╔════════════════════════════════════════════════════╗
║ SHIPPING AI SYSTEMS — 1-PAGE REFERENCE             ║
║                                                    ║
║ SCOPE                                              ║
║   Narrow. Specific user, specific decision.        ║
║   Refusals drafted for out-of-scope categories.    ║
║                                                    ║
║ INFRASTRUCTURE                                     ║
║   FastAPI + managed platform.                      ║
║   Singapore/Mumbai region. Custom .com.np.         ║
║   Health endpoint. Secrets in platform.            ║
║                                                    ║
║ COST                                               ║
║   Provider cap (monthly).                          ║
║   Per-user quota (daily calls + tokens).           ║
║   Per-request cap (input length + max_tokens).     ║
║   Rate limit (10/min user).                        ║
║   Cache repeated answers and static context.       ║
║                                                    ║
║ RELIABILITY                                        ║
║   Timeout 30 s. Retry 429/5xx with backoff.        ║
║   Fallback model. Honest user error messages.      ║
║                                                    ║
║ OBSERVABILITY                                      ║
║   Structured logs. No PII plain.                   ║
║   Dashboard: latency p95, errors, cost, thumbs.    ║
║   Alerts: 5xx>1%, cost>3x, thumbs-down spike.      ║
║                                                    ║
║ EVAL                                               ║
║   Fixed 50-200 item set. Daily auto-run.           ║
║   Nepali + English + edge + adversarial.           ║
║   LLM-as-judge with cross-provider grader.         ║
║                                                    ║
║ VERSIONING                                         ║
║   Pin model version. Version prompt in code.       ║
║   Version index. Change log per deploy.            ║
║   Staging first. Canary rollout. Fast rollback.    ║
║                                                    ║
║ TRUST                                              ║
║   Label as AI. Cite sources. Named human.          ║
║   Plain privacy policy, Nepali + English.          ║
║   Breach policy documented.                        ║
╚════════════════════════════════════════════════════╝

Print गर्नुहोस्। आफ्नो monitor माथि pin गर्नुहोस्।

तपाईं अहिले कहाँ हुनुहुन्छ

तपाईंले Course 01 सुरु गर्नुभयो सोच्दै AI के हो। तपाईंले Course 05 छोड्नुभयो हुँदै:

  • Classical ML सँग निर्माण गरेको (Course 02-03)।
  • LLMs सँग निर्माण गरेको (Course 04)।
  • एक working service ship गरेको (Course 05)।

त्यो 2026 मा Nepal मा genuinely दुर्लभ combination हो। देशमा धेरैजसो मानिसहरूले ChatGPT प्रयोग गरेका छन्; धेरै थोरैले AI प्रणाली ship गर्न सक्दछन् जुन reliably चल्दछ, real users सर्भ गर्दछ, आफ्ना costs नियन्त्रण गर्दछ, आफैलाई evaluate गर्दछ, र failure बाट recover हुन्छ। तपाईं थोरै मध्ये एक हुनुहुन्छ।

Practitioner अर्को के गर्दछ

पाठ्यक्रमको अन्त्य एक सुरुवात हो। Concretely:

  • केही सानो ship गर्नुहोस्। एक नेपाली FAQ bot। तपाईंको school को लागि एक tool। तपाईंको NGO को लागि एक helper। Real users, real feedback, real learning। shipped उत्पाद जति skill accelerate गर्ने कुनै कुरा छैन।
  • Community मा join गर्नुहोस्। Nepal Open Source Klub, Kathmandu Data Science Meetup, र AI Literacy Nepal community तपाईंले के निर्माण गर्दै हुनुहुन्छ share गर्ने र अरूको काम बाट सिक्ने ठाउँ हुन्।
  • फिर्ता contribute गर्नुहोस्। Nepal-facing AI tooling पातलो छ। तपाईंले खुला मा निर्माण गर्ने कुनै पनि कुरा — एक Devanagari-friendly tokeniser, एक Nepal-specific evaluation set, एक bilingual UI component — अर्को builder को लागि उपहार हो।
  • सिक्दै रहनुहोस्। Frontier चल्छ। छ महिना पछि, यो पाठ्यक्रमले सिकाएको केही राम्रो patterns द्वारा प्रतिस्थापन हुनेछ। तपाईंले trust गर्ने practitioners लाई follow गर्नुहोस्, primary sources पढ्नुहोस्, experiments चलाउनुहोस्।

Nepal-specific closing thought

Nepal 2026 मा असामान्य inflection मा छ। AI tools व्यापक रूपमा उपलब्ध छन्; तिनीहरूलाई प्रयोग गर्ने local उत्पादहरू दुर्लभ छन्। Global funding सजिलो छ; नेपाली distribution गाह्रो छ। Productive प्रश्न के नेपाली AI उत्पादहरू अवस्थित हुनुपर्दछ भन्ने होइन — तिनीहरू स्पष्ट रूपमा हुनुपर्दछ — तर कस्को

जवाफ, आंशिक रूपमा, तपाईंको हो। यो पाठ्यक्रम त्यो premise मा लेखिएको थियो कि नेपाली builders, नेपाली contexts द्वारा informed, Nepal-serving AI निर्माण गर्ने सही मानिसहरू हुन्। Foreign labs को Nepal-flavoured demos होइन। One-size-fits-all Silicon Valley उत्पादहरू होइन।

तपाईंसँग skills छ। Tools affordable छन्। Community जान्न पर्याप्त सानो छ। Audience matter गर्न पर्याप्त ठूलो छ।

केही सानो ship गर्नुहोस्। त्यसपछि अर्को कुरा ship गर्नुहोस्। त्यसपछि त्यसपछिको।

Course 05 close — र Track 03 close

त्यो Course 05 को अन्त्य हो।

त्यो Track 03 — Building AI — को अन्त्य पनि हो।

पाँच courses। नब्बे खण्डहरू। “AI के हो” बाट “Nepal मा real users सर्भ गर्ने AI प्रणालीहरू ship गर्ने” सम्म। तपाईं अब practitioner हुनुहुन्छ।

Track 03 AI Literacy Nepal को technical build spine हो। थप tracks छन् — Learning AI (understanding), र Professionals tracks (शिक्षण, HR, accounting, marketing, law मा AI लागू गर्ने) — प्रत्येक आफ्नै audience र आफ्नै value सँग। तपाईंको लागि अर्को के matter गर्दछ छनोट गर्नुहोस्।

Nepal मा AI को काम early छ। राम्रोसँग निर्माण गर्नुहोस्।