निर्णय, नैतिकता र जिम्मेवारी: AI को सल्लाह, मानिसको जिम्मा

 AI उपयोगी हुन सक्छ, तर निर्णयको नैतिक भार अझै मानिसमाथि किन पर्छ?

आज कृत्रिम बुद्धिमत्ता (Artificial Intelligence – AI) ले धेरै क्षेत्रमा मानिसलाई सहयोग गरिरहेको छ। यसले:

- जीवनवृत्त (Curriculum Vitae – CV) छानेर भर्ती प्रक्रियामा सहयोग गर्न सक्छ ।

- बैंकिङ क्षेत्रमा जोखिम मूल्याङ्कन (Risk Scoring) गर्न सक्छ।

- चिकित्सकीय तस्बिर (Medical Image) विश्लेषण गरेर रोगको सम्भावित संकेत दिन सक्छ।

- अदालत वा प्रहरी प्रणालीमा जोखिम मूल्याङ्कन (Risk Assessment) मा सहयोग गर्न सक्छ।

- विद्यार्थीको शैक्षिक प्रदर्शन (Performance) को पूर्वानुमान (Prediction) गर्न सक्छ।

- ग्राहकलाई ऋण (Loan), बीमा (Insurance), मूल्य निर्धारण (Pricing) वा सिफारिस (Recommendation) दिन सहयोग गर्न सक्छ।

पहिलो नजरमा यी सबै अत्यन्त प्रभावशाली देखिन्छन्। AI छिटो काम गर्छ, विशाल तथ्याङ्क (Data) विश्लेषण गर्न सक्छ, ढाँचा (Pattern) पहिचान गर्न सक्छ, थाक्दैन र ठूलो स्तर (Scale) मा निरन्तर काम गर्न सक्छ।

यही कारण धेरैलाई लाग्न सक्छ—यदि AI ले धेरै तथ्याङ्क हेरेर राम्रो निर्णय दिन सक्छ भने, किन धेरै निर्णयहरू AI लाई नै नदिने?

तर यहीँबाट सबैभन्दा गम्भीर प्रश्न सुरु हुन्छ।

यदि AI ले दिएको निर्णय गलत भयो भने जिम्मेवार को हुन्छ? AI? विकासकर्ता (Developer)? कम्पनी? प्रयोगकर्ता? संस्था? वा अन्तिम निर्णय गर्ने मानिस?

यो केवल प्राविधिक प्रश्न होइन। यो न्याय, समानता, मानव अधिकार, नैतिकता, उत्तरदायित्व र समाजको प्रश्न हो। किनभने AI को निर्णयले मानिसको रोजगारी, शिक्षा, उपचार, ऋण, प्रतिष्ठा, स्वतन्त्रता र कहिलेकाहीँ जीवन–मृत्युसम्म प्रभाव पार्न सक्छ।

यस लेखमा हामी यही विषयलाई गहिराइमा बुझ्ने प्रयास गर्नेछौँ।

१) निर्णय (Decision) भनेको केवल गणना (Calculation) होइन

धेरै मानिसलाई निर्णय भन्नासाथ सबै तथ्याङ्क हेरेर सबैभन्दा राम्रो विकल्प छान्नु भन्ने लाग्न सक्छ। तर वास्तविक जीवनमा निर्णय यति सरल हुँदैन।

उदाहरणका लागि—

एक चिकित्सक (Doctor) ले रोग पहिचान (Diagnosis) गर्दा केवल रिपोर्ट मात्र हेर्दैन। उसले बिरामीको इतिहास, लक्षण, परिवार, आर्थिक अवस्था, उपलब्ध उपचार र मानवीय संवेदनशीलता समेत विचार गर्छ।

एक न्यायाधीश (Judge) ले केवल कानुन पढेर निर्णय गर्दैन। उसले सन्दर्भ, उद्देश्य, परिस्थितिजन्य अवस्था र न्यायको भावना पनि विचार गर्छ।

एक शिक्षकले विद्यार्थी कमजोर छ भनेर मात्र निष्कर्ष निकाल्दैन। उसले विद्यार्थीको प्रयास, पारिवारिक अवस्था, सम्भावना र सहयोगको आवश्यकता पनि हेर्छ।

यसैले निर्णयमा सामान्यतया तीनवटा तह हुन्छन्।

१. तथ्यमा आधारित विश्लेषण।

२. मूल्य र नैतिकतामा आधारित छनोट।

३. निर्णयको जिम्मेवारी स्वीकार गर्ने क्षमता।

AI पहिलो तहमा अत्यन्त सक्षम हुन सक्छ। दोस्रो तहमा केही हदसम्म सहयोग गर्न सक्छ। तर तेस्रो तह—जिम्मेवारी स्वीकार गर्ने क्षमता—अझै मानिससँग मात्र छ।

२) AI निर्णय प्रक्रियामा उपयोगी किन छ?

AI को उपयोगितालाई अस्वीकार गर्न सकिँदैन।

(क) ठूलो तथ्याङ्क छिटो विश्लेषण

मानिसले लाखौँ अभिलेख (Records), तस्बिर (Images) वा कारोबार (Transactions) छोटो समयमा विश्लेषण गर्न सक्दैन। AI ले यो काम केही क्षणमै गर्न सक्छ।

(ख) पूर्वानुमान (Prediction) मा सहयोग

AI ले:

- ठगी (Fraud) पत्ता लगाउन,

- असामान्य गतिविधि (Anomaly Detection) पहिचान गर्न,

- चिकित्सकीय तस्बिर जाँच्न,

- आपूर्ति शृङ्खला (Supply Chain) को पूर्वानुमान गर्न,

- व्यक्तिगत सिफारिस (Personalized Recommendation) दिन सहयोग गर्न सक्छ।

(ग) दोहोरिने निर्णयमा एकरूपता

स्पष्ट नियम भएका कार्यहरूमा AI ले निरन्तर एउटै मापदण्ड अनुसार निर्णय गर्न सक्छ।

(घ) मानिसलाई सहयोग गर्ने प्रणाली

सही प्रयोगमा AI निर्णय गर्ने प्रणाली (Decision Maker) भन्दा निर्णय सहयोगी प्रणाली (Decision Support Tool) का रूपमा धेरै उपयोगी हुन्छ।

यही सबैभन्दा महत्त्वपूर्ण कुरा हो—

AI को शक्ति सहयोगमा छ, अन्तिम नैतिक जिम्मेवारीमा होइन।

३) समस्या कहाँबाट सुरु हुन्छ? — पक्षपात (Bias)

AI सम्बन्धी नैतिकताको (AI Ethics) सबैभन्दा ठूलो चुनौती पक्षपात (Bias) हो।

पक्षपात भनेको कुनै प्रणालीले अन्यायपूर्ण वा असन्तुलित रूपमा निर्णय गर्नु हो।

AI मा पक्षपात किन आउँछ?

- प्रशिक्षण तथ्याङ्क (Training Data) नै पक्षपाती हुन सक्छ।

- इतिहासमा भएका सामाजिक विभेद तथ्याङ्कमै समावेश भएका हुन सक्छन्।

- गलत वर्गीकरण (Labels) प्रयोग गरिएको हुन सक्छ।

- प्रणालीको लक्ष्य (Objective Function) ले मानवीय मूल्य समेट्न नसकेको हुन सक्छ।

- प्रयोग गरिने वातावरण (Deployment Context) प्रशिक्षणको वातावरणभन्दा फरक हुन सक्छ।

उदाहरणका लागि—

यदि विगतका भर्ती अभिलेखमा महिलालाई कम अवसर दिइएको थियो भने AI ले त्यही इतिहास सिकेर भविष्यमा पनि त्यस्तै निर्णय दिन सक्छ।

यदि अनुहार पहिचान (Face Recognition) प्रणाली कुनै जातीय समूहमा कम सटीक (Accurate) छ भने गलत पहिचान हुने सम्भावना बढ्छ।

यदि ऋण स्वीकृतिको इतिहास असमानताले भरिएको छ भने AI ले पनि त्यही असमानता दोहोर्याउन सक्छ।

यसैले कम्प्युटरले निर्णय गरेको छ भन्दैमा त्यो पूर्ण रूपमा निष्पक्ष हुन्छ भन्ने निष्कर्ष निकाल्न मिल्दैन।

४) "AI ले भनेको हो" भन्ने वाक्य किन खतरनाक हुन सक्छ?

AI को नाममा निर्णयलाई अन्तिम सत्य मान्न थालियो भने दुईवटा गम्भीर समस्या आउन सक्छ।

पहिलो—जिम्मेवारी हराउँछ।

दोस्रो—निर्णयमाथि प्रश्न उठाउन गाह्रो हुन्छ।

यदि ऋण अस्वीकृत भयो भने कसले गर्‍यो?

बैंकले?

AI कम्पनीले?

तथ्याङ्क तयार गर्ने टोलीले?

वा अन्तिम निर्णय गर्ने कर्मचारीले?

यस्ता प्रश्नको उत्तर स्पष्ट नहुँदा प्रभावित व्यक्तिले न्याय पाउन कठिन हुन सक्छ।

५) व्याख्यायोग्यता (Explainability) किन आवश्यक छ?

यदि AI ले कुनै बिरामीलाई उच्च जोखिम (High Risk) भन्यो भने किन भन्यो?

यदि कुनै विद्यार्थीलाई छात्रवृत्तिबाट हटायो भने किन हटायो?

यदि ऋण अस्वीकृत गर्‍यो भने कुन आधारमा गर्‍यो?

प्रभावित व्यक्तिले यी प्रश्नको उत्तर पाउनुपर्छ।

यसैले उच्च जोखिम भएका क्षेत्रमा:

- व्याख्यायोग्यता (Explainability)

- लेखापरीक्षणयोग्यता (Auditability)

- निर्णयलाई चुनौती दिने अधिकार (Contestability)

अत्यन्त आवश्यक हुन्छ।

६) उच्च जोखिम (High-Stakes) भएका क्षेत्रमा AI

सबै निर्णय समान हुँदैनन्।

गीत सिफारिस गर्नु र क्यान्सरको उपचार सुझाव दिनु एउटै कुरा होइन।

चलचित्र सिफारिस गर्नु र अदालतको फैसला प्रभावित गर्नु पनि एउटै कुरा होइन।

उच्च जोखिम भएका क्षेत्रहरू:

- स्वास्थ्य सेवा

- न्याय प्रणाली

- भर्ती प्रक्रिया

- ऋण तथा बीमा

- शिक्षा

- प्रहरी तथा निगरानी

यस्ता क्षेत्रमा:

- मानवीय निगरानी (Human Oversight) अनिवार्य हुनुपर्छ।

- पारदर्शिता (Transparency) बढाउनुपर्छ।

- पक्षपात परीक्षण (Bias Evaluation) गर्नुपर्छ।

- निर्णय पुनरावलोकन (Appeal Mechanism) को व्यवस्था हुनुपर्छ।

७) "मानिस निर्णय प्रक्रियामा" (Human in the Loop) किन आवश्यक छ?

AI नै अन्तिम निर्णयकर्ता हुनु हुँदैन।

AI ले सुझाव दिन सक्छ।

तर अन्तिम निर्णयमा मानिसको विवेक, अनुभव, नैतिकता र जिम्मेवारी आवश्यक हुन्छ।

किनकि:

- AI ले सन्दर्भ छुटाउन सक्छ।

- तथ्याङ्क अपूर्ण हुन सक्छ।

- प्रणाली पुरानो हुन सक्छ।

- असाधारण परिस्थितिमा AI गलत हुन सक्छ।

- नैतिक निर्णय केवल गणितीय सूत्रबाट निस्कँदैन।

यद्यपि अर्को समस्या पनि छ।

कतिपय अवस्थामा मानिसले AI को सुझावलाई प्रश्न नै नगरी स्वीकार गर्छ। यसलाई स्वचालन पक्षपात (Automation Bias) भनिन्छ।

त्यसैले मानवीय निगरानी वास्तविक हुनुपर्छ, औपचारिक मात्र होइन।

८) जिम्मेवारी कसको?

AI सम्बन्धी गल्तीमा जिम्मेवारी धेरै तहमा बाँडिन्छ।

विकासकर्ता (Developer)

- प्रणाली कसरी बनाइयो?

- पक्षपात परीक्षण गरियो?

- सीमाहरू स्पष्ट गरियो?

संस्था

- AI कहाँ प्रयोग गरियो?

- मानवीय समीक्षा राखियो?

- पुनरावलोकनको व्यवस्था गरियो?

नियामक (Regulator)

- कुन क्षेत्रमा AI सीमित गर्ने?

- पारदर्शिताको मापदण्ड के हुने?

- उत्तरदायित्व कसरी सुनिश्चित गर्ने?

समाज

- के हामी AI लाई अन्धविश्वास गरिरहेका त छैनौँ?

- के प्रभावित समुदायको आवाज सुनिरहेका छौँ?

AI आफैँ कानुनी वा नैतिक जिम्मेवारी बहन गर्ने व्यक्ति होइन। त्यसैले अन्तिम जिम्मेवारी मानिस र संस्थामाथि नै रहन्छ।

९) AI र मानिसबीचको मुख्य अन्तर

मानिसले पनि गल्ती गर्छ।

मानिस पनि पक्षपाती हुन सक्छ।

तर मानिससँग:

- नैतिक चेतना हुन्छ।

- पछुतो मान्न सक्छ।

- सन्दर्भ बुझ्न सक्छ।

- आफ्नो निर्णयको उत्तर दिन सक्छ।

AI ले यीमध्ये कुनै पनि कुरा मानिसजस्तो रूपमा गर्न सक्दैन।

१०) भविष्यको चुनौती

भविष्यमा AI अझ शक्तिशाली हुनेछ।

यसले शासन (Governance), स्वास्थ्य, वित्त, सुरक्षा, शिक्षा लगायत धेरै क्षेत्रमा ठूलो भूमिका खेल्न सक्छ।

त्यसैले अहिलेदेखि नै स्पष्ट नियम आवश्यक छन्।

- AI कहाँ प्रयोग गर्ने?

- कहाँ प्रयोग नगर्ने?

- कहाँ मानिसको निर्णय अनिवार्य हुने?

- कसरी लेखापरीक्षण (Audit) गर्ने?

- नागरिकको अधिकार कसरी सुरक्षित गर्ने?

AI सम्बन्धी सबैभन्दा ठूलो प्रश्न "के सम्भव छ?" मात्र होइन, "के उचित छ?" पनि हो।

११) अहिलेको सबैभन्दा सन्तुलित निष्कर्ष

AI निर्णय प्रक्रियामा अत्यन्त शक्तिशाली सहयोगी हुन सक्छ।

तर उच्च जोखिम र नैतिक प्रभाव भएका निर्णयहरूमा अन्तिम समीक्षा, न्याय, उत्तरदायित्व र जिम्मेवारी मानिस र संस्थामाथि नै रहनुपर्छ।

निष्कर्ष

AI ले ठूलो तथ्याङ्क विश्लेषण गर्न सक्छ, ढाँचा पहिचान गर्न सक्छ, जोखिम देखाउन सक्छ र निर्णयलाई अझ सूचनामूलक बनाउन सक्छ।

तर निर्णय केवल भविष्यवाणी (Prediction) होइन।

त्यसमा न्याय, दया, सन्दर्भ, अधिकार, नैतिकता, समानता र जिम्मेवारी मिसिएका हुन्छन्।

यदि AI को निर्णयले मानिसको जीवनमा प्रभाव पार्छ भने "AI ले भनेको हो" भनेर जिम्मेवारीबाट उम्किन मिल्दैन।

हामीले सधैँ प्रश्न गर्नुपर्छ—

- यो निर्णय किन आयो?

- कसले प्रणाली विकास गर्‍यो?

- कसले प्रयोग गर्‍यो?

- कसले समीक्षा गर्‍यो?

- गल्ती भयो भने कसले सुधार गर्छ?

AI अत्यन्त उपयोगी हुन सक्छ, तर जिम्मेवारीको भार अन्ततः मानवीय समाजले नै बोक्नुपर्छ।

मुख्य सिकाइ (Key Takeaways)

- AI निर्णय सहयोगमा अत्यन्त प्रभावकारी हुन सक्छ।

- पक्षपात (Bias) AI को सबैभन्दा ठूलो नैतिक चुनौतीमध्ये एक हो।

- "AI ले भनेको हो" भनेर जिम्मेवारीबाट उम्किन मिल्दैन।

- व्याख्यायोग्यता, लेखापरीक्षणयोग्यता, निर्णयलाई चुनौती दिने अधिकार र मानवीय निगरानी अनिवार्य छन्।

- अन्तिम नैतिक जिम्मेवारी मानिस, संस्था र नियामक प्रणालीमाथि नै रहन्छ।

कार्यका लागि आह्वान (Call to Action)

यदि यो लेख उपयोगी लाग्यो भने यसलाई आफ्ना साथीहरूसँग साझा (Share) गर्नुहोस्, सुरक्षित (Save) राख्नुहोस् र यस AI श्रृंखलाको अर्को भाग पनि अवश्य पढ्नुहोस्।

आन्तरिक लिङ्क (Internal Linking)

अर्को भाग पढ्नुहोस्: सृजनशीलता (Creativity), भाषा (Language) र मौलिकता (Originality): 

यदि AI ले कविता, सङ्गीत, चित्र, कथा र लेख सिर्जना गर्न सक्छ भने, के ऊ साँच्चै सर्जक (Creator) हो, कि सिकेका ढाँचाहरू (Patterns) को पुनःसंयोजन (Remix) मात्र गर्दैछ? यस रोचक प्रश्नको वैज्ञानिक विश्लेषण हामी Post 7 मा गर्नेछौँ।

❓ बारम्बार सोधिने प्रश्न (FAQ)

१. कृत्रिम बुद्धिमत्ता (AI) ले मानिसको ठाउँमा पूर्ण रूपमा निर्णय गर्न सक्छ?

अहिलेसम्म AI ले निर्णय प्रक्रियामा सहयोग गर्न सक्छ, तर विशेषगरी स्वास्थ्य, न्याय, शिक्षा, बैंकिङ र रोजगारीजस्ता उच्च जोखिम (High-Stakes) क्षेत्रहरूमा अन्तिम निर्णय र त्यसको नैतिक तथा कानुनी जिम्मेवारी मानिसकै हुन्छ।

२. AI निर्णयमा पक्षपात (Bias) किन देखिन्छ?

AI आफैँ पक्षपाती भएर जन्मिँदैन। यसले सिक्ने प्रशिक्षण तथ्याङ्क (Training Data), ऐतिहासिक सामाजिक असमानता, गलत लेबलिङ (Labeling) वा प्रणालीको डिजाइनका कारण पक्षपातपूर्ण निर्णय दिन सक्छ।

३. "AI ले भनेको हो" भनेर निर्णय स्वीकार गर्नु किन खतरनाक हुन सक्छ?

AI ले दिएको निर्णय सधैँ सही वा निष्पक्ष हुन्छ भन्ने ग्यारेन्टी हुँदैन। यदि मानिसले कुनै समीक्षा नगरी AI को निर्णयलाई अन्तिम सत्य मानेर स्वीकार गर्छ भने अन्याय, भेदभाव वा गलत निर्णय हुने सम्भावना बढ्न सक्छ।

४. AI ले गलत निर्णय गर्‍यो भने जिम्मेवार को हुन्छ?

सामान्यतया AI आफैँ कानुनी वा नैतिक रूपमा जिम्मेवार हुँदैन। जिम्मेवारी AI विकास गर्ने कम्पनी, प्रयोग गर्ने संस्था, निर्णय अनुमोदन गर्ने व्यक्ति तथा सम्बन्धित नियामक निकायबीच बाँडिएको हुन्छ।

५. Human in the Loop (मानिसको निगरानी) भनेको के हो?

यसको अर्थ AI ले विश्लेषण वा सुझाव दिन सक्छ, तर अन्तिम निर्णय गर्नु अघि योग्य व्यक्तिले त्यसको समीक्षा, मूल्याङ्कन र आवश्यक परे सुधार गर्नुपर्छ। यसले गलत निर्णयको जोखिम घटाउँछ।

६. Explainability (व्याख्यायोग्यता) AI मा किन महत्त्वपूर्ण छ?

यदि AI ले ऋण अस्वीकृत गर्‍यो, बिरामीलाई उच्च जोखिममा राख्यो वा कसैलाई जागिरका लागि अस्वीकार गर्‍यो भने त्यसको कारण स्पष्ट रूपमा बुझाउन सक्नुपर्छ। यही क्षमतालाई व्याख्यायोग्यता (Explainability) भनिन्छ।

७. कुन क्षेत्रमा AI प्रयोग गर्दा सबैभन्दा बढी सावधानी आवश्यक हुन्छ?

स्वास्थ्य सेवा, न्याय प्रणाली, प्रहरी अनुसन्धान, बैंकिङ, बीमा, भर्ती प्रक्रिया, शिक्षा, सामाजिक सुरक्षा (Welfare) तथा सरकारी सेवाजस्ता क्षेत्रहरूमा AI प्रयोग गर्दा उच्च स्तरको परीक्षण, पारदर्शिता र मानवीय निगरानी आवश्यक हुन्छ।

८. के AI मानिसभन्दा निष्पक्ष हुन्छ?

सधैँ होइन। AI ले ठूलो तथ्याङ्क छिटो विश्लेषण गर्न सक्छ, तर यदि त्यसले सिकेको तथ्याङ्क नै पक्षपाती छ भने AI को निर्णय पनि पक्षपाती हुन सक्छ। त्यसैले AI लाई नियमित रूपमा परीक्षण (Testing), लेखापरीक्षण (Audit) र सुधार (Improvement) गरिरहनुपर्छ।

९. AI Ethics (AI नैतिकता) भनेको के हो?

AI नैतिकता (AI Ethics) भन्नाले AI को विकास, प्रयोग र निर्णय प्रक्रियामा निष्पक्षता (Fairness), पारदर्शिता (Transparency), गोपनीयता (Privacy), उत्तरदायित्व (Accountability) र मानव अधिकार (Human Rights) को संरक्षण सुनिश्चित गर्ने सिद्धान्तहरूलाई जनाउँछ।

१०. भविष्यमा AI ले मानिसको निर्णय पूर्ण रूपमा प्रतिस्थापन गर्न सक्छ?

AI भविष्यमा अझ सक्षम हुन सक्छ, तर अधिकांश विज्ञहरूको धारणा अनुसार नैतिक निर्णय, मानवीय संवेदना, कानुनी उत्तरदायित्व र सामाजिक न्याय आवश्यक पर्ने क्षेत्रमा मानिसको भूमिका अझै पनि अपरिहार्य रहनेछ।