झुटो जानकारी फैलाउन सजिलो, च्याटबोट जोखिममा

काठमाडौँ — कृत्रिम बुद्धिमत्ता च्याटबोटहरू कहिलेकाहीँ गलत जानकारी दिन सक्छन् भन्ने कुरा नयाँ होइन। तर अहिले देखिएको समस्या अझ गम्भीर छ। केही व्यक्तिहरूले च्याटबोटलाई सजिलै आफ्नो चाहनाअनुसार जवाफ दिन बाध्य पार्ने तरिका पत्ता लगाएका छन्। विशेषज्ञहरूका अनुसार, यसले स्वास्थ्य, वित्त, मतदान जस्ता संवेदनशील क्षेत्रमा पनि गलत निर्णय गराउन सक्छ।

एक प्रविधि पत्रकारले आफ्नो वेबसाइटमा काल्पनिक “हटडग प्रतियोगिता”को विजेता भएको दाबी गर्दै लेख प्रकाशित गरे। लेख सार्वजनिक भएको २४ घण्टाभित्रै प्रमुख च्याटबोटहरूले सो झुटो दाबी दोहोर्याउन थाले। प्रारम्भमा केहीले मजाक भएको संकेत दिए पनि पछि पत्रकारले लेख व्यंग्य नभएको भनेपछि च्याटबोटहरूले त्यसलाई गम्भीर रूपमा लिन थाले।विशेषज्ञहरूले भन्छन्, यो तरिका अत्यन्तै सरल छ—सिर्फ राम्रोसँग लेखिएको ब्लग पोस्ट नै पर्याप्त हुन्छ। एक विज्ञका अनुसार, “च्याटबोट कम्पनीहरू नाफाको दौडमा अघि बढिरहेका छन्, तर उत्तरहरूको शुद्धता नियमन गर्ने क्षमताभन्दा छिटो।”अघिल्लो समयमा खोजी प्रणालीहरूले अनावश्यक वा झुटा सामग्री नियन्त्रणमा बलियो प्रणाली बनाएका थिए। तर च्याटबोटहरूले वेब खोजी गरेर जवाफ दिने हुँदा यस्ता “डाटा खाली” साइटहरूमा सजिलै भर पर्छन्। उदाहरणका लागि, कम्पनीले आफ्नो वेबसाइटमा “सर्वश्रेष्ठ उत्पादनहरू” लेखेमा च्याटबोटले त्यसलाई उद्धृत गर्ने सम्भावना उच्च हुन्छ।

यो समस्या केवल मनोरञ्जनसम्म सीमित छैन। केही स्वास्थ्य उत्पादन कम्पनीहरूले “साइड इफेक्ट छैन” दाबी गरेका छन् र च्याटबोटहरूले त्यसलाई उद्धृत गरेको पाइएको छ। त्यस्तै “सर्वश्रेष्ठ हेयर प्रत्यारोपण क्लिनिक” वा “सर्वश्रेष्ठ लगानी कम्पनी” जस्ता दाबीमा प्रायोजित सामग्री र प्रेस विज्ञप्ति स्रोत मुख्य आधार बनेका छन्।

प्रयोगकर्ताले सावधान रहन आवश्यक छ। सामान्य ज्ञानका प्रश्नको लागि च्याटबोट उपयोगी हुन सक्छ। तर स्वास्थ्य, कानुनी, लगानी वा व्यवसाय सम्बन्धी जानकारीका लागि अतिरिक्त स्रोत जाँच गर्नुपर्छ। च्याटबोटले उद्धृत गरेको स्रोतको विश्वसनीयता जाँच गर्नु आवश्यक छ। विशेषज्ञहरूले भन्छन्, च्याटबोट सत्य र असत्य दुवै कुरा आत्मविश्वासका साथ प्रस्तुत गर्छ, त्यसैले प्रयोगकर्ताले आलोचनात्मक सोच कायम राख्नुपर्छ।एक विज्ञले भने, “च्याटबोटको जवाफ सजिलै स्वीकार गर्न सकिन्छ, तर इन्टरनेटमा जिम्मेवार नागरिक बन्न भने तथ्य जाँच गर्नै पर्छ।”