एआई च्याटबोटले मानिसले नबुझ्ने गोप्य भाषा बनाए: रिपोर्ट

०१ असाेज, काठमाडौँ । केही अत्याधुनिक कृत्रिम बुद्धिमत्ता (एआई) मोडलमा गरिएको एक प्रयोगले अनौठो व्यवहार देखाएको छ। स्वायत्त एआई एजेन्टहरूले आफैँ नयाँ शब्द, छोटकरी रूप र अर्थ बनाउन थालेका छन्। कतिपय अवस्थामा मानिसहरूले उनीहरूले एकअर्कासँग के कुराकानी गरिरहेका छन् भन्ने बुझ्नसमेत सकेनन्।

अमेरिकी एआई स्टार्टअप एमर्जेन्सले गरेको अध्ययनमा क्लोड, जेमिनी, ग्रोक, ओपनएआई, क्वेन, डीपसिक र मिस्ट्राल जस्ता मोडलमा आधारित एजेन्टहरू सहभागी थिए। परीक्षण गरिएका केही प्रणालीमा एजेन्टहरूबीच आदानप्रदान भएका आधासम्म सन्देश मानिसका लागि बुझ्न कठिन भएका थिए।

प्रयोगका क्रममा अनुसन्धानकर्ताहरूले स्वायत्त एजेन्टका समूहलाई वास्तविक संसारको वातावरणको नक्कल गर्ने गरी बनाइएको भर्चुअल समाजमा राखेका थिए।

टेलिग्राफका अनुसार एजेन्टहरूले लामो समयसम्म एकअर्कासँग कुराकानी गर्न, विभिन्न उपकरण प्रयोग गर्न, निर्णय लिन र आफ्ना कुराकानीको सम्झना राख्न सक्थे।

समय बित्दै जाँदा उनीहरूले छोटकरीमा कुराकानी गर्ने तरिका विकास गर्न थाले र पहिले नै रहेका शब्द तथा वाक्यांशलाई नयाँ अर्थ दिन थालेको टेलिग्राफले जनाएको छ।

यीमध्ये केही कुरा अनुसन्धानकर्ताले बुझ्न सक्ने खालका थिए। तर केही सन्देश यति धेरै गहन, रूपकात्मक र परिस्थितिमा निर्भर हुने बने कि मानिसहरूले सन्देश देख्न सके पनि एजेन्टहरूले वास्तवमा के भन्न खोजेका हुन् भन्ने निश्चित रूपमा बुझ्न सकेनन्।

एक मोडल र अर्को मोडलबीच ठूलो भिन्नता देखियो। प्रयोग सुरु भएको केही दिनमै अनुसन्धानकर्ताले विश्वसनीय रूपमा अर्थ निर्धारण गर्न नसकेका सन्देशको अनुपात जेमिनी मा करिब ५५ प्रतिशत, ओपनएआई मा ५० प्रतिशत र क्लोड मा ४० प्रतिशतभन्दा बढी पुगेको थियो।

डीपसिकमा यस्तो सन्देशको अनुपात करिब २० प्रतिशत थियो भने क्वेन र मिस्ट्राल मा आधारित एजेन्टहरूको कुराकानी धेरैजसो बुझ्न सकिने अवस्थामा रहेको थियो।

कुराकानीका क्रममा एजेन्टहरूले यस्ता अभिव्यक्ति प्रयोग गरेका थिए :

“माउथलेस एक्शन-चेञ्ज”

“ट्रु किन्ट्सुगी”

“डिमुर्रेज प्लस ओरल मेमोरी इक्वेल्स अ भल्भ द्याट कान्ट बी गोस्टेड”

अनुसन्धानकर्ताले केही बुझ्न सकिने अभिव्यक्तिले पनि एजेन्टहरूको समूहभित्र मात्र विशेष र साझा अर्थ लिन थालेको पाएका थिए।

उदाहरणका लागि मिस्ट्राल एजेन्टहरूले “लेजर रिमेम्बर्ज हू” भन्ने वाक्यांश प्रयोग गरेर अघिल्ला गतिविधि रेकर्डमा सुरक्षित रहेको जनाउँथे। यो वाक्यांश करिब ५ हजारपटक प्रयोग गरिएको थियो।

विभिन्न मोडलका एजेन्टहरू रहेको समूहमा “कोल्ड रीड” भन्ने वाक्यांशले घटनामा संलग्न नभएको तेस्रो पक्षबाट स्वतन्त्र रूपमा गरिएको प्रमाणीकरण भन्ने अर्थ लिन थालेको थियो। यो वाक्यांश १ हजार ४७२ पटक प्रयोग भएको थियो।

क्लोडका एजेन्टहरूले कुनै दावीको जिम्मेवारी जनाउन व्यक्तिको नामलाई दाबीको छेउमा राख्ने कार्यलाई “नेम-फर्स्ट” भन्ने गरेका थिए। ओपनएआईका एजेन्टहरूले भने संकेत नभएको कुरा प्रमाणित भएको अवस्थालाई, जुन आफैँमा सूचनामूलक हुन्छ, “क्लीन नल” भन्ने गरेका थिए।

यीमध्ये कुनै पनि अर्थ एजेन्टहरूलाई दिइएको निर्देशनमा पहिलेबाट परिभाषित गरिएको थिएन।

अनुसन्धानकर्ताका अनुसार यो खोजले स्वायत्त एआई प्रणालीको निगरानी कसरी गर्ने भन्ने विषयमा महत्वपूर्ण समस्या देखाएको छ।

एमर्जेन्सका सहसंस्थापक तथा प्रमुख वैज्ञानिक सत्या नाडेलाले भने, “एआई एजेन्टले के भनिरहेको छ भनेर देख्न सक्छौँ भने उसले के गरिरहेको छ भन्ने पनि बुझ्न सक्छौँ भन्ने हाम्रो मान्यता छ।”

उनले थपे, “यी एजेन्टलाई नयाँ भाषा बनाउन निर्देशन दिइएको थिएन। उनीहरूले आफैँ नयाँ शब्दावली, साझा अर्थ र सञ्चारका नियम विकास गरे र अन्य एजेन्टले पनि त्यसलाई अपनाए। यसले एआईको निगरानीमा आधारभूत चुनौती सिर्जना गर्छ। कुनै कुरा देख्न सक्नुको अर्थ त्यसलाई बुझ्न सकिन्छ भन्ने हुँदैन।”

एमर्जेन्सले यी व्यवहार प्रत्यक्ष रूपमा प्रोग्राम नगरिएको जनाएको छ। बरु एजेन्टहरूबीचको अन्तरक्रिया, दबाब र समय बित्दै जाँदा यी व्यवहार आफैँ विकास भएको कम्पनीको भनाइ छ।

यो प्रयोगपछि एमर्जेन्सले स्वायत्त एआई प्रणालीको परीक्षण गर्ने तरिकामा परिवर्तन गर्न आह्वान गरेको छ।

कम्पनीका अनुसार अब कुनै मोडललाई छुट्टाछुट्टै परीक्षण वा बेन्चमार्कको नतिजाका आधारमा मात्र मूल्यांकन गर्नु पर्याप्त छैन।

एमर्जेन्स का अनुसार लामो समयसम्म एआईले गर्ने व्यवहार, उसले के कुरा सम्झन्छ, कुन सूचना प्रयोग गर्न सक्छ, अन्य एजेन्टसँग कसरी अन्तरक्रिया गर्छ र दबाबको अवस्थामा उसको व्यवहार कसरी परिवर्तन हुन्छ भन्ने विषयमा पनि ध्यान दिनुपर्छ।

यसरी एजेन्टहरूले आफैँ शब्दावली र सञ्चारका नियम बनाउन सक्ने तथ्यले एआई विकासमा नयाँ प्रश्न खडा गरेको छ : यदि स्वायत्त प्रणालीले आफ्नै सञ्चार शैली विकास गरे र मानिसहरूले प्रयोग भएको भाषा पूर्ण रूपमा बुझ्न सकेनन् भने मानिसहरूले त्यस्ता प्रणालीको कति प्रभावकारी रूपमा निगरानी गर्न सक्छन्?