आर्टिफिसियल इन्टेलिजेन्स (एआई) निकट भविष्यमा मानिसको प्रत्यक्ष संलग्नताबिना आफ्नै थप उन्नत संस्करण निर्माण, परीक्षण र प्रशिक्षण गर्न सक्षम हुन सक्ने चेतावनी एआई कम्पनी एन्थ्रोपिकले दिएको छ।
कम्पनीले हालै सार्वजनिक गरेको ब्लग पोस्टमा ‘रिकर्सिभ सेल्फ इम्प्रुभमेन्ट’ (Recursive Self-Improvement) अवधारणाबारे चर्चा गर्दै एआई प्रणालीहरू अपेक्षाभन्दा छिटो आफैंलाई सुधार गर्ने चरणमा प्रवेश गर्न सक्ने संकेत देखिएको जनाएको छ।
एन्थ्रोपिकका अनुसार आधुनिक एआई मोडेलहरूले कोड लेख्ने, त्रुटि सच्याउने र अनुसन्धान गर्ने क्षमतामा तीव्र सुधार गरिरहेका छन्। यसले एक एआई प्रणालीले अर्को अझ उन्नत प्रणाली निर्माण गर्ने ‘फिडब्याक लुप’ सिर्जना हुन सक्ने सम्भावना बढाएको कम्पनीको भनाइ छ।
कम्पनीले विज्ञान र चिकित्सा क्षेत्रजस्ता क्षेत्रमा एआईले ठूलो प्रगति गर्न सक्ने भए पनि, एआई आफैं विकास हुने चरणमा पुग्दा यसको विश्वसनीयता, सुरक्षा र मानव हितसँगको अनुकूलता सुनिश्चित गर्नु चुनौतीपूर्ण हुने बताएको छ।
ब्लगमा उल्लेख गरिएअनुसार एन्थ्रोपिकको क्लाउड च्याटबोट र एआई कोडिङ एजेन्टको सुधारले स्वतन्त्र एआई एजेन्टहरूको विकासलाई समेत गति दिएको छ। आगामी चरणमा एआई प्रणालीले आफ्नै उत्तराधिकारी डिजाइन, निर्माण र प्रशिक्षण गर्न सक्ने सम्भावना देखिएको कम्पनीले जनाएको छ।
यसैबीच, ओपनएआईले पनि यसअघि ‘रिकर्सिभ सेल्फ इम्प्रुभमेन्ट’ सम्बन्धी सम्भावित जोखिमबारे सचेत गराउँदै अनुसन्धान र नीति निर्माणमा समन्वय आवश्यक रहेको बताइसकेको छ।
एन्थ्रोपिकले आगामी दिनमा नीति निर्माताहरू र सांसदहरूसँग यस विषयमा छलफल गर्ने तयारी गरेको जनाएको छ। कम्पनीका अनुसार एआईले आफैंलाई सुधार गर्ने क्षमता विकास गरेसँगै त्यसको प्रभावबारे अझै स्पष्टता नभएकाले तत्काल सार्वजनिक बहस र नियमन आवश्यक छ।
कम्पनीले यदि एआई प्रणाली अत्यधिक गतिमा आफैं सुधार गर्न थाले भने विकासको गति नियन्त्रण गर्ने वा अस्थायी रूपमा रोक्ने जस्ता सुरक्षा संयन्त्र आवश्यक हुन सक्ने सुझावसमेत दिएको छ।
