सैन फ्रांसिस्को/नई दिल्ली। आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से बढ़ते प्रभाव के बीच अमेरिकी AI कंपनी Anthropic ने एक गंभीर चेतावनी जारी की है। कंपनी का कहना है कि भविष्य में AI सिस्टम इतने सक्षम हो सकते हैं कि वे स्वयं अपने से अधिक उन्नत संस्करण तैयार करने लगें। भारतीय पौराणिक कथा के ‘रक्तबीज’ की तरह यह प्रक्रिया लगातार बढ़ती गई तो इंसानों के लिए इन प्रणालियों पर नियंत्रण बनाए रखना मुश्किल हो सकता है।
कंपनी ने अपनी हालिया रिसर्च रिपोर्ट में “Recursive Self-Improvement” यानी आत्म-विकास की अवधारणा पर चिंता जताई है। इसके तहत AI न केवल अपने कार्यों को बेहतर करेगा, बल्कि अपने उत्तराधिकारी और अधिक शक्तिशाली AI मॉडल भी विकसित कर सकेगा। एंथ्रोपिक का दावा है कि उसके AI मॉडल पहले ही कंपनी के अधिकांश कोड लिखने में योगदान दे रहे हैं, जिससे उनकी क्षमता तेजी से बढ़ रही है।
विशेषज्ञों के अनुसार, यदि AI बिना पर्याप्त मानवीय निगरानी के स्वयं को लगातार उन्नत करता रहा तो उसके व्यवहार और निर्णयों का अनुमान लगाना कठिन हो सकता है। यही कारण है कि एंथ्रोपिक ने वैश्विक स्तर पर AI विकास को नियंत्रित करने और आवश्यकता पड़ने पर अस्थायी रूप से रोकने के लिए एक समन्वित तंत्र बनाने की वकालत की है।
कंपनी का मानना है कि तकनीक की रफ्तार समाज, कानून और सुरक्षा व्यवस्थाओं से कहीं अधिक तेज हो चुकी है। ऐसे में यदि समय रहते सुरक्षा मानक और निगरानी तंत्र विकसित नहीं किए गए तो AI मानव नियंत्रण से बाहर जा सकता है।
हालांकि, एंथ्रोपिक की इस चेतावनी पर बहस भी शुरू हो गई है। कुछ विशेषज्ञ इसे जिम्मेदार AI विकास की दिशा में जरूरी कदम मान रहे हैं, जबकि कुछ आलोचकों का कहना है कि यह प्रतिस्पर्धा को धीमा करने की रणनीति भी हो सकती है। इसके बावजूद AI सुरक्षा और नियंत्रण का मुद्दा वैश्विक स्तर पर चर्चा के केंद्र में आ गया है।
