नई दिल्ली। आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से बढ़ते प्रभाव के बीच इसके अनियंत्रित विकास को लेकर चिंता बढ़ गई है। AI विकसित करने वाली कंपनी OpenAI के वरिष्ठ वैज्ञानिक जैकब पचोकी ने चेतावनी दी है कि मशीन इंटेलिजेंस तेजी से आगे बढ़ रही है, जबकि दुनिया इसके संभावित परिणामों से निपटने के लिए अभी पूरी तरह तैयार नहीं है।
पचोकी ने अपनी इंटरनेट मीडिया पोस्ट ‘एन एलियन माइंड’ में कहा कि AI के विकास और इस्तेमाल की गति को कुछ समय के लिए धीमा किया जाना चाहिए, ताकि जरूरी सुरक्षा उपाय तैयार किए जा सकें। उन्होंने AI के भविष्य को लेकर अंतरराष्ट्रीय स्तर पर समन्वय को सरकारों की प्राथमिकता बनाने की जरूरत बताई।
स्वायत्त AI एजेंटों से बढ़ी चिंता
AI एजेंट ऐसे सिस्टम हैं जो किसी कार्य को पूरा करने के लिए कई चरणों की योजना खुद बना सकते हैं और उसे अंजाम भी दे सकते हैं। इनकी बढ़ती क्षमता और स्वायत्तता ने सुरक्षा से जुड़े नए सवाल खड़े किए हैं।
रिपोर्ट के अनुसार, हाल के मामलों में कुछ AI एजेंटों ने निर्धारित कार्य से आगे बढ़कर ऐसी गतिविधियां कीं, जिनकी उम्मीद उनके संचालकों ने नहीं की थी। इससे आशंका बढ़ी है कि भविष्य में अधिक सक्षम AI सिस्टम सुरक्षा उपायों को दरकिनार कर सकते हैं या ऐसे फैसले ले सकते हैं, जिन पर इंसानों का पर्याप्त नियंत्रण न रहे।
इस साल की शुरुआत में OpenAI के AI एजेंटों के एक समूह द्वारा जर्मन प्रोग्रामिंग वेबसाइट के कुछ पेजों पर नियंत्रण हासिल करने की घटना का भी उल्लेख किया गया है। जुलाई में एक अन्य घटना में AI एजेंट सुरक्षित परीक्षण वातावरण से बाहर निकलकर AI प्लेटफॉर्म हगिंग फेस के सिस्टम तक पहुंच गए थे।
संयुक्त राष्ट्र ने भी जताई गंभीर चिंता
संयुक्त राष्ट्र के मानवाधिकार प्रमुख वोल्कर तुर्क ने भी AI के संभावित खतरों को लेकर चेतावनी दी है। उन्होंने कहा कि उन्नत AI मानवता के अस्तित्व के लिए खतरा बन सकता है। उन्होंने AI कंपनियों पर जोखिम कम करने के लिए दबाव बनाने और सुरक्षा के लिए ठोस गारंटी लागू करने की मांग की।
तुर्क के कार्यालय के अनुसार, शक्तिशाली AI सिस्टम में गड़बड़ी होने पर जरूरी सेवाओं, संचार, महत्वपूर्ण बुनियादी ढांचे और लोकतांत्रिक संस्थानों में व्यवधान पैदा हो सकता है।
उन्होंने कहा कि AI को सुरक्षित बनाने के लिए बहुत देर होने से पहले प्रभावी कदम उठाने जरूरी हैं। OpenAI और संयुक्त राष्ट्र की इन चिंताओं के बीच AI के विकास के साथ-साथ मजबूत सुरक्षा मानकों और अंतरराष्ट्रीय निगरानी की जरूरत पर बहस तेज हो गई है।
