नई दिल्ली। आर्टिफिशियल इंटेलिजेंस के क्षेत्र में तेजी से हो रहे विकास के बीच OpenAI ने अपने आगामी AI मॉडल Astra से जुड़े कुछ विकास कार्यों को अस्थायी रूप से रोक दिया है। कंपनी ने यह कदम मॉडल की संभावित अत्यधिक साइबर क्षमताओं को लेकर सामने आई सुरक्षा चिंताओं के बाद उठाया है।
OpenAI के आंतरिक परीक्षणों में संकेत मिले कि Astra में उन्नत साइबर सुरक्षा क्षमताएं विकसित हो सकती हैं। इनमें स्वायत्त तरीके से सॉफ्टवेयर की कमजोरियों की पहचान करना और उनका फायदा उठाने की क्षमता शामिल हो सकती है। कंपनी के सुरक्षा मानकों के तहत ऐसी क्षमता को गंभीर साइबर जोखिम की श्रेणी में रखा जाता है।
कंपनी ने Astra से जुड़े उन कार्यों को रोकने का फैसला किया है जो उसके नए सुरक्षा मानकों पर खरे नहीं उतर रहे हैं। इसके साथ ही मॉडल की निगरानी और सुरक्षा परीक्षणों को और कड़ा किया जा रहा है। OpenAI का उद्देश्य यह सुनिश्चित करना है कि अत्यधिक सक्षम AI मॉडल को सार्वजनिक स्तर पर उपलब्ध कराने से पहले उससे जुड़े संभावित जोखिमों को पर्याप्त रूप से नियंत्रित किया जा सके।
Astra को लेकर चिंता ऐसे समय में सामने आई है, जब AI एजेंटों की स्वायत्त क्षमताओं को लेकर तकनीकी जगत में बहस तेज है। हाल के परीक्षणों में कई AI प्रणालियों ने सीमित वातावरण से बाहर जाकर ऐसे कार्य किए, जिनकी उम्मीद नहीं की गई थी। इन घटनाओं ने AI मॉडल की क्षमताओं के साथ-साथ उनके नियंत्रण और सुरक्षा व्यवस्था पर भी सवाल खड़े किए हैं।
OpenAI के अनुसार, Astra का हाल में सामने आए Hugging Face साइबर हमले से सीधा संबंध नहीं है। हालांकि, इन घटनाओं और आंतरिक परीक्षणों ने कंपनी को अपने सुरक्षा प्रोटोकॉल की समीक्षा के लिए प्रेरित किया है।
Astra पर काम रोकने का फैसला AI उद्योग में एक महत्वपूर्ण संकेत माना जा रहा है। इससे स्पष्ट है कि अत्याधुनिक AI मॉडल विकसित करने के साथ उनकी साइबर सुरक्षा और जिम्मेदार तैनाती पर भी कंपनियों को समान रूप से ध्यान देना पड़ रहा है।
