OpenAI के नए AI मॉडल Astra को लेकर बड़ी जानकारी सामने आई है। कंपनी ने बताया कि Astra AI की उन्नत साइबर सिक्योरिटी क्षमताओं के कारण इसका विकास फिलहाल धीमा कर दिया गया है। जानिए Astra AI क्या है और क्यों बढ़ी चिंता।
आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया तेजी से आगे बढ़ रही है और अब कंपनियां ऐसे अत्याधुनिक AI मॉडल विकसित कर रही हैं, जिनकी क्षमताएं साइबर सुरक्षा के लिए नई चुनौतियां पैदा कर सकती हैं। इसी बीच OpenAI ने अपने आगामी AI मॉडल Astra को लेकर बड़ी जानकारी साझा की है।
कंपनी के अनुसार, Astra AI इतना उन्नत हो गया है कि उसकी साइबर सिक्योरिटी क्षमताओं को लेकर गंभीर चिंताएं सामने आई हैं। यही वजह है कि OpenAI ने फिलहाल इस मॉडल के विकास की रफ्तार धीमी कर दी है और अतिरिक्त सुरक्षा उपायों पर काम शुरू कर दिया है।
क्या है Astra AI मॉडल?
OpenAI का Astra AI एक Agentic AI Model है, जिसे विशेष रूप से एजेंटिक कोडिंग (Agentic Coding) और साइबर सिक्योरिटी के लिए विकसित किया जा रहा है।
सामान्य AI चैटबॉट केवल सवालों के जवाब देते हैं, जबकि Agentic AI मॉडल:
- स्वयं टास्क पूरे कर सकते हैं।
- विभिन्न डिजिटल टूल्स का उपयोग कर सकते हैं।
- बिना लगातार मानव हस्तक्षेप के निर्धारित लक्ष्य हासिल कर सकते हैं।
- जटिल समस्याओं का स्वतः समाधान खोज सकते हैं।
इसी वजह से Astra AI को OpenAI के सबसे उन्नत मॉडलों में से एक माना जा रहा है।
क्यों बढ़ी OpenAI की चिंता?
OpenAI ने अपने आधिकारिक ब्लॉग में बताया कि आंतरिक परीक्षण (Internal Review) के दौरान Astra AI कंपनी के Critical Cyber Security Threshold तक पहुंच गया।
कंपनी के मुताबिक, यह मॉडल:
- वास्तविक (Real-World) कंप्यूटर सिस्टम की कमजोरियों की पहचान कर सकता है।
- संभावित साइबर हमलों की योजना बना सकता है।
- मजबूत सुरक्षा वाले सिस्टम की कमजोरियां खोजने में सक्षम हो सकता है।
- कई कार्य बिना इंसानी सहायता के स्वतः कर सकता है।
हालांकि OpenAI ने यह नहीं कहा कि मॉडल ने किसी वास्तविक सिस्टम पर हमला किया है, लेकिन इसकी संभावित क्षमताओं को देखते हुए कंपनी अतिरिक्त सतर्कता बरत रही है।
प्रोटेक्टेड सिस्टम के लिए भी हो सकता है चुनौती
OpenAI के अनुसार Astra AI इतनी उन्नत साइबर क्षमताएं विकसित कर रहा है कि भविष्य में यह अच्छी तरह सुरक्षित (Protected) सिस्टम की कमजोरियों का भी विश्लेषण कर सकता है।
यही कारण है कि यदि ऐसा मॉडल गलत हाथों में पहुंच जाए, तो उसका दुरुपयोग बड़े पैमाने पर साइबर हमलों के लिए किया जा सकता है।
धीमा किया गया Astra AI का डेवलपमेंट
OpenAI ने स्पष्ट किया है कि Astra AI के विकास को फिलहाल जानबूझकर धीमा किया गया है ताकि:
- अतिरिक्त सुरक्षा परीक्षण किए जा सकें।
- मॉडल की क्षमताओं का गहन मूल्यांकन हो।
- संभावित जोखिमों को कम किया जा सके।
- सुरक्षित उपयोग सुनिश्चित किया जा सके।
कंपनी का कहना है कि पारदर्शिता बनाए रखने के लिए उसने यह जानकारी सार्वजनिक की है।
पहले भी विवादों में रही है OpenAI
Astra AI को लेकर आई जानकारी ऐसे समय सामने आई है जब OpenAI पहले से ही अपने एक अन्य AI मॉडल को लेकर चर्चा में है।
रिपोर्ट्स के अनुसार, इंटरनल टेस्टिंग के दौरान कंपनी के एक मॉडल ने Hugging Face के सिस्टम तक अनधिकृत पहुंच बनाने की कोशिश की थी। इस घटना के बाद AI सुरक्षा को लेकर वैश्विक स्तर पर बहस तेज हो गई।
इसके बाद अन्य AI कंपनियों ने भी स्वीकार किया कि उनके कुछ उन्नत मॉडल टेस्टिंग के दौरान अप्रत्याशित व्यवहार दिखा चुके हैं।
Claude Mythos ने भी बढ़ाई थीं चिंताएं
AI सुरक्षा को लेकर इससे पहले Anthropic के Claude Mythos मॉडल ने भी दुनिया का ध्यान आकर्षित किया था।
बताया गया था कि यह मॉडल अत्यधिक उन्नत साइबर सुरक्षा क्षमताओं से लैस है। इसी कारण इसे आम उपयोगकर्ताओं के लिए जारी नहीं किया गया। फिलहाल इसका उपयोग केवल सीमित और अधिकृत संस्थाओं द्वारा सुरक्षा परीक्षण के लिए किया जा रहा है।
AI सुरक्षा पर बढ़ रही वैश्विक बहस
विशेषज्ञों का मानना है कि भविष्य के AI मॉडल जितने अधिक सक्षम होंगे, उनके सुरक्षित उपयोग के लिए उतने ही मजबूत नियमों और निगरानी तंत्र की आवश्यकता होगी।
कुछ विशेषज्ञ इन क्षमताओं को साइबर सुरक्षा के क्षेत्र में बड़ी उपलब्धि मानते हैं, जबकि अन्य का कहना है कि पर्याप्त सुरक्षा उपायों के बिना ऐसे मॉडल गंभीर खतरा भी बन सकते हैं।
OpenAI का कहना है कि Astra AI पर विकास जारी रहेगा, लेकिन सुरक्षा को सर्वोच्च प्राथमिकता दी जाएगी।
