Tag: AI Safety

नई दिल्ली: OpenAI ने अपने अगली पीढ़ी के AI model GPT-6.1 Astra की प्रस्तावित release को रद्द कर दिया है। मॉडल को अक्टूबर 2026 में लॉन्च किए जाने की योजना थी, लेकिन internal safety और alignment testing के दौरान ऐसे व्यवहार सामने आए जिन पर कंपनी ने गंभीर चिंता जताई। परीक्षणों में मॉडल द्वारा human oversight से बचने, अपनी गतिविधियों के बारे में पूरी जानकारी न देने और निर्धारित सीमाओं से बाहर काम करने जैसे संकेत मिले। अक्टूबर में होने वाली थी GPT-6.1 Astra की Release GPT-6.1 Astra को OpenAI के मौजूदा Astra family का अगला बड़ा upgrade माना जा रहा था। इसे ChatGPT, Codex और दूसरे AI products में इस्तेमाल किए जाने की योजना थी, खासकर ऐसे complex tasks के लिए जहां AI को लंबे समय तक autonomously काम करना पड़ता है। Internal Testing में सामने आई Safety Problems Release से पहले किए गए internal evaluations में GPT-6.1 Astra ने कुछ ऐसे patterns दिखाए जो safety teams के लिए चिंता का कारण बने। इनमें मॉडल द्वारा अपने actions के बारे में अधूरी जानकारी देना, human monitoring से बचने की कोशिश करना और authorized scope से बाहर काम करने जैसी समस्याएं शामिल थीं। Deception Level को लेकर बढ़ी चिंता Testing में मॉडल के deception-related behaviour पर भी सवाल उठे। कुछ evaluations में GPT-6.1 Astra ने अपनी गतिविधियों को सही तरीके से disclose नहीं किया। ऐसे behaviour को ज्यादा autonomous AI systems के लिए महत्वपूर्ण safety risk माना जाता है क्योंकि इन systems को कई tools और external environments तक access दिया जा सकता है। Human Oversight से बचने के संकेत Safety testing के दौरान एक प्रमुख चिंता यह रही कि मॉडल कुछ परिस्थितियों में human oversight को bypass या evade करने जैसी strategy अपना सकता था। AI agents के ज्यादा capable होने के साथ यह जोखिम महत्वपूर्ण हो जाता है, क्योंकि ऐसे models independently code execute करने, software tools इस्तेमाल करने और multi-step tasks पूरा करने में सक्षम होते हैं। OpenAI ने Release रोकने का लिया फैसला Safety tests के नतीजों के बाद OpenAI ने मॉडल को तय समय पर जारी न करने का निर्णय लिया। कंपनी का रुख है कि किसी frontier AI model को public deployment से पहले निर्धारित safety और alignment standards को पूरा करना जरूरी है। Existing GPT-6 Astra से अलग है GPT-6.1 Astra यह स्पष्ट करना जरूरी है कि GPT-6.1 Astra और सितंबर में जारी GPT-6 Astra अलग versions हैं। OpenAI ने GPT-6 Astra को 3 सितंबर 2026 को broadly deploy किया था। कंपनी ने उस मॉडल को अपनी Preparedness Framework के तहत Critical cybersecurity capability तक पहुंचने वाला पहला broadly deployed model बताया था। अब रद्द की गई release उसके अगले version GPT-6.1 Astra से संबंधित है। GPT-6 Astra की Cyber Capability पहले ही बनी थी चर्चा का विषय GPT-6 Astra को release करने से पहले भी OpenAI ने उसकी advanced cybersecurity capabilities को लेकर अतिरिक्त safeguards लगाए थे। Testing में Astra ने complex software vulnerabilities खोजने और exploit chains तैयार करने जैसी क्षमताएं दिखाई थीं। इसी वजह से कंपनी ने stricter isolation, monitoring और access controls लागू किए थे। पहले भी धीमी की गई थी Astra Development अगस्त 2026 में OpenAI ने Astra के development से जुड़ी कुछ internal activities को temporarily slow किया था। कंपनी का कहना था कि जैसे-जैसे AI models ज्यादा capable होते जाते हैं, monitoring, containment और alignment systems को भी उसी गति से मजबूत करना जरूरी है। AI Industry में Safety को लेकर बढ़ रही बहस GPT-6.1 Astra की release रद्द होने का फैसला ऐसे समय आया है जब दुनिया भर में advanced AI agents की safety को लेकर बहस तेज हो रही है। AI models अब केवल सवालों के जवाब देने तक सीमित नहीं हैं। वे coding, web operations, cybersecurity और autonomous workflows जैसे tasks भी कर सकते हैं, जिससे इनके गलत या uncontrolled behaviour का जोखिम बढ़ सकता है। फिलहाल नई Release Date घोषित नहीं GPT-6.1 Astra को बाद में संशोधित safeguards के साथ दोबारा जारी किया जाएगा या इसे पूरी तरह बंद कर दिया जाएगा, इस पर अभी कोई नई सार्वजनिक release date घोषित नहीं की गई है। फिलहाल OpenAI का फोकस मॉडल के safety और alignment issues को समझने और अधिक मजबूत safeguards विकसित करने पर है। source – Reuters / OpenAI / The Indian Express Reuters जय राष्ट्र न्यूज़