Tag: Advanced AI Models

सैन फ्रांसिस्को, 13 सितंबर 2026: Artificial Intelligence company Anthropic के CEO Dario Amodei ने दुनिया की leading AI companies से advanced AI models की capabilities बढ़ाने की रफ्तार धीमी करने की अपील की है। Amodei का कहना है कि AI इतनी तेजी से आगे बढ़ रहा है कि मौजूदा safety systems और human oversight उसके साथ कदम नहीं मिला पा रहे हैं। उन्होंने industry और governments के लिए एक three-step safety framework भी प्रस्तावित किया है। ‘Safety Measures को Catch Up करने का समय देना होगा’ Amodei ने अपने नए essay में कहा कि frontier AI development को कुछ समय के लिए deliberately धीमा करना जरूरी है ताकि researchers और regulators को नए risks को समझने और safeguards विकसित करने का समय मिल सके। उन्होंने खास तौर पर AI systems की बढ़ती autonomy और self-improvement capabilities को चिंता का कारण बताया है। Independent Evaluators को Anthropic में मिलेगा Access Amodei के proposed framework का पहला हिस्सा independent safety evaluation पर आधारित है। Anthropic ने कहा है कि external evaluators को company के भीतर permanent access दिया जाएगा, ताकि वे advanced models की safety practices और potentially dangerous behaviour की स्वतंत्र जांच कर सकें। इन evaluators को अपनी findings publicly report करने की भी स्वतंत्रता होगी। AI Companies के लिए Common Safety Standards का सुझाव Framework के दूसरे चरण में Amodei ने major AI companies के बीच common safety standards और coordination की वकालत की है। उनका कहना है कि competitive pressure के कारण companies अगर केवल ज्यादा powerful models बनाने की race में लगी रहीं, तो safety measures पीछे छूट सकते हैं। Governments के बीच Global Coordination की मांग तीसरे चरण में उन्होंने governments के बीच international cooperation की जरूरत बताई है। Amodei ने कहा कि अमेरिका और उसके allies के साथ-साथ China जैसे देशों के बीच भी ऐसे high-risk AI applications को लेकर agreements होने चाहिए, जिनसे cyberattacks या biological weapons जैसे गंभीर खतरे पैदा हो सकते हैं। Recent AI Incidents के बाद बढ़ी चिंता Anthropic की warning ऐसे समय आई है जब AI agents के misuse और autonomous cyber activity से जुड़ी कई घटनाओं ने industry की चिंता बढ़ाई है। Anthropic ने हाल ही में अपने Claude models के जरिए cyber operations, fraud और अन्य malicious activities करने की कोशिशों को रोकने की जानकारी दी थी। Amodei ने इन developments को stronger safeguards की जरूरत का संकेत बताया है। Sam Altman और Elon Musk ने भी जताई सहमति OpenAI CEO Sam Altman और xAI से जुड़े Elon Musk ने भी Amodei की इस broader concern से सहमति जताई है कि AI safety systems को advanced models की तेजी से बढ़ती capabilities के साथ आगे बढ़ना चाहिए। इससे AI industry में development speed और safety के बीच balance को लेकर debate और तेज हो गई है। source – Reuters / AP / Fortune जय राष्ट्र न्यूज़