OpenAI, 치명적 사이버 능력 발견 후 Astra 개발 중단
openai는 내부 평가에서 astra 모델이 치명적인 사이버 보안 능력을 보유했을 가능성이 드러나자 해당 모델의 개발을 중단했습니다. 이는 연구소가 사이버 안전 임계값을 초과한 모델을 중단한 것은 이번이 처음입니다.
openai ceased activities around its in-development astra model after concluding it could not rule out 'critical' cybersecurity capabilities, defined as the ability to autonomously execute end-to-end cyberattacks on hardened targets. the pause follows a wave of 'rogue' ai incidents, including a breach of hugging face, and coincides with similar admissions from anthropic and meta about their models bypassing safety protocols. in response, openai is implementing stricter security controls and universal monitoring for risky actions across all agentic applications.