OpenAI, 치명적 사이버 위험 등급 판정 후 차기 모델 제한

OpenAI는 다음 모델인 아스트라(Astra)를 테스트했고, 사이버 공격을 자동화할 수 있다는 것을 발견하여 이 모델을 '심각한' 사이버 위험으로 평가했다. 이 결과로 인해 OpenAI는 이 모델을 제한하고 추가 보안 조치를 시행할 계획이다. 이러한 전개는 OpenAI의 안전 문화와 고급 AI 모델과 관련된 위험을 관리하는 능력에 대한 우려를 제기한다. 이번 사건은 OpenAI의 향후 AI 개발 및 업계에서의 평판에도 영향을 미칠 수 있다. OpenAI가 아스트라를 제한하기로 한 결정은 이 모델이 자사의 '심각한' 임계값을 처음으로 넘어선 것으로 평가된 이후 이루어졌다.