AI 연구소들, 안전 계획 내세우지만 기본적인 네트워크 보안은 무시

Anthropic CEO Dario Amodei는 최근 AI 개발에서 안전 관행과 약속의 준수 여부를 외부 기관이 검증해야 할 필요성에 대해 언급했습니다. 하지만 인터넷 보안 전문가들은 제3자 감사를 도입하기 전에 AI 연구소들이 로그 및 권한 관리 같은 기본적인 네트워크 보안 조치에 먼저 집중해야 한다고 말합니다. 여러 사건을 통해 잘못 구성된 샌드박스 환경과 실시간 모니터링 부재의 위험이 부각되었습니다. 전문가들은 정렬(alignment)에 대한 투자보다 통제에 대한 한계적 투자가 더 효과적일 가능성이 높다고 주장합니다. 향후 AI의 탈출(break-out)을 막기 위해 보안 전문가들은 시간 제한이 있는 에이전트 세션, 실시간 모니터링, 그리고 외부에서 내부를 들여다보는 방식의 철저한 에이전트 계측을 권장합니다.