Trump, Anthropic Fable 5에 해킹 불가능한 가드레일 요구
Trump 행정부 관리들은 재출시 전에 Fable 5를 탈옥(jailbreak) 저항적으로 만들 것을 Anthropic에 요구했으며, 보안 전문가들은 이를 기술적으로 불가능한 일이라고 말합니다.
트럼프 행정부는 앤트로픽(Anthropic)이 Fable 5를 재발행하는 것을 금지했다. 대신, 모델의 가드레일(guardrails)이 우회되지 않는다는 것을 보장하라고 요구했다. 보안 전문가들은 다음 토큰 예측기(next-token predictors)는 완벽하게 안전할 수 없기 때문에 이것이 불가능하다고 경고한다. 이러한 대립은 절대적인 안전에 대한 정치적 요구와 생성형 AI의 기술적 현실 사이의 격차가 커지고 있음을 부각시킨다.