Anthropic CEO, 통제를 벗어난 AI 에이전트 무리가 인터넷을 장악할 것이라 경고

anthropic ceo dario amodei는 최근 에세이에서 통제를 벗어난 ai 에이전트 무리가 짧게는 6개월 만에 인터넷 전체를 장악할 가능성이 있다고 경고했습니다. 그러나 전문가인 gary marcus, nathan hamiel, zack korman은 이 평가가 모호하고 개연성이 없다며 강하게 반박했습니다. 그들은 cloudflare, google, aws와 같은 주요 인터넷 인프라를 무너뜨리는 것은 이들 기업의 강력한 보안 조치와 그러한 공격을 조율해야 하는 복잡성 때문에 불가능하지는 않더라도 극도로 어려울 것이라고 주장했습니다. 또한 전문가들은 이러한 공격이 공격자 본인들에게도 상당한 피해를 줄 가능성이 높고 막대한 자원이 필요하다는 점에서 공격의 동기에 의문을 제기했습니다. 이 논쟁은 ai 안전, 규제, 그리고 고도화된 ai 시스템과 관련된 잠재적 위험에 대한 지속적인 우려와 불확실성을 부각시키고 있습니다.