Amazon, 가격 인상에 앞서 비용 절감을 위해 Anthropic 모델 증류 추진
Amazon 엔지니어들이 컴퓨팅 비용 상승을 피하기 위해 Anthropic의 Claude 모델을 더 작은 버전으로 증류하고 있다고 전해지며, $4B 규모 파트너십의 변화를 시사하고 있습니다.
아마존 엔지니어들은 내년에 컴퓨팅 시간 기반에서 토큰 기반 가격 책정으로 전환하기 전에 Anthropic의 Claude 모델을 증류하여 독점적인 소형 모델을 구축하고 있다고 보고되었다. 이 전략은 소스로부터 확인되었으며, 아마존이 모델 성능을 유지하면서 추론 비용을 줄일 수 있게 해주며, 이는 Apple의 Google Gemini와의 계약과 유사한 권한을 활용한다. 그러나 아마존 베드록은 Nova 및 LLaMA에 대한 증류를 지원하지만 Anthropic은 제외하므로, 이는 상당한 내부 우회 방법이다. 비용 절감 조치는 아마존의 막대한 Anthropic에 대한 80억 달러 투자 및 OpenAI에 대한 500억 달러 투자와 일치하며, 운영 비용 증가에 따른 AI 인프라 다각화를 위한 광범위한 노력을 반영한다.