Amazon、値上げ前にコスト削減へAnthropicモデルの蒸留を進める
Amazonのエンジニアが、増大する計算コストを回避するためAnthropicのClaudeモデルを小型版へ蒸留していると報じられており、40億ドルのパートナーシップの変化を示唆しています。
Amazonのエンジニアは、来年からCompute-Hourベースの価格設定からトークンベースの価格設定に移行する前に、AnthropicのClaudeモデルを蒸留して独自の小型モデルを構築していると報告されている。この戦略は情報源によって確認されており、Amazonがモデルのパフォーマンスを維持しながら推論コストを削減し、AppleのGoogle Geminiとの取り決めに似た権利を利用することを可能にしている。ただし、Amazon BedrockはNovaとLlamaの蒸留をサポートしているが、Anthropicは除外されているため、これは重要な内部的な回避策である。コスト削減策は、AmazonのAnthropicへの8億ドルの投資やOpenAIへの50億ドルの投資と一致しており、運用コストの増加を背景にAIインフラを多様化する動きが広がっていることを反映している。