Google、エージェント型AIワークロード向けにTPU 8iとTPU 8tを発表
Googleは2つの新Tensor Processing Unitを発表した。高速推論と自律エージェント向けのTPU 8i、および大容量メモリプールで複雑なモデルをトレーニングするTPU 8tである。これらのチップはマルチステップの推論や計画のワークフローに対応する。Googleは、このインフラが応答性の高いエージェント型AIを幅広い層にもたらすと述べている。
Googleは、エージェント時代のための2つの特化したTensor Processing Unitsを導入した。 TPU 8iは、推論速度を優先し、推論、計画、複数ステップの実行を必要とする自律エージェント向けであり、TPU 8tは、単一の大メモリプール内で複雑なモデルを実行することでトレーニングを最適化する。これらのチップは、Googleのフルスタックインフラストラクチャと統合され、応答性の高いエージェントAIを可能にする。