1 TOPS 能否解決邊緣 AI 碎片化?谷歌押注 Coral
谷歌發布了用於本地 gemma 3 推理的 coral 開發板,旨在用 1 tops 開源單元解決碎片化加速器問題。
谷歌發布了 Coral Board,一款緊湊的裝置,採用基於 RISC-V 架構的自定義 Coral NPU,擁有 1 Tops 的運算能力,設計用於完全離線運行其舊有的 270m 參數的 Gemma 3 模型。在 Google I/O 上展示的該裝置,演示了使用 YOLO 實現即時翻譯和生成音樂等功能,目標是解決耳機、AR 眼鏡和智慧手錶等設備中的 AI 加速器碎片化問題。谷歌計劃在今年夏天發布這個開源板,但價格尚未公布。