谷歌與 Hugging Face 發布 Gemma 4
谷歌和 hugging face 發布了 gemma 4，這是一個前沿多模態模型系列，提供從 2b 到 31b 參數的四種尺寸。該系列採用 apache 2.0 許可，支援文本、圖像和音頻輸入，並引入了逐層嵌入和共享 kv cache 等架構升級。31b 密集模型估計 lmarena 得分為 1452，而 26b 混合專家模型僅用 4b 激活參數即達到 1441 分。
谷歌和 Hugging Face 發布了 Gemma 4，一套開放權重的多模態模型，能夠處理文字、圖片、影片和音訊。該系列包含四種尺寸（E2B、E4B、E9B、E31B），均以 Apache 2.0 許可證發布，並針對裝置部署和量化進行了優化。架構改進包括每層嵌入（Per-Layer Embeddings, PLE）、共享 KV 快取（Shared KV Cache）和交替區域性-全域性注意力（alternating local-global attention），以支援長上下文視窗和高效能代理工作流程。基準測試表明，31B 密集模型取得了估計的 LMArena 分數 1452，可與專有前沿模型媲美，而 26B 專家混合模型（Mixture-of-Experts, MoE）在僅使用 4B 有效引數的情況下取得了 1441 的分數。該模型立即在包括 Transformers、llama.cpp、MLX 和 WebGPU 在內的主要框架中提供整合。