rotative
huggingface blog · 2026年4月2日

谷歌与 Hugging Face 发布 Gemma 4

谷歌和 hugging face 发布了 gemma 4,这是一个前沿多模态模型系列,提供从 2b 到 31b 参数的四种尺寸。该系列采用 apache 2.0 许可,支持文本、图像和音频输入,并引入了逐层嵌入和共享 kv cache 等架构升级。31b 密集模型估计 lmarena 得分为 1452,而 26b 混合专家模型仅用 4b 激活参数即达到 1441 分。

read in English · 繁體中文 · 日本語 · 한국어

谷歌和 Hugging Face 发布了 Gemma 4,这是一套开放权重的多模态模型,可以处理文本、图像、视频和音频。该模型家族由四种尺寸(E2B、E4B、E9B、E31B)组成,均使用 Apache 2.0 许可证发布,并针对设备端部署和量化进行了优化。架构改进包括每层嵌入(Per-Layer Embeddings,PLE)、共享 KV 缓存和交替局部-全局注意力,以支持长上下文窗口和高效的智能工作流。基准测试表明,31B 密集模型获得了 1452 的估计 LMArena 分数,可与专有前沿模型媲美,而 26B 专家混合(MoE)模型仅使用 4B 活动参数就获得了 1441 的分数。 Transformers、llama.cpp、MLX 和 WebGPU 等主要框架均可立即集成使用。

read at source ↗

← rotative