rotative
huggingface blog · 2026年9月1日

Hugging Face 发布 207 个 WebGPU 内核,加速本地 AI

Hugging Face 推出 @huggingface/kernels,内含 207 个用于本地 AI 的 WebGPU 内核,可实现更快的浏览器推理。这将影响构建 AI 应用的开发者。

read in English · 繁體中文 · 日本語 · 한국어

hugging face 推出了 @huggingface/kernels,这是一个用于从 hugging face hub 加载和运行优化 webgpu 内核的精简库。该库附带了一个包含 207 个内核的初始集合,每个内核都以完整的、带版本号的包形式发布。这些内核涵盖了各种机器学习架构和工作负载中使用的操作。此次发布还包括 fleet,一个浏览器内的 gpu 基准测试和测试套件。这使社区能够从真实设备贡献性能和正确性证据,帮助改进内核变体和优化决策。这些内核采用 apache-2.0 许可证,可用于实现更快的浏览器推理。

read at source ↗

← rotative