Hugging Face 推出用于编写生产级 CUDA 核心的智能体技能
hugging face 发布了一款新的智能体技能,使 claude 和 codex 等编码模型能够编写生产级 cuda 核心。这些智能体成功生成了 diffusers 和 transformers 的工作内核,包含完整的 pytorch 绑定和基准测试。该 550 token 的技能提供针对 h100、a100 和 t4 芯片的 gpu 架构感知并处理集成模式。
Hugging Face 开发了一项代理技能,旨在教大型语言模型如何编写生产级 CUDA 内核。通过为 OpenAI 的 Codex 和 Anthropic 的 Claude 等编码代理提供有关 GPU 架构、矢量化(vectorization)和 PyTorch 绑定的特定领域知识,这些代理成功地为 Diffusers 管道和 Transformers 模型生成了可工作的内核。该技能包括针对 NVIDIA H100、A100 和 T4 硬件的特定优化指南,解决了集成陷阱和内存管理问题。这一开发抽象了内核开发的复杂性,允许代理处理从源代码生成到基准测试的端到端过程。