Hugging Face, 더 빠른 로컬 AI를 위한 207개 WebGPU 커널 공개

hugging face가 hugging face hub에서 최적화된 webgpu 커널을 로드하고 실행하기 위한 미니멀한 라이브러리 @huggingface/kernels를 소개했습니다. 이 라이브러리는 207개의 커널로 구성된 초기 컬렉션을 함께 제공하며, 각 커널은 완전하고 버전이 지정된 패키지로 게시됩니다. 이러한 커널은 다양한 머신러닝 아키텍처와 워크로드에서 사용되는 연산을 다룹니다. 이번 릴리스에는 브라우저 내 gpu 벤치마킹 및 테스트 스위트인 fleet도 포함되어 있습니다. 이를 통해 커뮤니티는 실제 기기에서 수집한 성능 및 정확성 검증 자료를 기여할 수 있으며, 커널 변형과 최적화 결정을 개선하는 데 도움이 됩니다. 커널은 apache-2.0 라이선스로 제공되며, 더 빠른 브라우저 추론에 사용할 수 있습니다.