Hugging Face Blog 发布于 09/01 08:00

Introducing @huggingface/kernels: 200+ WebGPU Kernels for Local AI

(翻译)发布 @huggingface/kernels:面向本地 AI 的 200 多个 WebGPU 内核

查看原文

资讯摘要

We’re on a journey to advance and democratize artificial intelligence through open source and open science.

AI 摘要

Hugging Face 发布 @huggingface/kernels 及 207 个 WebGPU 内核,涵盖多种机器学习算子,每个内核以独立版本化仓库发布,包含接口契约、WGSL 模板、正确性与基准测试。同时推出浏览器端基准工具 Fleet,众包收集真实 GPU 性能数据。与 ORT WebGPU 相比,内核在 809 个对比用例中几何平均提速 2.57 倍。

AI 问答

如何安装并使用 @huggingface/kernels?

可通过 npm 安装 @huggingface/kernels@preview,使用 getKernel 传入 Hugging Face 仓库 ID 和版本号加载内核,然后调用返回函数传入输入数据和张量形状即可执行。需要支持 WebGPU 的浏览器。

Fleet 工具的作用是什么?

Fleet 是浏览器端的 GPU 基准测试与验证工具,可在用户自己的硬件上运行并打分,众包收集真实设备的正确性和性能证据,帮助开发者发现失败案例并优化内核。

与 ONNX Runtime Web 相比性能如何?

在 Apple M4 GPU 上的 809 个有效对比用例中,Hugging Face 内核几何平均快 2.57 倍,中位数快 1.90 倍,其中个别算子如 bilinear Einsum 快超过 10000 倍。

打开原文

更多资讯

前OpenAI后训练VP回应陶哲轩:说AI毁了数学,可能还是太小瞧AI了量子位 · 09/15 13:39基元律动与无问芯穹达成战略合作,推进高质量Token供给与应用雷峰网 · 09/16 16:2036氪项目新势榜:不看包装,只看项目真实进展36氪 · 09/15 19:18时光机器遭遇大规模机器流量Solidot · 09/16 16:32豆包工作和飞书,把中国第一个团队 Agent 拉进了工作群爱范儿 / APPSO · 09/15 14:39AI健康走进百姓餐桌,蚂蚁阿福推出AI饮食分功能雷峰网 · 09/16 15:20电商对账的设计逻辑:四层核对,逐层下钻人人都是产品经理 · 09/16 14:36“阿宝”交新朋友:携手比亚迪“迪迪虾”,实现车机端一句话办事雷峰网 · 09/15 16:45被AI放大的光学「戏份」,让「配角」舜宇的生意越做越大雷峰网 · 09/16 18:33圆桌:探路·产业分工的新图谱,看到新未来——国家力量如何转化为产业价值 | 36氪 2026产业未来大会36氪 · 09/15 17:39GPT-6 Astra实现具身智能突破 中国如何打具身防卫战金色财经 · 09/16 14:58圆桌:CVC的全面崛起 | 36氪 2026产业未来大会36氪 · 09/15 16:5936氪首发 | 国内头部硅电容IDM企业融资亿元,切入AI芯片与高端光模块36氪 · 09/16 14:35理想落幕:加密行业为何集体走向同质化?金色财经 · 09/15 18:31以太坊 2026 年第二季度报告金色财经 · 09/15 17:06渣打给ARB十美元目标价靠什么?金色财经 · 09/16 21:36当黄仁勋和Dario遇上休谟:火鸡、台球与AI末日论金色财经 · 09/15 22:18New insights from Google’s AI & Economy ATLASGoogle AI Blog · 09/15 21:00AI攻克世纪数学难题,顶尖数学家抱团抵制,而他们担心的并不是丢了工作果壳网 · 09/15 19:15圆桌:中国之光成为新共识| 36氪 2026产业未来大会36氪 · 09/15 17:15英国殖民之前的澳大利亚原居民人口约 222 万Solidot · 09/15 23:17圆桌:智能向实,产业向新——AI如何进入真实世界 | 36氪 2026产业未来大会36氪 · 09/15 18:00缓存不该困在一台服务器里InfoQ 中文 · 09/16 07:00豆包 2.1 Pro模型更新,已接入豆包工作雷峰网 · 09/16 14:01AWS 称无法恢复中东部分可用区资源和数据的访问Solidot · 09/16 23:11只会搜关键词还不够,Agent 需要一套更聪明的本地搜索人人都是产品经理 · 09/15 16:17Optimizing cost and latency with Amazon Bedrock prompt cachingAWS Machine Learning Blog · 09/16 00:18Build an AI-powered product tagging system with Amazon SageMaker serverless model customizationAWS Machine Learning Blog · 09/16 00:11Dense vs. MoE Models: Active Parameters, Throughput, and When to Choose EachNVIDIA Technical Blog · 09/16 01:00就业率砍半,年轻人靠什么翻盘?AI时代,这三点越早做越好人人都是产品经理 · 09/15 16:12