Hugging Face推出全新Kernels平台大幅提升安全与可扩展性

0 阅读5分钟开源
Hugging Face推出全新Kernels平台大幅提升安全与可扩展性

重大更新概览

Hugging Face 在近期博客中系统梳理了 Kernels 项目自上一次 "From Zero to GPU" 以来的全方位改进。此次更新围绕四大核心目标展开:

  • 安全防护:可信发布者、代码签名与 Nix 构建确保源码可验证;
  • 可用性提升:全新 Kernels 仓库类型、独立 CLI 与更友好的环境脚本;
  • 框架覆盖:原生支持 Torch Stable ABI 与 Apache TVM FFI,实现跨框架算子复用;
  • Agentic 友好:为自动化 kernel 生成与基准评估提供标准化工作流。

下面逐项展开说明。

新增仓库类型:Kernels

Hugging Face Hub 现在提供名为 kernel 的专属仓库类型。相较于传统模型仓库,Kernels 能在页面上直观展示:

  • 支持的加速器(GPU/TPU/NPU 等);
  • 兼容的操作系统与 Python 版本;
  • 依赖的后端 ABI(如 Torch 2.9 Stable ABI)。

用户可通过 https://huggingface.co/kernels 浏览全部公开 kernel,便于趋势分析与快速定位适配的算子。

强化安全机制

  1. 可信发布者:只有通过社区审查的组织才能默认加载其 kernel,非可信来源需手动开启 trust_remote_code=True
  2. 代码签名:采用 Sigstore 的 cosign 对 kernel 进行短期私钥签名,公开的公钥用于验证。签名信息随 kernel 包一起存储,防止凭证泄露后被篡改。
  3. 可复现构建:基于 Nix 的 hermetic 构建将源码 SHA1 嵌入二进制,用户可自行重新编译并比对哈希,确保二进制未被篡改。

目前签名验证仍为可选功能,后续将在加载阶段强制执行。

重构 CLI 工具

过去 kernelskernel-builder 共用一个命令集合,导致职责混乱。此次重构后:

  • kernels 仅负责 kernel 的 加载、查询、兼容性检查
  • kernel-builder 专注 构建、打包、签名

两者均提供统一的帮助文档与 JSON 输出,便于脚本化调用,尤其适配自动化 agent。

扩展框架与后端支持

  • Torch Stable ABI:kernel 可声明兼容特定 Torch Stable ABI,确保在该 ABI 生命周期内无需重新编译即可使用。
  • Apache TVM FFI:首次引入跨框架 FFI,kernel 可在 PyTorch、JAX、CuPy 等生态间共享,实现“一次实现,多平台运行”。

这些改动大幅降低了算子迁移成本,为研发团队在多硬件环境下保持统一代码基提供了技术支撑。

为 Agentic Kernel 奠基

Hugging Face 明确将 Kernels 视为 agentic kernel 开发 的底层设施。具体体现在:

  • kernel-builder 的 CLI 采用非交互式输出,便于 LLM/agent 解析;
  • 内置 backend‑specific skills,帮助 agent 识别不同加速器的编译链路;
  • 与 HF Jobs 紧密集成,agent 可直接发起 benchmark 作业,收集性能数据并反馈至优化循环。

官方示例已展示了通过 agent 自动生成、编译、基准测试并迭代优化的完整流程。

环境与兼容性改进

  • 一键环境脚本:提供 setup.sh 脚本,实现从依赖安装到 Nix 沙箱配置的全自动化;
  • Terraform 模板:支持在云端瞬时启动临时构建实例,降低本地环境配置门槛。
  • 系统卡片:每个 kernel 在 Hub 上会自动生成系统卡,列出兼容矩阵、使用示例及接口说明,帮助用户快速判断是否可在当前机器上运行。

结语

通过本轮更新,Kernels 项目从“实验性工具”迈向“生产级基础设施”。安全防护、跨框架兼容以及对 agentic 工作流的原生支持,使得自定义算子在开放生态中的流通与复用更加可靠。Hugging Face 呼吁社区继续贡献 kernel,携手构建更安全、更高效的 AI 计算堆栈。

本文是对第三方新闻源的主观解读。消息可能出现过时、不准确、歧义或错误的地方,仅供参考使用。点击此处查看消息源。