PyTorch Foundation 在 Linux Foundation 体系内运作,负责支持开源、供应商中立的 AI 项目。它已从围绕 PyTorch 的单项目基金会扩展为多项目基金会。基金会 2026 年 7 月的项目进展列出六个托管项目:PyTorch、vLLM、DeepSpeed、Ray、Helion 和 Safetensors。本文按 AI 工作流介绍它们,不把项目数量或采用度做官方排名。
模型开发与训练
- PyTorch 提供张量计算、自动微分和 GPU 加速能力,是研究和生产机器学习工作流的基础框架。基金会 2026 年项目更新提到 PyTorch 2.13 和当季开发进展。
- DeepSpeed 面向大规模模型训练与推理,提供分布式训练、内存优化和并行执行能力,帮助在多 GPU 或多节点环境中扩展模型工作负载。
- Helion 为 GPU 内核开发提供更高层的编程抽象,目标是让开发者能编写可适配不同 GPU 后端的高性能内核。
大模型推理与分布式执行
- vLLM 是大语言模型推理和服务引擎,重点优化吞吐、显存使用和并发请求处理。基金会报告其保持稳定的双周发布节奏。
- Ray 是分布式计算框架,可扩展 Python 程序、训练工作负载和在线推理服务;Ray 于 2025 年捐赠给 PyTorch Foundation。
模型权重与安全加载
Safetensors 是跨语言的张量序列化格式,关注安全加载和高效读取,可用于存储与分发模型权重。
这六个项目覆盖框架、训练、推理、分布式计算、GPU 内核和模型文件格式,但各自解决的问题不同。构建应用时通常从 PyTorch 框架或推理引擎开始;只有遇到大规模训练扩展、服务并发或底层内核性能瓶颈时,再评估相应项目。
基金会负责支持项目协作和生态建设,各技术项目仍有自己的维护者与路线。生产选型应查看各项目的官方文档、发布节奏、硬件支持范围和兼容性;基金会托管本身不等于它们构成一个必须整体采用的平台。