最后更新 06-28-2026
分类:
Reviews:
Join thousands of AI enthusiasts in the World of AI!
Ray
Ray 是一个开源的 AI 计算引擎，用于跨 CPU 和 GPU 运行分布式 Python 工作负载。它协调训练、推理、数据处理和强化学习，使团队能够在无需重写代码的情况下，从笔记本原型迁移到生产集群。该项目由 Anyscale 维护，支持Today用于生产的规模大规模 AI 平台。
Ray 是 Python 原生的，基于一小组原语构建：任务（tasks）、演员（actors）和对象（objects）。这种设计让你可以分布式运行普通的 Python 函数和类，而不需要学习一套单独的集群API。在其之上，提供高层库，用于数据加载、超参数调优、模型训练、服务和强化学习流程。
该框架面向需要在异构硬件上进行细粒度扩展的 ML 工程师、数据科学家和平台团队。Ray 支持多模态数据、基础模型训练、批处理和在线 LLM 推理、GenAI 流水线，以及通过 Ray Data、Train、Serve、Tune 和 RLlib 等库实现的经典 ML 模型。
将Python代码从笔记本扩展到数千个GPU
Ray Data处理图像、视频、音频和结构化数据集
一行代码实现分布式基础模型训练
Ray Serve独立扩展模型，使用部分GPU资源
在混合CPU和GPU管道上进行批量和在线LLM推理
Ray RLlib运行生产级强化学习工作负载
开源框架，在 GitHub 上拥有 3.48 万星标和 ray.io 上列出的 1000 多名贡献者。
通过 Ray Data、Train、Tune、Serve 和 RLlib 库覆盖完整的机器学习生命周期。
通过原生 Python API，从本地开发扩展到大型 GPU 集群。
支持异构的 CPU 和 GPU 集群，针对每个工作负载实现独立扩展。
托管服务和企业功能现在线上Anyscale平台，而非ray.io本身。
大多数文档和深入的设置指南位于docs.ray.io，而非营销网站。
在本地开发之外，生产集群操作仍然需要分布式系统专业知识。
Ray是免费使用的吗？
是的。Ray是一款开源软件，您可以安装并在自己的基础设施上运行。Ray.io还链接到Anyscale，这是由Ray团队打造的托管平台，提供免费试用，包含价值100美元的托管Ray工作负载信用额度。
Ray支持哪些AI工作负载？
Ray支持并行Python代码、多模态数据处理、分布式模型训练、在线和批量模型服务、批量推理、强化学习、生成式AI工作流、大型语言模型（LLM）推理以及LLM微调。主页列出了涵盖仿真、回测、RAG应用和基础模型训练的用例。
Ray包含哪些库？
Ray包含Ray Core及多个高级库：用于数据处理的Ray Data，用于分布式训练的Ray Train，用于超参数搜索的Ray Tune，用于模型部署的Ray Serve，以及用于强化学习的Ray RLlib。ray.io上的文档和产品页面还提及用于大型语言模型工作负载的Ray LLM。
Ray使用什么编程语言？
Ray是专为Python设计的。您只需编写标准的Python函数和类，Ray会将其分布到集群中。该网站介绍Ray是由开发者为开发者构建，旨在让现有Python代码无需采用新语言或框架特定集群层即可实现扩展。
如何获得帮助或加入Ray社区？
Ray维护着一个社区Slack工作区、讨论论坛（discuss.ray.io）、GitHub仓库（github.com/ray-project/ray）以及X账号（@raydistributed）。Ray.io还指向Anyscale的培训课程和文档（docs.ray.io），方便用户进行实践学习。
Ray能在同一工作负载中使用不同的GPU和CPU吗？
可以。Ray专为异构计算设计。该网站强调了混合GPU和CPU的独立扩展、分数资源分配，以及结合CPU预处理和GPU推理的流水线，从而提升资源利用率并降低批量推理成本。