NVIDIA DGX Cloud Lepton (formerly Lepton AI) 对比 mshumer/gpt-prompt-engineer - GitHub

NVIDIA DGX Cloud Lepton 通过一个平台连接开发者与全球云合作伙伴的 GPU 计算资源。无论 GPU 位于 AWS、CoreWeave、Lambda，还是符合数据主权规则的区域供应商，您都可以使用单一工作流程构建、训练和部署模型。该平台集成了 NVIDIA NIM 微服务、build.nvidia.com 上的无服务器端点，以及用于推理、测试和训练的工具，无需在切换供应商时重新架构。

独立的 GPU 市场要求您选择一个云平台，并在容量变动时重写部署脚本。DGX Cloud Lepton 作为计算中介：发现来自 25+ 合作伙伴的 GPU，在数据所在位置运行工作负载，并从原型到生产保持相同的开发者体验。NVIDIA 于 2025 年 4 月收购了最初的 Lepton AI 初创公司，并将其整合进这一统一的多云层。

目标用户为 AI 原生初创企业、模型构建者和超出单一云合同的平台团队。平台上的合作伙伴包括 AWS、CoreWeave、Crusoe、Lambda、Nebius、Scaleway 和 Together AI，配备 Blackwell 和 H100 级硬件。访问通过 build.nvidia.com API 和开源的 leptonai Python 库开始。

mshumer/gpt-prompt-engineer 是一个开源的提示词工程工具包，可为您定义的任务生成、测试和排序候选提示词。您描述用例、提供测试用例，笔记本会创建多个提示词变体，在每个测试用例上运行它们，并使用 ELO 评分系统（起始分为 1200）对结果进行排序。它以 Jupyter 笔记本形式提供，您可以在 Google Colab 或本地运行。

大多数提示词工具一次只帮助您编写一个提示词。gpt-prompt-engineer 则将提示词选择视为一场锦标赛：数十个候选提示词在您的测试用例上竞争，最高 ELO 分数会显示出获胜者。单独的笔记本涵盖分类任务、使用自动生成测试用例的 Claude 3 Opus，以及用于降低推理成本的 Opus-to-Haiku 转换。可选的 Weights & Biases 和 Portkey 可记录每次运行的追踪信息。

ML 工程师、提示词工程师和 AI 开发者在需要可复现的提示词调优（而非手动反复试错）时会使用它。该仓库在 GitHub 上获得了 9.7k 星标，并可使用您自己的 OpenAI 或 Anthropic API 密钥运行。它在 MIT 许可证下免费使用。