Tune 对比 mshumer/gpt-prompt-engineer - GitHub

Tune 是 NimbleBox 提供的企业级 GenAI 技术栈，帮助团队在自己的云端或本地基础设施上微调、部署和运行开源大型语言模型。该平台以 Tune Studio 为核心，用于模型实验和微调，Tune Chat 用于定制化AI助手，以及为希望获得实操支持的组织提供专业服务。

Tune Studio 为开发者提供了一个测试大型语言模型的环境，可以保存高质量的交互数据集，在专用GPU硬件上微调模型，并通过公共API或像TGI、vLLM和Triton这样的推理引擎进行部署。支持的基础模型包括 Llama 3.1、Qwen 2、Gemma 2、Mixtral 等。

公司面向需要数据所有权、符合合规要求并追求超出封闭源API弹性的企业，已获得SOC 2第2型、HIPAA和ISO 27001的合规认证，提供专用云、用户云及本地部署选项。

mshumer/gpt-prompt-engineer 是一个开源的提示词工程工具包，可为您定义的任务生成、测试和排序候选提示词。您描述用例、提供测试用例，笔记本会创建多个提示词变体，在每个测试用例上运行它们，并使用 ELO 评分系统（起始分为 1200）对结果进行排序。它以 Jupyter 笔记本形式提供，您可以在 Google Colab 或本地运行。

大多数提示词工具一次只帮助您编写一个提示词。gpt-prompt-engineer 则将提示词选择视为一场锦标赛：数十个候选提示词在您的测试用例上竞争，最高 ELO 分数会显示出获胜者。单独的笔记本涵盖分类任务、使用自动生成测试用例的 Claude 3 Opus，以及用于降低推理成本的 Opus-to-Haiku 转换。可选的 Weights & Biases 和 Portkey 可记录每次运行的追踪信息。

ML 工程师、提示词工程师和 AI 开发者在需要可复现的提示词调优（而非手动反复试错）时会使用它。该仓库在 GitHub 上获得了 9.7k 星标，并可使用您自己的 OpenAI 或 Anthropic API 密钥运行。它在 MIT 许可证下免费使用。