Tune

Tune

Tune 是 NimbleBox 提供的企业级 GenAI 技术栈,帮助团队在自己的云端或本地基础设施上微调、部署和运行开源大型语言模型。该平台以 Tune Studio 为核心,用于模型实验和微调,Tune Chat 用于定制化AI助手,以及为希望获得实操支持的组织提供专业服务。

Tune Studio 为开发者提供了一个测试大型语言模型的环境,可以保存高质量的交互数据集,在专用GPU硬件上微调模型,并通过公共API或像TGI、vLLM和Triton这样的推理引擎进行部署。支持的基础模型包括 Llama 3.1、Qwen 2、Gemma 2、Mixtral 等。

公司面向需要数据所有权、符合合规要求并追求超出封闭源API弹性的企业,已获得SOC 2第2型、HIPAA和ISO 27001的合规认证,提供专用云、用户云及本地部署选项。

主要功能:
  1. 在专用GPU硬件上微调开源大型语言模型(LLMs),如Llama 3.1、Qwen 2、Gemma 2和Mixtral

  2. 通过公共API或推理堆栈(包括TGI、vLLM和Triton)部署模型

  3. 使用Tune Studio游乐场测试模型并保存交互数据集以进行训练

  4. 使用Tune Chat定制AI助手,支持文档和网络搜索

  5. 企业部署可选专用云、用户云或本地环境,符合SOC 2、HIPAA和ISO 27001标准

Pros:
  1. 支持在您自己的基础设施上微调和部署流行的开源大语言模型(LLMs)。

  2. 免费套餐包括Tune Chat和Tune Studio,且具有实用的使用限制。

  3. 企业合规选项包括SOC 2、HIPAA和ISO 27001。

Cons:
  1. 超出计划限制的代币和GPU使用需要钱包余额。

  2. 企业定价需要联系销售。

  3. tunehq.ai 首页目前显示网站未找到页面,但博客和产品子域名仍然可用。

常见问题:

Tune 提供哪些产品?

Tune 提供用于大型语言模型(LLM)微调和部署的 Tune Studio,可定制 AI 助手的 Tune Chat,以及用于定制模型工作和本地部署的企业服务。

我可以在 Tune Studio 微调哪些模型?

Tune Studio 支持对部分开源模型进行微调,包括 Llama 3.1 系列、Qwen 2、Gemma 2、Mixtral 以及其文档中列出的其他模型。

Tune 有免费套餐吗?

有。Tune 提供每用户每月 0 美元的免费套餐,包含 Tune Chat、游乐场访问权限,以及有限的部署和微调作业。专业套餐则提供完整模型访问权限和更高的使用限制。

Tune 适合企业部署吗?

适合。Tune 提供企业套餐,支持专用或本地部署、单点登录(SSO)、全天候支持,以及包括 SOC 2 类型 2、HIPAA 和 ISO 27001 在内的合规认证。

Tune 的推理收费是怎样的?

除订阅套餐外,Tune 通过钱包积分对令牌和机器使用进行收费。部分模型在有限时间内免费,其他模型则按每百万令牌计费。

定价:

免费试用和收费混合

标签:

Generative AI
LLM
Fine-Tuning
Deployment
Enterprise Security
Open Source Models
Cloud Management

使用的技术:

React

评论:

Give your opinion on Tune :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

最佳免费 Tune 替代方案(和付费)

By Rishit