Math??tral - Mistral AI

Math??tral - Mistral AI

Mistral AI 推出了 Math??tral 作为一个开源的大型语言模型,专注于STEM推理和多步数学问题。这个7B模型基于 Mistral 7B 构建,能够处理会让普通聊天模型卡壳的逻辑链。模型权重已上传到 HuggingFace,你可以使用 mistral-inference 或 mistral-finetune在本地运行或微调,避免按令牌付费的 Mistral API。

与追求广泛能力的旗舰模型不同,Math??tral 更注重数学和科学的深度,体积却很小。它在MATH测试中的得分为56.6%,在多数投票加上从64个候选中选择的奖励模型的帮助下,得分提升到74.59%。这种测试时的扩展方式对于一个7B模型来说较为罕见,也反映了Mistral背后与 Project Numina 合作的学术数学重点。

需要一个紧凑模型进行基准测试或定制数学辅导的研究人员、机器学习工程师和教育者,可以免费下载带有文档的权重,显示其在STEM科目上的MMLU提升高于基础的Mistral 7B。Mistral 以科学社区的贡献方式开发了它,评估用的是由Paul Bourdon教授整理的GRE数学科目测试题。

主要功能:
  1. 默认推理下56.6%的数学基准,经过64个候选模型中的奖励模型选择后提升至74.59%

  2. 7B参数基于Mistral 7B构建,在MMLU上的STEM表现相较基础模型有显著提升

  3. 开放权重托管于HuggingFace,地址为 mistralai/mathstral-7B-v0.1,支持本地下载

  4. 通过 mistral-inference v1.2.0+ 运行,或使用 mistral-finetune 工具包进行适配

  5. 与Project Numina合作开发,旨在解决需要多步骤逻辑推理的高级问题

Pros:
  1. HuggingFace 上免费开放权重,支持自托管且无每令牌 API 费用。

  2. 7B 模型拥有强大的 MATH 分数,通过测试时投票法有明确的提升准确度路径。

  3. 可通过 mistral-finetune 或 la Plateforme 进行微调,适用于特定领域的数学工作流程。

Cons:
  1. 未作为托管的 Mistral API 模型提供,因此您必须自行运行或部署权重。

  2. STEM 专业化意味着其通用聊天广度较 Mistral 更大型的旗舰模型较弱。

  3. 在商业生产环境中部署开源权重的 Mistral 模型可能需要单独的 Mistral 许可。

常见问题:

Math??tral 是免费使用的吗?

是的。Math??tral 是一个免费的开源模型。Mistral 在 HuggingFace 上托管了 mathstral-7B-v0.1 权重,您可以下载并本地运行或微调该模型,而无需为模型本身支付 API 令牌费用。

如何在本地运行 Math??tral?

在下载 HuggingFace 权重后,Math??tral 可通过 mistral-inference v1.2.0 或更高版本运行。Mistral 将其标注为一个指令式模型,所以请按照他们的推理指南或 mistral-finetune 指南操作,而不要将其当做原始基础检查点使用。

Math??tral 在 MATH 基准测试中得分是多少?

Math??tral 在默认推理下的 MATH 得分为 56.6%。通过多数投票可提升至 68.37%,而采用强力奖励模型从 64 个候选中挑选时,在同一基准上得分可达到 74.59%。

Math??tral 是否在 Mistral API 上可用?

不,Math??tral 没有列在 Mistral 的 API 价格页面上。您需要从 HuggingFace 下载开放权重,并通过 mistral-inference 自行托管,或者使用 mistral-finetune 进行微调,而不是调用托管端点。

Math??tral 模型有多大?

Math??tral 是基于 Mistral 7B 构建的一个 7 亿参数指令式模型。Mistral 将其归类为小型模型类别,并报告其在数学基准测试中同类别模型中的领先推理分数。

Math??tral 是谁与 Mistral 合作开发的?

Math??tral 是与 Project Numina 合作开发的,后者是一个专注于高级数学问题解决的学术项目。Mistral 还感谢 Paul Bourdon 教授为评估中使用的 GRE 数学科目测试题目提供策划。

可以微调 Math??tral 吗?

可以。Math??tral 是一个指令式模型,您可以使用 mistral-finetune 或通过 Mistral 的 la Plateforme 上的微调功能进行微调。Mistral 强调专门打造的小型模型,作为在速度和领域深度之间进行权衡的方式。

定价:

免费

标签:

STEM
Mathematics
Open Source
Mistral AI
Machine Learning
Large Language Model

使用的技术:

Netlify
Google Tag Manager
Discord
GitHub
Tailwind CSS

评论:

Give your opinion on Math??tral - Mistral AI :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

最佳免费 Math??tral - Mistral AI 替代方案(和付费)

By Rishit