Galactica 对比 ggml.ai
探索 Galactica 和 ggml.ai 的对决，找出哪个 AI Large Language Model (LLM) 工具获胜。我们分析赞成票、功能、评论、定价、替代品等等。
在比较 Galactica 和 ggml.ai 时，哪一个超越了另一个？
当我们将Galactica与ggml.ai进行对比时，两者都是AI操作的large language model (llm)工具，并将它们并排放置时，我们可以发现几个重要的相似之处和分歧。 Galactica是赞成票的明显赢家。 Galactica有 8 个赞成票，而 ggml.ai 有 7 个赞成票。
不同意结果？投票并参与决策过程！
Galactica
什么是 Galactica?
五个从125M到120B参数的开放权重检查点，为研究人员提供了一个科学训练的语言模型，该模型基于1060亿个精心策划的标记，涵盖4800万篇论文、教科书、百科全书和知识库。Galactica在一个仅解码器的Transformer架构内存储、组合并推理多种模态，包括LaTeX、Python代码、SMILES公式和氨基酸序列。Meta的Papers with Code团队开源了权重，供希望研究语言模型如何组织科学知识的研究人员使用。
通用大型语言模型训练于广泛的网络爬取数据，其中社交聊天可能占据标记预算的主导。Galactica仅使用经过策划的开放获取科学资源，论文认为这使其能够进行多轮训练而不过拟合。Meta在2022年11月发布后三天内移除了公共网络演示，因为批评者展示了自信但伪造的引用和方程，因此今天你可以从Hugging Face下载检查点，而不是通过托管界面聊天。
机器学习研究人员可以复现arXiv论文中的基准数字，包括PubMedQA的77.6%和MedMCQA开发集的52.9%。计算生物学家和化学家可以通过Galactica专门为氨基酸序列和SMILES字符串设计的标记测试蛋白质注释和分子任务。研究生在探索科学问答、引用预测或数学文字题时，可以尝试高达1200亿参数的模型，而无需从零开始训练。
ggml.ai
什么是 ggml.ai?
ggml 通过一个紧凑的 C 张量库，在日常使用的 CPU 和 GPU 上运行大型语言和语音模型，专为设备端推理构建。机器学习工程师和应用开发者通过 llama.cpp 和 whisper.cpp 采用它，以便在无需云端依赖的情况下运行 LLaMA 或 Whisper 工作负载。
像 PyTorch 这样的框架针对训练集群和重度运行时进行了优化。ggml 保持核心库的简洁，零运行时内存分配，无第三方依赖，并采用整数量化，因此 llama.cpp 能在笔记本和 Apple Silicon 上提供 Meta LLaMA 权重服务。
ggml.ai 公司由 Georgi Gerganov 于 2023 年创立，以支持该库，并于 2026 年被 Hugging Face 收购。核心 ggml 项目保持 MIT 许可证，并在 GitHub 上进行开放开发。
Galactica 赞同数
ggml.ai 赞同数
Galactica 顶级功能
五个检查点涵盖125M、1.3B、6.7B、30B和120B参数
训练语料总计1060亿个标记，涵盖4800万篇科学论文
在LaTeX方程探测中得分68.2%，对比GPT-3的49.0%
在PubMedQA达到77.6%，在MedMCQA开发基准测试中达到52.9%
30B模型在MATH上达到20.4%，对比PaLM 540B的8.8%
特殊标记涵盖引用、SMILES公式和氨基酸序列
ggml.ai 顶级功能
支持 llama.cpp 进行 Meta LLaMA 推理和 whisper.cpp 进行 OpenAI Whisper 语音模型
用 C 语言编写，推理过程中无运行时内存分配
支持整数量化，用于商品硬件上的小模型
核心张量库无第三方依赖
跨平台底层实现，硬件支持广泛
MIT 许可证开源库，GitHub 上公开开发
Galactica 类别
- Large Language Model (LLM)
ggml.ai 类别
- Large Language Model (LLM)
Galactica 定价类型
- Free
ggml.ai 定价类型
- Free