Dromedary 对比 ggml.ai
在 Dromedary 和 ggml.ai 的对决中，哪个 AI Large Language Model (LLM) 工具是冠军？我们评估定价、替代品、赞成票、功能、评论等等。
如果你必须在 Dromedary 和 ggml.ai 之间做出选择，你会选择哪一个？
当我们检查Dromedary和ggml.ai时，两者都是AI启用的large language model (llm)工具，我们会发现什么独特的特征？ ggml.ai在赞成票方面脱颖而出。 ggml.ai已经获得了 7 个 aitools.fyi 用户的赞成票，而 Dromedary 已经获得了 6 个赞成票。
想改变局面？投票支持您最喜欢的工具，改变游戏！
Dromedary
什么是 Dromedary?
Dromedary 是 IBM 研究院的一个开源语言模型项目，旨在通过最少的人类标注训练出有用、合乎伦理且可靠的大型语言模型。该 GitHub 仓库提供训练代码、推理演示、提示词以及可添加到基础 LLaMA 检查点以本地运行 Dromedary 模型的增量权重。
大多数对齐流程依赖庞大的人类标注团队，而 Dromedary 遵循一套原则驱动的自我对齐方法，该方法作为 NeurIPS 2023 的重点论文发表。Dromedary-2 将原始的 SELF-ALIGN 流程简化为两个阶段，并从 ShareGPT、Dolly-15k、OpenAssistant 和 OpenOrca 中提取多样化提示词，随后在 LLaMA-2 上进行监督微调。
复制对齐方法的研究人员以及希望获得可检查的 IBM 对齐堆栈的开发者将从此仓库中受益最大。你需要自备 LLaMA 权重、用于推理的 GPU 硬件，并熟悉 Python 训练脚本，而非依赖托管 API。
ggml.ai
什么是 ggml.ai?
ggml 通过一个紧凑的 C 张量库，在日常使用的 CPU 和 GPU 上运行大型语言和语音模型，专为设备端推理构建。机器学习工程师和应用开发者通过 llama.cpp 和 whisper.cpp 采用它，以便在无需云端依赖的情况下运行 LLaMA 或 Whisper 工作负载。
像 PyTorch 这样的框架针对训练集群和重度运行时进行了优化。ggml 保持核心库的简洁，零运行时内存分配，无第三方依赖，并采用整数量化，因此 llama.cpp 能在笔记本和 Apple Silicon 上提供 Meta LLaMA 权重服务。
ggml.ai 公司由 Georgi Gerganov 于 2023 年创立，以支持该库，并于 2026 年被 Hugging Face 收购。核心 ggml 项目保持 MIT 许可证，并在 GitHub 上进行开放开发。
Dromedary 赞同数
ggml.ai 赞同数
Dromedary 顶级功能
基于原则的SELF-ALIGN管道，提供GitHub上的训练和推理代码
Dromedary-2监督微调使用ShareGPT、Dolly-15k、OpenAssistant和OpenOrca的提示
Dromedary-65b的LoRA增量权重已在Hugging Face的zhiqings/dromedary-65b-lora-delta-v0发布
Dromedary-2-70b合成SFT数据集已在Hugging Face的zhiqings/dromedary-2-70b-v2发布
推理文件夹中包含聊天机器人推理演示，支持模型并行GPU
NeurIPS 2023亮点论文链接在arxiv.org/abs/2305.03047
仓库显示1.1k GitHub星标和88个分支，采用GPL-3.0许可证
ggml.ai 顶级功能
支持 llama.cpp 进行 Meta LLaMA 推理和 whisper.cpp 进行 OpenAI Whisper 语音模型
用 C 语言编写，推理过程中无运行时内存分配
支持整数量化，用于商品硬件上的小模型
核心张量库无第三方依赖
跨平台底层实现，硬件支持广泛
MIT 许可证开源库，GitHub 上公开开发
Dromedary 类别
- Large Language Model (LLM)
ggml.ai 类别
- Large Language Model (LLM)
Dromedary 定价类型
- Free
ggml.ai 定价类型
- Free