最后更新 08-22-2026
分类:
Reviews:
Join thousands of AI enthusiasts in the World of AI!
Unsloth
Unsloth 通过开源的 Python 库和本地桌面应用，让您在自己的硬件上训练、运行和导出大型语言模型。您可以与 GGUF 和 safetensor 模型进行对话，从文档构建数据集，生成图像和视频，并将训练好的权重传输到 Ollama 或 vLLM 等工具，全部在本地完成。它适合希望更快进行 LoRA 训练且不放弃模型选择的机器学习工程师、研究人员和爱好者。
核心库使用 Triton 重写训练内核，声称比标准配置快约 2 倍微调速度，显存使用减少约 70%，支持 500 多种文本、视觉、音频和嵌入模型。Unsloth Desktop 增加了无代码工作流：数据配方可将 PDF、CSV 和 JSON 转换为训练数据，实时可观测性功能可跟踪运行时的损失和 GPU 使用情况。
您可以在 Mac、Windows 或 Linux 上离线运行所有功能。桌面版包括自愈工具调用、Bash 和 Python 代码执行、模型追踪中的私有网页搜索，以及兼容 OpenAI 的 API 端点，支持 Claude Code 或 Codex 等工具。开源包采用 Apache 2.0 许可证；桌面 UI 组件使用 AGPL-3.0。
使用定制的 Triton 核心训练 500+ 文本、视觉、音频和嵌入模型
Unsloth Desktop 在 Mac、Windows 和 Linux 上 100% 离线运行 GGUF 和 safetensor 模型
使用 MiniMax-H3、FLUX 和 Z-Image 生成图像，以及使用 Wan 和 LTX 本地生成视频
通过 unsloth start 命令将 Claude Code 和 Codex 连接到本地模型
聊天中调用自我修复工具，支持 Bash、Python 执行和私有网页搜索
将微调权重导出到 GGUF、safetensors、Ollama、vLLM 或 LM Studio
开源核心库，GitHub 星标超过 67000 个，社区活跃
声称微调速度提升 2 倍，所需 VRAM 比标准训练堆少约 70%
Unsloth Desktop 集成本地推理、无代码训练和导出于一体的离线应用
支持 500+ 模型系列，包括文本、视觉、TTS 和嵌入模型
Pro 和 Enterprise 版本需联系销售，无公开定价
尽管今天聊天正常，AMD 桌面训练支持尚未提供
桌面版仍处于测试阶段，预计会有持续修复和功能更新
Unsloth是免费使用的吗？
是的。Unsloth在GitHub上提供免费的开源版本，支持Mistral、Gemma和Llama模型，以及4-bit和16-bit的LoRA微调。Unsloth Pro和Enterprise版本支持更快的多GPU训练，需联系团队获取价格信息。
Unsloth Desktop支持哪些平台？
Unsloth Desktop可在Mac、Windows、Linux和WSL本地运行。训练支持NVIDIA RTX 30/40/50、Blackwell、DGX Spark/Station和Intel GPU。Mac支持训练、MLX和GGUF推理。AMD聊天功能现已可用；完整的Desktop训练支持即将推出。
Unsloth会收集用户数据吗？
Unsloth声明不收集使用遥测数据。Unsloth Desktop完全离线本地运行。公司仅收集极少的硬件信息，如GPU类型，用于兼容性检查。
我可以不用微调模型直接使用Unsloth吗？
可以。您可以下载并运行任何GGUF或支持的模型，无需训练即可在Unsloth Desktop中使用。界面还支持聊天、模型并排比较和导出现有权重。
Unsloth支持OpenAI兼容的API吗？
支持。Unsloth Desktop提供OpenAI兼容的API端点，允许Claude Code和Codex等工具调用本地的Qwen、Gemma及其他模型，并支持Unsloth的推理功能，如工具调用和网页搜索。
Unsloth使用什么许可证？
Unsloth采用双重许可。核心Unsloth包采用Apache 2.0许可证，包含Unsloth Desktop UI的可选组件则采用AGPL-3.0许可证。