Anything LLM
AnythingLLM 是一款桌面和服务器应用,允许你与自己的文档进行聊天、运行 AI 代理,并在不同语言模型之间切换,无需手动搭建基础设施。你可以在本地运行模型,连接到 OpenAI 或 Azure 等提供商,支持处理 PDF 文件、Word 文件、CSV 文件、代码库和其他你已存储的格式。
该产品专为希望在自己的硬件或环境中实现 LLM 工作流程的用户设计。桌面应用可以在 macOS、Windows 或 Linux 上安装,无需账户。托管云和自托管的 Docker 部署则提供多用户访问、租户隔离、管理员控制和白标品牌定制,适合团队使用。
隐私始终是核心。桌面默认将模型、嵌入、向量存储、聊天记录和文档保存在运行应用的机器上,除非你选择其他设置。该项目采用 MIT 许可证开源,并提供一个社区中心,用于插件技能、系统提示、斜线命令和扩展的管理。
macOS、Windows 和 Linux 上的一键桌面安装,无需注册账户
跨 PDF、Word 文档、CSV、代码库及在线导入源进行聊天
运行本地模型或接入 OpenAI、Azure、AWS 等托管的大型语言模型提供商
内置代理、RAG、向量存储及开发者 API 于一体的界面
社区中心分享代理技能、系统提示、斜杠命令和插件
云端及自托管方案支持多用户租户、管理员控制及白标品牌定制
桌面应用免费下载,完全本地运行,无需创建账户。
开源MIT项目,支持Docker自托管,并拥有庞大的GitHub社区。
支持本地模型以及OpenAI、Azure、AWS等企业级大型语言模型提供商。
集成文档聊天、智能代理、检索增强生成(RAG)、向量存储和开发者API。
云端和自托管选项增加多用户租户、管理员控制和自定义品牌标识。
托管云计划起价为每月50美元,因此托管团队使用不是免费的。
基础云层限制少于五个用户且文档数量少于100份。
企业定价需要与销售人员沟通,而非自助结账。
AnythingLLM 是免费使用的吗?
是的。AnythingLLM Desktop 可免费下载,而开源项目可以通过 Docker 自行托管,无需支付许可费用。AnythingLLM 还提供付费的托管云方案,团队若需托管私有实例,起价为每月 50 美元。
我的文档在 AnythingLLM 中保存在什么位置?
在 AnythingLLM Desktop 上,您的文档、聊天记录、模型和嵌入向量默认存储在您的本地机器上。云端和自托管部署则将数据保存在您的私有实例内,且不同用户之间具备租户隔离。
AnythingLLM 支持哪些操作系统?
AnythingLLM Desktop 可运行于 macOS、Windows 和 Linux。网站提供针对 Mac 的 Apple Silicon 和 Intel 版本下载,以及适用于 Windows 和 Linux 的安装程序。
使用 AnythingLLM Desktop 需要账户吗?
不需要。AnythingLLM Desktop 不是 SaaS,无需注册即可安装和使用完整的本地工具集。托管云计划在您选择托管实例时使用独立的结账流程。
AnythingLLM 与带有 PDF 插件的 ChatGPT 有何不同?
AnythingLLM 可在您的桌面或自有服务器上运行,允许您选择本地或企业级 LLM 提供商,并默认使文档和聊天内容由您掌控。同时,它将代理、RAG、向量存储和开发者 API 集成在一个应用中,而不是依赖单一的托管聊天界面。
AnythingLLM 提供哪些托管方案?
AnythingLLM Cloud 提供基础方案(Basic),起价为每月 50 美元,适合小型团队;专业方案(Pro)每月 99 美元,包含72小时支持服务级别协议;企业方案(Enterprise)支持本地安装和定制支持。此外,自托管的 Docker 版本也可免费使用。

