Anything LLM

Anything LLM

AnythingLLM 是一款桌面和服务器应用,允许你与自己的文档进行聊天、运行 AI 代理,并在不同语言模型之间切换,无需手动搭建基础设施。你可以在本地运行模型,连接到 OpenAI 或 Azure 等提供商,支持处理 PDF 文件、Word 文件、CSV 文件、代码库和其他你已存储的格式。

该产品专为希望在自己的硬件或环境中实现 LLM 工作流程的用户设计。桌面应用可以在 macOS、Windows 或 Linux 上安装,无需账户。托管云和自托管的 Docker 部署则提供多用户访问、租户隔离、管理员控制和白标品牌定制,适合团队使用。

隐私始终是核心。桌面默认将模型、嵌入、向量存储、聊天记录和文档保存在运行应用的机器上,除非你选择其他设置。该项目采用 MIT 许可证开源,并提供一个社区中心,用于插件技能、系统提示、斜线命令和扩展的管理。

主要功能:
  1. macOS、Windows 和 Linux 上的一键桌面安装,无需注册账户

  2. 跨 PDF、Word 文档、CSV、代码库及在线导入源进行聊天

  3. 运行本地模型或接入 OpenAI、Azure、AWS 等托管的大型语言模型提供商

  4. 内置代理、RAG、向量存储及开发者 API 于一体的界面

  5. 社区中心分享代理技能、系统提示、斜杠命令和插件

  6. 云端及自托管方案支持多用户租户、管理员控制及白标品牌定制

Pros:
  1. 桌面应用免费下载,完全本地运行,无需创建账户。

  2. 开源MIT项目,支持Docker自托管,并拥有庞大的GitHub社区。

  3. 支持本地模型以及OpenAI、Azure、AWS等企业级大型语言模型提供商。

  4. 集成文档聊天、智能代理、检索增强生成(RAG)、向量存储和开发者API。

  5. 云端和自托管选项增加多用户租户、管理员控制和自定义品牌标识。

Cons:
  1. 托管云计划起价为每月50美元,因此托管团队使用不是免费的。

  2. 基础云层限制少于五个用户且文档数量少于100份。

  3. 企业定价需要与销售人员沟通,而非自助结账。

常见问题:

AnythingLLM 是免费使用的吗?

是的。AnythingLLM Desktop 可免费下载,而开源项目可以通过 Docker 自行托管,无需支付许可费用。AnythingLLM 还提供付费的托管云方案,团队若需托管私有实例,起价为每月 50 美元。

我的文档在 AnythingLLM 中保存在什么位置?

在 AnythingLLM Desktop 上,您的文档、聊天记录、模型和嵌入向量默认存储在您的本地机器上。云端和自托管部署则将数据保存在您的私有实例内,且不同用户之间具备租户隔离。

AnythingLLM 支持哪些操作系统?

AnythingLLM Desktop 可运行于 macOS、Windows 和 Linux。网站提供针对 Mac 的 Apple Silicon 和 Intel 版本下载,以及适用于 Windows 和 Linux 的安装程序。

使用 AnythingLLM Desktop 需要账户吗?

不需要。AnythingLLM Desktop 不是 SaaS,无需注册即可安装和使用完整的本地工具集。托管云计划在您选择托管实例时使用独立的结账流程。

AnythingLLM 与带有 PDF 插件的 ChatGPT 有何不同?

AnythingLLM 可在您的桌面或自有服务器上运行,允许您选择本地或企业级 LLM 提供商,并默认使文档和聊天内容由您掌控。同时,它将代理、RAG、向量存储和开发者 API 集成在一个应用中,而不是依赖单一的托管聊天界面。

AnythingLLM 提供哪些托管方案?

AnythingLLM Cloud 提供基础方案(Basic),起价为每月 50 美元,适合小型团队;专业方案(Pro)每月 99 美元,包含72小时支持服务级别协议;企业方案(Enterprise)支持本地安装和定制支持。此外,自托管的 Docker 版本也可免费使用。

定价:

免费试用和收费混合

标签:

AI
document management
local application
privacy
open source
RAG
AI agents
self-hosted
LLM

使用的技术:

React
Ant Design
Framer Sites
Cloudflare
Google Analytics
Google Tag Manager
Microsoft Clarity
Google Fonts
Font Awesome
Ruby
GitHub

评论:

Give your opinion on Anything LLM :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

最佳免费 Anything LLM 替代方案(和付费)

By Rishit