Langfuse

Langfuse

Langfuse 追踪 LLM 应用,让你能够在一个地方查看每一次提示词、模型调用、工具步骤与成本。它通过 Python 与 JavaScript SDK 或 OpenTelemetry 捕获代理运行、聊天会话与多模态输入,并将其与提示词版本及评估分数关联。团队用它来调试生产环境故障,而非从原始 API 日志中猜测问题。

通用日志工具并非为非确定性模型链构建。Langfuse 将追踪、观察与分数视为一等对象,并在同一项目中提供提示词管理、数据集实验与 LLM-as-judge 评估器。你可自行托管开源版,或在需要托管服务时使用 Langfuse Cloud,其覆盖美国、欧盟或日本地区。

ML 工程师将 Langfuse 集成至 LangChain、LiteLLM 或自定义应用,以追踪代币支出。产品团队在发布前比较提示词版本,平台团队则运行用于人工审核的标注队列。免费的 Hobby 云端套餐每月包含 50,000 个可计费单元,无需信用卡。

主要功能:
  1. 使用跨度、生成、token计数和成本细分追踪完整LLM代理运行

  2. 无需代码更改即可将提示版本和部署标签推送到生产环境

  3. 在同一项目内运行数据集实验和LLM评判评估

  4. 支持Python和JavaScript SDK,以及OpenTelemetry(适用于Java、Go和自定义技术栈)

  5. 免费云端计划每月包含50,000可计费单元且无需信用卡

  6. 通过Docker Compose或Kubernetes模板自托管开源版本

Pros:
  1. 核心功能开源,早期项目提供慷慨的免费云端等级

  2. 跟踪、提示版本控制和评估功能统一在一个平台

  3. 分级使用计费随数据量增长降低每单元成本

Cons:
  1. 高级合规功能(如SCIM和审计日志)需企业版计费

  2. 超出包含单元的额外使用量在高流量应用中成本增长迅速

常见问题:

Langfuse是做什么的?

Langfuse是一个用于跟踪、提示管理和评估的LLM工程平台。它记录模型调用、工具步骤和评分,以便团队调试和改进生产环境中的AI应用。

Langfuse可以免费使用吗?

Langfuse提供免费的Hobby云端套餐,每月包含50,000个可计费单元,同时提供开源的自托管版本。付费的Core套餐起价为每月29美元,提供更长的数据保留期。

Langfuse可以自托管吗?

可以。Langfuse是开源的,可通过Docker Compose或Kubernetes进行自托管。自托管版本包含跟踪、提示和评估功能,无需订阅Langfuse Cloud。

什么是Langfuse的可计费单元?

Langfuse的可计费单元是指发送到平台的任何跟踪数据点,包括跟踪记录、观察(如跨度和生成)以及评估评分。

Langfuse支持哪些SDK?

Langfuse提供Python和JavaScript SDK,以及用于Java、Go和自定义栈的OpenTelemetry集成。它还与LangChain、LiteLLM和其他框架集成。

Langfuse Pro的价格是多少?

Langfuse Pro云端版每月199美元,包含100,000个可计费单元、三年的数据访问权限、SOC2报告以及高API限流。

定价:

免费试用和收费混合

标签:

LLM Tracing
Prompt Versioning
LLM Evaluation
OpenTelemetry
Self-Hosted
Agent Observability
LLM
Open-source

使用的技术:

Next.js
Ant Design
Cloudflare
Google Analytics
Google Tag Manager
HubSpot
Laravel
Python
Ruby
GitHub
Styled Components
Tailwind CSS

评论:

Give your opinion on Langfuse :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

最佳免费 Langfuse 替代方案(和付费)

By Rishit