Langfuse
Langfuse 追踪 LLM 应用,让你能够在一个地方查看每一次提示词、模型调用、工具步骤与成本。它通过 Python 与 JavaScript SDK 或 OpenTelemetry 捕获代理运行、聊天会话与多模态输入,并将其与提示词版本及评估分数关联。团队用它来调试生产环境故障,而非从原始 API 日志中猜测问题。
通用日志工具并非为非确定性模型链构建。Langfuse 将追踪、观察与分数视为一等对象,并在同一项目中提供提示词管理、数据集实验与 LLM-as-judge 评估器。你可自行托管开源版,或在需要托管服务时使用 Langfuse Cloud,其覆盖美国、欧盟或日本地区。
ML 工程师将 Langfuse 集成至 LangChain、LiteLLM 或自定义应用,以追踪代币支出。产品团队在发布前比较提示词版本,平台团队则运行用于人工审核的标注队列。免费的 Hobby 云端套餐每月包含 50,000 个可计费单元,无需信用卡。
使用跨度、生成、token计数和成本细分追踪完整LLM代理运行
无需代码更改即可将提示版本和部署标签推送到生产环境
在同一项目内运行数据集实验和LLM评判评估
支持Python和JavaScript SDK,以及OpenTelemetry(适用于Java、Go和自定义技术栈)
免费云端计划每月包含50,000可计费单元且无需信用卡
通过Docker Compose或Kubernetes模板自托管开源版本
核心功能开源,早期项目提供慷慨的免费云端等级
跟踪、提示版本控制和评估功能统一在一个平台
分级使用计费随数据量增长降低每单元成本
高级合规功能(如SCIM和审计日志)需企业版计费
超出包含单元的额外使用量在高流量应用中成本增长迅速
Langfuse是做什么的?
Langfuse是一个用于跟踪、提示管理和评估的LLM工程平台。它记录模型调用、工具步骤和评分,以便团队调试和改进生产环境中的AI应用。
Langfuse可以免费使用吗?
Langfuse提供免费的Hobby云端套餐,每月包含50,000个可计费单元,同时提供开源的自托管版本。付费的Core套餐起价为每月29美元,提供更长的数据保留期。
Langfuse可以自托管吗?
可以。Langfuse是开源的,可通过Docker Compose或Kubernetes进行自托管。自托管版本包含跟踪、提示和评估功能,无需订阅Langfuse Cloud。
什么是Langfuse的可计费单元?
Langfuse的可计费单元是指发送到平台的任何跟踪数据点,包括跟踪记录、观察(如跨度和生成)以及评估评分。
Langfuse支持哪些SDK?
Langfuse提供Python和JavaScript SDK,以及用于Java、Go和自定义栈的OpenTelemetry集成。它还与LangChain、LiteLLM和其他框架集成。
Langfuse Pro的价格是多少?
Langfuse Pro云端版每月199美元,包含100,000个可计费单元、三年的数据访问权限、SOC2报告以及高API限流。

