Langfuse
O Langfuse rastreia aplicações LLM para que você possa ver cada prompt, chamada de modelo, etapa de ferramenta e custo em um só lugar. Ele captura execuções de agentes, sessões de chat e entradas multimodais por meio de SDKs Python e JavaScript ou OpenTelemetry, depois as vincula a versões de prompts e pontuações de avaliação. Equipes o utilizam para depurar falhas de produção em vez de adivinhar a partir de logs brutos de API.
Ferramentas genéricas de registro não foram projetadas para cadeias de modelos não determinísticos. O Langfuse trata rastros, observações e pontuações como objetos de primeira classe, com gerenciamento de prompts, experimentos com conjuntos de dados e avaliadores LLM como juiz no mesmo projeto. Você pode auto-hospedar a edição de código aberto ou usar o Langfuse Cloud quando quiser hospedagem gerenciada nas regiões dos EUA, UE ou Japão.
Engenheiros de ML integram o Langfuse ao LangChain, LiteLLM ou aplicativos personalizados para rastrear gastos com tokens. Equipes de produto comparam versões de prompts antes do lançamento, e grupos de plataforma executam filas de anotação para revisão humana. O plano gratuito Hobby na nuvem inclui 50.000 unidades faturáveis por mês sem necessidade de cartão de crédito.
Rastreie execuções completas de agentes LLM com spans, gerações, contagem de tokens e detalhamento de custos
Versiona prompts e implanta rótulos em produção sem alterações no código
Execute experimentos com datasets e avaliadores LLM-judge dentro do mesmo projeto
SDKs Python e JavaScript além de OpenTelemetry para Java, Go e stacks personalizados
Plano Hobby na nuvem inclui 50.000 unidades faturáveis por mês sem necessidade de cartão de crédito
Auto-hospede a edição open-source com modelos Docker Compose ou Kubernetes
Núcleo open-source com uma camada gratuita generosa na nuvem para projetos iniciais.
Rastreamento, versionamento de prompts e avaliações em uma única plataforma.
Preços escalonados reduzem o custo por unidade à medida que o volume de ingestão cresce.
Recursos avançados de conformidade como SCIM e logs de auditoria exigem plano Enterprise.
Uso adicional além das unidades incluídas aumenta rapidamente os custos em aplicativos de alto tráfego.
O que o Langfuse faz?
Langfuse é uma plataforma de engenharia de LLMs para rastreamento, gerenciamento de prompts e avaliação. Ele registra chamadas de modelos, etapas de ferramentas e pontuações para que as equipes possam depurar e melhorar aplicações de IA em produção.
O Langfuse é gratuito?
O Langfuse oferece um plano gratuito Hobby na nuvem com 50.000 unidades faturáveis por mês e uma edição open-source para auto-hospedagem. Os planos pagos Core começam em $29 por mês para retenção de dados mais longa.
Posso auto-hospedar o Langfuse?
Sim. O Langfuse é open source e pode ser auto-hospedado com Docker Compose ou Kubernetes. A edição auto-hospedada inclui rastreamento, prompts e avaliações sem uma assinatura Langfuse Cloud.
O que é uma unidade faturável do Langfuse?
Uma unidade faturável do Langfuse é qualquer ponto de dados de rastreamento enviado à plataforma, incluindo traces, observações como spans e gerações, e pontuações de avaliação.
Quais SDKs o Langfuse suporta?
O Langfuse fornece SDKs em Python e JavaScript, além de integrações com OpenTelemetry para Java, Go e stacks personalizados. Ele também se integra com LangChain, LiteLLM e outros frameworks.
Quanto custa o Langfuse Pro?
O Langfuse Pro custa $199 por mês na nuvem e inclui 100.000 unidades faturáveis, três anos de acesso aos dados, relatórios SOC2 e limites altos de taxa de API.

