Langfuse

Langfuse

Langfuse rastrea aplicaciones de modelos de lenguaje para que puedas ver cada prompt, llamada al modelo, paso de herramienta y coste en un solo lugar. Captura ejecuciones de agentes, sesiones de chat e entradas multimodales mediante SDKs de Python y JavaScript o OpenTelemetry, y luego las vincula a versiones de prompts y puntuaciones de evaluación. Los equipos lo utilizan para depurar fallos en producción en lugar de adivinar a partir de registros crudos de API.

Las herramientas de registro genéricas no fueron diseñadas para cadenas de modelos no deterministas. Langfuse trata rastros, observaciones y puntuaciones como objetos de primera clase, con gestión de prompts, experimentos con conjuntos de datos y evaluadores LLM como juez en el mismo proyecto. Puedes alojarlo tú mismo con la edición de código abierto o usar Langfuse Cloud cuando desees alojamiento gestionado en las regiones de EE. UU., UE o Japón.

Los ingenieros de ML integran Langfuse en LangChain, LiteLLM o aplicaciones personalizadas para rastrear el gasto de tokens. Los equipos de producto comparan versiones de prompts antes del lanzamiento, y los grupos de plataforma ejecutan colas de anotación para revisión humana. El plan gratuito Hobby en la nube incluye 50.000 unidades facturables al mes sin necesidad de tarjeta de crédito.

Funciones principales:
  1. Rastreo completo de ejecuciones de agentes LLM con spans, generaciones, conteos de tokens y desglose de costos

  2. Versión de prompts y etiquetas de despliegue a producción sin cambios en el código

  3. Ejecución de experimentos con datasets y evaluadores LLM como juez dentro del mismo proyecto

  4. SDKs de Python y JavaScript más OpenTelemetry para Java, Go y stacks personalizados

  5. Plan en la nube para hobbies incluye 50,000 unidades facturables por mes sin tarjeta de crédito

  6. Autoalojamiento de la edición de código abierto con plantillas de Docker Compose o Kubernetes

Pros:
  1. Núcleo de código abierto con un generoso nivel gratuito en la nube para proyectos iniciales.

  2. Rastreo, versión de prompts y evaluaciones en una sola plataforma.

  3. Precios escalonados reducen el costo por unidad a medida que crece el volumen de ingestión.

Cons:
  1. Las funciones avanzadas de cumplimiento como SCIM y registros de auditoría requieren el plan Enterprise.

  2. El uso adicional más allá de las unidades incluidas genera costos rápidamente en aplicaciones de alto tráfico.

Preguntas frecuentes:

¿Qué hace Langfuse?

Langfuse es una plataforma de ingeniería de LLM para rastreo, gestión de prompts y evaluación. Registra llamadas al modelo, pasos de herramientas y puntuaciones para que los equipos puedan depurar y mejorar aplicaciones de IA en producción.

¿Es gratis usar Langfuse?

Langfuse ofrece un plan gratuito en la nube Hobby con 50.000 unidades facturables por mes y una edición de código abierto para autoalojarse. Los planes de pago Core comienzan en 29 dólares por mes para una retención de datos más prolongada.

¿Puedo autoalojar Langfuse?

Sí. Langfuse es de código abierto y puede autoalojarse con Docker Compose o Kubernetes. La edición para autoalojarse incluye rastreo, prompts y evaluaciones sin necesidad de una suscripción a Langfuse Cloud.

¿Qué es una unidad facturable de Langfuse?

Una unidad facturable de Langfuse es cualquier punto de datos de rastreo enviado a la plataforma, incluyendo trazas, observaciones como spans y generaciones, y puntuaciones de evaluación.

¿Qué SDKs soporta Langfuse?

Langfuse proporciona SDKs de Python y JavaScript, además de integraciones con OpenTelemetry para Java, Go y stacks personalizados. También se integra con LangChain, LiteLLM y otros frameworks.

¿Cuánto cuesta Langfuse Pro?

Langfuse Pro cuesta 199 dólares por mes en la nube e incluye 100.000 unidades facturables, tres años de acceso a los datos, informes SOC2 y altos límites de tasa de API.

Tarificación:

Freemium

Etiquetas:

LLM Tracing
Prompt Versioning
LLM Evaluation
OpenTelemetry
Self-Hosted
Agent Observability
LLM
Open-source

Tecnología utilizada:

Next.js
Ant Design
Cloudflare
Google Analytics
Google Tag Manager
HubSpot
Laravel
Python
Ruby
GitHub
Styled Components
Tailwind CSS

Reseñas:

Give your opinion on Langfuse :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Mejor Gratis Langfuse Alternativas (y Pagadas)

By Rishit