Última atualização 07-24-2026
Categoria:
Reviews:
Join thousands of AI enthusiasts in the World of AI!
Respan (formerly Keywords AI)
Respan é uma plataforma de engenharia de LLMs para equipes que implementam agentes e aplicações de IA em produção. Encaminhe o tráfego de modelos através de um gateway, rastreie cada chamada em detalhes, execute avaliações com conjuntos de dados offline e tráfego ao vivo, além de monitorar custos, latência e erros a partir de um painel único.
O produto surgiu da Keywords AI, uma empresa do Y Combinator Winter 2024 fundada por engenheiros da Universidade de Illinois. O que começou como roteamento de LLMs evoluiu para uma observabilidade completa após clientes solicitarem visibilidade sobre o comportamento dos agentes em produção. Agora, a Respan se posiciona em torno do ciclo de rastreamento, avaliação e iteração.
Ela atende engenheiros de ML, equipes de plataforma e desenvolvedores de produtos de IA que precisam de failover de gateway, testes de versão de prompts, pontuação de qualidade de produção e controles de gastos, tudo sem precisar integrar ferramentas separadas. Clientes citados no site incluem equipes da Retell AI, Mem0, Lovable e Gumloop.
Um único endpoint acessa mais de 1.000 modelos; troque de provedor alterando apenas o nome do modelo
Fallbacks automáticos passam para o próximo modelo quando ocorre erro ou limite de taxa
Cache de respostas entrega prompts repetidos instantaneamente e reduz custos em duplicatas
Orçamentos e limites de taxa por chave API, cliente ou organização, com avisos e bloqueios
Árvores de rastreamento capturam cada chamada de LLM, execução de ferramenta, recuperação e turno do agente com custo e latência
Avaliadores combinam juízes LLM, verificação de código e revisão humana em uma única pontuação ponderada
Alertas são enviados para Slack, email ou webhooks quando custo, erros, latência ou tokens ultrapassam os limites
O nível gratuito inclui a plataforma completa com 100 mil logs e não requer cartão de crédito.
Endpoint único de gateway para mais de 500 modelos com failover, cache e limites de gasto integrados.
Avaliações vinculadas a traces permitem comparar versões de prompts e avaliar o tráfego de produção ao vivo.
Conformidade com SOC 2, GDPR e HIPAA, com BAA disponível para equipes de saúde.
O plano Team começa em $199 por mês quando faturado anualmente.
O nível gratuito limita os logs a 100 mil com retenção de 7 dias.
A conformidade HIPAA no Team requer um complemento de $249 por mês.
SAML SSO e implantação self-hosted são limitados ao Enterprise.
O Respan possui um plano gratuito?
Sim. O Respan oferece um plano gratuito a $0, sem necessidade de cartão de crédito. Ele inclui a plataforma completa, 100 mil logs, 1 mil scores, 5 conjuntos de dados, 2 avaliadores e 5 prompts. Inscreva-se em platform.respan.ai.
Qual a diferença entre Respan e Keywords AI?
Respan é a marca atual da mesma empresa, anteriormente conhecida como Keywords AI. O produto evoluiu de roteamento LLM para uma plataforma completa de engenharia LLM, cobrindo roteamento via gateway, tracing, avaliações, gerenciamento de prompts e monitoramento.
Como funciona o gateway de IA do Respan?
O Respan roteia chamadas no estilo OpenAI através de https://api.respan.ai/api/ para mais de 500 modelos, ou suporta endpoints de passagem direta de provedores. Você pode configurar fallback_models, habilitar cache de respostas e anexar customer_identifier e metadata em cada requisição. Cada chamada ao gateway é registrada automaticamente.
O Respan pode pontuar automaticamente o tráfego de LLM em produção?
Sim. O Respan executa avaliadores em amostras de spans de produção para que regressões de qualidade apareçam no tráfego ao vivo, não apenas em testes offline. Você pode fazer amostragem por percentual, filtrar por feature ou cliente, e configurar automações que alertam quando os scores caem.
Quais integrações o Respan suporta?
O Respan integra-se com OpenAI SDK, Vercel AI SDK, LangChain, LlamaIndex, LiteLLM, Mastra, Mem0 e diversos provedores de modelos incluindo OpenAI, Anthropic, Groq, AWS Bedrock e Google Gemini. SDKs para Python e JavaScript/TypeScript estão disponíveis.
O Respan está em conformidade com HIPAA?
O Respan está em conformidade com HIPAA e oferece um BAA para equipes de saúde. No plano Team, a conformidade HIPAA está disponível como um complemento de $249 por mês. Planos Enterprise incluem pacotes customizados e suporte dedicado.
Quanto custa o plano Team do Respan?
O plano Team do Respan custa $199 por mês com faturamento anual, sendo o nível popular para startups e equipes em crescimento. Inclui datasets, avaliadores e prompts ilimitados, um canal privado no Slack e acesso ao relatório SOC 2.