Respan

Respan

Respan是一个用于团队在生产环境中部署语言模型和智能体产品的LLM工程平台。通过一个网关路由请求,捕获每次调用作为追踪,对实时流量进行评估,并通过共享仪表盘管理提示。它为需要在发布后调试、衡量和改进AI功能的工程和产品团队而打造。

该产品源自Keywords AI,最初是伊利诺伊大学的一个LLM路由API,后来扩展为完整的可观察性工具。Respan现在围绕一个单一的跨度数据模型统一网关路由、追踪、评估和提示管理,使生产日志能够直接用于质量评分和迭代。

平台团队、AI工程师和大规模运作智能体的初创公司使用Respan来监控成本和延迟、发现回归问题,以及在无需重新部署应用代码的情况下发布提示或模型变更。网站上引用的客户包括Retell AI、Lovable、Gumloop和Mem0。

主要功能:
  1. 通过一个网关路由OpenAI风格的调用到500多个模型

  2. 当模型出错或限流时自动回退和重试

  3. 每次网关调用都会生成带有各跨度延迟的追踪树

  4. 组合评估器,包括LLM评审、代码检查和人工审核

  5. 为每个API密钥设置软警告或硬预算上限并通过Slack发送提醒

Pros:
  1. 免费套餐包括完整平台,支持10万个日志,无需信用卡。

  2. Gateway 支持500多个模型,集成回退、重试、缓存和支出限制于一处。

  3. 结合追踪、评估、提示管理和基于共享跨度数据的网关路由。

  4. SOC 2、GDPR、ISO 27001 和 HIPAA 合规选项在网站上有详细说明。

Cons:
  1. 团队计划仅包括五个成员席位,之后每增加一名成员需另付费。

  2. 免费套餐的日志保留期限为七天,而团队套餐为30天。

  3. 通过 Respan 路由而非直接调用提供商,Gateway 会增加大约 50 到 150 毫秒的延迟。

常见问题:

Respan有免费套餐吗?

有的。Respan提供一个免费套餐,包含完整平台功能、10万条日志、1000个评分、5个数据集、2个评估者和5个提示。注册无需信用卡。

Respan支持哪些模型?

Respan通过其AI网关路由请求到500多个模型。您可以通过Respan发送类似OpenAI的调用,也可以保持各服务商的本地SDK在直通端点,同时每个请求都会被记录。

Respan支持哪些集成?

Respan集成了包括LangChain、LlamaIndex、Vercel AI SDK、OpenAI SDK、Mastra、Mem0、PostHog和LiteLLM等框架和工具。Python和JavaScript SDK文档刊载于respan.ai/docs。

Respan是否符合HIPAA合规性?

Respan声明符合HIPAA合规要求,并在企业套餐中为医疗机构提供业务关联协议(BAA)。定价页列出了每月的HIPAA合规性附加费用。

Respan以前叫什么名字?

Respan之前名为Keywords AI。公司于2026年2月更名为Respan,同时业务从LLM路由扩展到完整的可观测性和评估平台。

分类:

定价:

免费试用和收费混合

标签:

LLM Observability
AI Gateway
LLMops
Agent Tracing

使用的技术:

Next.js
Chakra UI
WordPress
Amazon CloudFront
Amazon Web Services
Google Analytics
Google Tag Manager
Python
Ruby
Twilio
Zapier
GitHub
Emotion
Tailwind CSS

评论:

Give your opinion on Respan :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

最佳免费 Respan 替代方案(和付费)

By Rishit