Respan
Respan是一个用于团队在生产环境中部署语言模型和智能体产品的LLM工程平台。通过一个网关路由请求,捕获每次调用作为追踪,对实时流量进行评估,并通过共享仪表盘管理提示。它为需要在发布后调试、衡量和改进AI功能的工程和产品团队而打造。
该产品源自Keywords AI,最初是伊利诺伊大学的一个LLM路由API,后来扩展为完整的可观察性工具。Respan现在围绕一个单一的跨度数据模型统一网关路由、追踪、评估和提示管理,使生产日志能够直接用于质量评分和迭代。
平台团队、AI工程师和大规模运作智能体的初创公司使用Respan来监控成本和延迟、发现回归问题,以及在无需重新部署应用代码的情况下发布提示或模型变更。网站上引用的客户包括Retell AI、Lovable、Gumloop和Mem0。
通过一个网关路由OpenAI风格的调用到500多个模型
当模型出错或限流时自动回退和重试
每次网关调用都会生成带有各跨度延迟的追踪树
组合评估器,包括LLM评审、代码检查和人工审核
为每个API密钥设置软警告或硬预算上限并通过Slack发送提醒
免费套餐包括完整平台,支持10万个日志,无需信用卡。
Gateway 支持500多个模型,集成回退、重试、缓存和支出限制于一处。
结合追踪、评估、提示管理和基于共享跨度数据的网关路由。
SOC 2、GDPR、ISO 27001 和 HIPAA 合规选项在网站上有详细说明。
团队计划仅包括五个成员席位,之后每增加一名成员需另付费。
免费套餐的日志保留期限为七天,而团队套餐为30天。
通过 Respan 路由而非直接调用提供商,Gateway 会增加大约 50 到 150 毫秒的延迟。
Respan有免费套餐吗?
有的。Respan提供一个免费套餐,包含完整平台功能、10万条日志、1000个评分、5个数据集、2个评估者和5个提示。注册无需信用卡。
Respan支持哪些模型?
Respan通过其AI网关路由请求到500多个模型。您可以通过Respan发送类似OpenAI的调用,也可以保持各服务商的本地SDK在直通端点,同时每个请求都会被记录。
Respan支持哪些集成?
Respan集成了包括LangChain、LlamaIndex、Vercel AI SDK、OpenAI SDK、Mastra、Mem0、PostHog和LiteLLM等框架和工具。Python和JavaScript SDK文档刊载于respan.ai/docs。
Respan是否符合HIPAA合规性?
Respan声明符合HIPAA合规要求,并在企业套餐中为医疗机构提供业务关联协议(BAA)。定价页列出了每月的HIPAA合规性附加费用。
Respan以前叫什么名字?
Respan之前名为Keywords AI。公司于2026年2月更名为Respan,同时业务从LLM路由扩展到完整的可观测性和评估平台。

