APIPark
APIPark 是一个开源的大型语言模型(LLM)网关和 API 开发者门户,面向需要统一调用、管理和计费 AI 模型及内部 API 的企业。它通过一个兼容 OpenAI 的单一端点路由访问 200 多个大型语言模型,避免团队为每个新增模型单独集成供应商 SDK。
大多数 API 网关仅转发请求,而 APIPark 还将模型和 API 视为可交易资产。它集成了统一认证、审批流程、充值计费、多级分销和利润报告,帮助平台团队在无需构建独立市场架构的情况下销售剩余模型容量或打包业务 API。
平台工程师和 AI 团队可在生产流量到达上游模型前设置每租户配额、速率限制和数据屏蔽规则。API 管理员则拥有发布 API、跟踪使用情况和审批访问请求的门户。社区版涵盖核心网关和门户功能;企业版增加高级治理、运行时统计和高级支持。
通过一个OpenAI兼容的API签名路由200多个LLM,因此无需进行供应商特定的重写
只需一个命令行安装即可在大约5分钟内部署网关和开发者门户
负载均衡在LLM实例之间分配请求,以保持故障转移和吞吐量在负载下的可预测性
内置API计费跟踪每个用户的使用情况,便于团队计量和盈利内部或合作伙伴API访问
细粒度配额限制每日或每月的支出金额、令牌或调用次数,以阻止模型滥用
数据掩码引擎标记并掩盖请求和响应负载中的敏感字段,以符合合规流程
一个OpenAI兼容的端点覆盖200多个LLM,无需每个供应商的SDK工作
社区版是开源的,具有5分钟命令行部署的文档
结合网关路由、门户发布、审批和计费于一体的产品
每租户配额和速率限制有助于在超支影响上游账单之前控制模型支出
语义缓存标记为即将推出,因此目前还不能享受缓存带来的延迟节省
社区版缺少运行时统计、成本核算和几个高级安全插件
企业版定价未公布,需联系销售以获取全部功能
什么是APIPark?
APIPark是一个开源的LLM网关和API开发者门户。它通过一个管理端点连接团队与200多个语言模型,同时在同一平台处理身份验证、配额、计费和API发布。
APIPark可以免费使用吗?
APIPark提供免费的社区版,包含适合中小企业的核心网关、门户和治理功能。企业版增加了高级统计、插件和支持服务,需要联系APIPark销售。
APIPark如何连接多个LLM?
APIPark提供一个兼容OpenAI的聊天完成端点。团队只需将现有OpenAI客户端代码指向APIPark,并通过更改请求中的模型名称切换模型,无需重写应用集成。
APIPark部署速度有多快?
APIPark可以通过单条命令行安装流程,在大约5分钟内部署其LLM网关和开发者门户,具体步骤见APIPark安装页面。
APIPark支持API变现吗?
支持。APIPark内置API计费和充值账户,用户在平台上一次性付款后即可调用授权模型或业务API,系统自动按调用次数扣费。
APIPark如何保护敏感数据?
APIPark提供数据脱敏功能,能识别并掩盖LLM请求和响应中的敏感字段。企业版还提供身份认证、流量控制和加密选项。

