Portkey
Portkey oferece às equipes de engenharia um painel de controle único para implementar IA generativa em produção. Você direciona o tráfego de LLM por meio de um gateway unificado, registra cada solicitação com detalhes de custo e latência, aplica guardrails e gerencia prompts sem precisar integrar fornecedores separados para cada camada.
Enquanto a maioria das equipes desenvolve SDKs de provedores manualmente e adiciona observabilidade de forma improvisada depois, Portkey reúne roteamento de gateway, observabilidade, guardrails, governança e gerenciamento de prompts em uma única API que conecta a mais de 1.600 modelos. Atualmente, alimenta o PRISMA AIRS AI Gateway com Palo Alto Networks para descoberta empresarial, governança e segurança em interações de IA, oferecendo ainda um nível gratuito e um gateway open-source que você pode hospedar por conta própria.
Engenheiros de ML, equipes de plataforma e empresas usam Portkey para atribuição de custos em dezenas de aplicativos, cache semântico que reduz gastos com inferências repetidas e mais de 50 guardrails que bloqueiam injeções de prompt e redigem informações pessoais identificáveis (PII). A empresa relata mais de 3.000 equipes GenAI na plataforma e adoção open-source com milhares de estrelas no GitHub.
Uma API unificada direciona o tráfego para 1.600+ LLMs e provedores multimodais
Plano Free Forever inclui 10.000 logs gravados por mês para prototipagem
Plano de produção custa $49 por mês com 100.000 logs gravados e RBAC
Fallbacks automáticos, balanceamento de carga, retries e timeouts de requisição integrados
Registra cada requisição com mais de 40 detalhes sobre custo, latência e precisão
Mais de 50 guardrails bloqueiam injeções de prompt e redigem PII em tempo real
Gateway de código aberto que você pode hospedar com suporte da comunidade
API unificada cobre mais de 1.600 modelos para evitar trabalho de integração por provedor.
Camada gratuita e gateway de código aberto facilitam a prototipagem antes do compromisso.
Logs de observabilidade registram mais de 40 métricas por requisição para atribuição de custos e depuração.
Plano empresarial inclui conformidade com HIPAA, SOC2, GDPR e implantação em nuvem privada.
Integração PRISMA AIRS adiciona segurança da Palo Alto Networks para governança de IA empresarial.
O plano gratuito limita a 10 mil registros de logs gravados por mês e não é destinado para produção.
O plano de produção não possui controles de segurança personalizados nem garantias de residência de dados.
O preço corporativo exige uma conversa com vendas e não possui tabela de preços pública.
O Portkey tem plano gratuito?
Sim. O Portkey oferece um plano Free Forever com 10.000 logs gravados por mês, retenção de logs por 3 dias, roteamento via gateway de IA, observabilidade, 3 modelos de prompt, cache simples e guardrails determinísticos. É destinado para prototipagem e avaliação, não para cargas de trabalho em produção.
Quanto custa o Portkey para uso em produção?
O plano Production do Portkey custa $49 por mês e inclui 100.000 logs gravados por mês, com cobranças de $9 por cada 100.000 solicitações adicionais. Adiciona guardrails para LLM e parceiros, modelos de prompt ilimitados, controle de acesso baseado em função, cache semântico e suporte para produção.
Quantos provedores de LLM o Portkey suporta?
O Portkey conecta-se a mais de 1.600 LLMs e provedores nas modalidades texto, visão, áudio e imagem através de sua API unificada de gateway de IA. Novos modelos são adicionados conforme os provedores os lançam.
O Portkey pode ser hospedado localmente?
Sim. O Portkey oferece um gateway de IA open-source que você pode implantar localmente. A página de preços lista uma opção Host it Yourself com API universal, tentativas, roteamento, guardrails, fallback, balanceamento de carga e suporte da comunidade.
O Portkey adiciona latência às requisições da API LLM?
O Portkey promove seu gateway de IA como tendo 0% de sobrecarga de latência para experiências de IA em tempo real. Suas páginas de recursos enfatizam respostas extremamente rápidas e infraestrutura testada para confiabilidade em produção.
O Portkey suporta SSO e gerenciamento de equipes?
Sim. O plano Enterprise do Portkey inclui SSO com Okta Auth, controle de acesso baseado em função, gerenciamento de equipes, limites granulares de orçamento e taxa, e logs de auditoria para toda a organização. O plano Production também inclui RBAC e chaves de API para contas de serviço.
Quais guardrails o Portkey oferece?
O Portkey executa mais de 50 guardrails sobre seu gateway open-source, incluindo verificações de entrada para injeção de prompt e filtros de saída para vazamentos de PII e alucinações. Integra parceiros como Mistral, Patronus, Pangea, Bedrock, Azure e Palo Alto Networks.

