Portkey

Portkey

Portkey oferece às equipes de engenharia um painel de controle único para implementar IA generativa em produção. Você direciona o tráfego de LLM por meio de um gateway unificado, registra cada solicitação com detalhes de custo e latência, aplica guardrails e gerencia prompts sem precisar integrar fornecedores separados para cada camada.

Enquanto a maioria das equipes desenvolve SDKs de provedores manualmente e adiciona observabilidade de forma improvisada depois, Portkey reúne roteamento de gateway, observabilidade, guardrails, governança e gerenciamento de prompts em uma única API que conecta a mais de 1.600 modelos. Atualmente, alimenta o PRISMA AIRS AI Gateway com Palo Alto Networks para descoberta empresarial, governança e segurança em interações de IA, oferecendo ainda um nível gratuito e um gateway open-source que você pode hospedar por conta própria.

Engenheiros de ML, equipes de plataforma e empresas usam Portkey para atribuição de custos em dezenas de aplicativos, cache semântico que reduz gastos com inferências repetidas e mais de 50 guardrails que bloqueiam injeções de prompt e redigem informações pessoais identificáveis (PII). A empresa relata mais de 3.000 equipes GenAI na plataforma e adoção open-source com milhares de estrelas no GitHub.

Recursos Principais:
  1. Uma API unificada direciona o tráfego para 1.600+ LLMs e provedores multimodais

  2. Plano Free Forever inclui 10.000 logs gravados por mês para prototipagem

  3. Plano de produção custa $49 por mês com 100.000 logs gravados e RBAC

  4. Fallbacks automáticos, balanceamento de carga, retries e timeouts de requisição integrados

  5. Registra cada requisição com mais de 40 detalhes sobre custo, latência e precisão

  6. Mais de 50 guardrails bloqueiam injeções de prompt e redigem PII em tempo real

  7. Gateway de código aberto que você pode hospedar com suporte da comunidade

Pros:
  1. API unificada cobre mais de 1.600 modelos para evitar trabalho de integração por provedor.

  2. Camada gratuita e gateway de código aberto facilitam a prototipagem antes do compromisso.

  3. Logs de observabilidade registram mais de 40 métricas por requisição para atribuição de custos e depuração.

  4. Plano empresarial inclui conformidade com HIPAA, SOC2, GDPR e implantação em nuvem privada.

  5. Integração PRISMA AIRS adiciona segurança da Palo Alto Networks para governança de IA empresarial.

Cons:
  1. O plano gratuito limita a 10 mil registros de logs gravados por mês e não é destinado para produção.

  2. O plano de produção não possui controles de segurança personalizados nem garantias de residência de dados.

  3. O preço corporativo exige uma conversa com vendas e não possui tabela de preços pública.

Perguntas frequentes:

O Portkey tem plano gratuito?

Sim. O Portkey oferece um plano Free Forever com 10.000 logs gravados por mês, retenção de logs por 3 dias, roteamento via gateway de IA, observabilidade, 3 modelos de prompt, cache simples e guardrails determinísticos. É destinado para prototipagem e avaliação, não para cargas de trabalho em produção.

Quanto custa o Portkey para uso em produção?

O plano Production do Portkey custa $49 por mês e inclui 100.000 logs gravados por mês, com cobranças de $9 por cada 100.000 solicitações adicionais. Adiciona guardrails para LLM e parceiros, modelos de prompt ilimitados, controle de acesso baseado em função, cache semântico e suporte para produção.

Quantos provedores de LLM o Portkey suporta?

O Portkey conecta-se a mais de 1.600 LLMs e provedores nas modalidades texto, visão, áudio e imagem através de sua API unificada de gateway de IA. Novos modelos são adicionados conforme os provedores os lançam.

O Portkey pode ser hospedado localmente?

Sim. O Portkey oferece um gateway de IA open-source que você pode implantar localmente. A página de preços lista uma opção Host it Yourself com API universal, tentativas, roteamento, guardrails, fallback, balanceamento de carga e suporte da comunidade.

O Portkey adiciona latência às requisições da API LLM?

O Portkey promove seu gateway de IA como tendo 0% de sobrecarga de latência para experiências de IA em tempo real. Suas páginas de recursos enfatizam respostas extremamente rápidas e infraestrutura testada para confiabilidade em produção.

O Portkey suporta SSO e gerenciamento de equipes?

Sim. O plano Enterprise do Portkey inclui SSO com Okta Auth, controle de acesso baseado em função, gerenciamento de equipes, limites granulares de orçamento e taxa, e logs de auditoria para toda a organização. O plano Production também inclui RBAC e chaves de API para contas de serviço.

Quais guardrails o Portkey oferece?

O Portkey executa mais de 50 guardrails sobre seu gateway open-source, incluindo verificações de entrada para injeção de prompt e filtros de saída para vazamentos de PII e alucinações. Integra parceiros como Mistral, Patronus, Pangea, Bedrock, Azure e Palo Alto Networks.

Categoria:

Preços:

Freemium

Tags:

LLM Gateway
AI Observability
Prompt Management
AI Guardrails
GenAI Infrastructure
Open Source

Tecnologia utilizada:

Ant Design
Framer Sites
Cloudflare
Google Analytics
Google Tag Manager
Microsoft Clarity
Google Fonts
Python
Ruby
GitHub

Avaliações:

Give your opinion on Portkey :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Melhor Gratuito Portkey Alternativas (e Pagas)

By Rishit