Dernière mise à jour 06-27-2026
Catégorie:
Reviews:
Join thousands of AI enthusiasts in the World of AI!
Portkey
Portkey est une plateforme de production pour les équipes déployant des applications d'IA générative. Elle combine une passerelle d'IA, de l'observabilité, des garde-fous, de la gouvernance et la gestion des prompts dans une seule plateforme, permettant aux développeurs de router le trafic LLM, de surveiller les coûts et d'appliquer des politiques de sécurité sans avoir à assembler différents outils.
La plateforme repose sur le modèle de la Passerelle d'IA : une API unifiée unique qui se connecte à plus de 1600 modèles et fournisseurs dans les domaines du texte, de la vision, de l'audio et de la génération d'images. Le routage intelligent gère les défaillances, l'équilibrage de charge, les tentatives de nouvelle connexion et les délais d'attente, tandis que les clés virtuelles maintiennent les identifiants des fournisseurs dans un coffre-fort géré plutôt que dispersés dans le code.
Portkey est conçu pour les ingénieurs ML, les équipes de plateforme et les entreprises utilisant GenAI en production. Les retours clients évoquent des cas d'utilisation allant de l'attribution des coûts à travers des dizaines d'applications LLM, jusqu'à la mise en cache qui réduit les répétitions de tests dans les pipelines CI. La société est open source, conforme à HIPAA, et alimente plus de 3 000 équipes de GenAI.
Une API unifiée dirige le trafic vers plus de 1600 fournisseurs de LLMs et multimodaux
Basculations automatiques, équilibrage de charge, tentatives répétées et délais d'attente des requêtes intégrés
Journalise chaque requête avec plus de 40 détails sur le coût, la latence et la précision
Plus de 60 garde-fous empêchent les injections de prompt et rédigent les informations personnelles identifiables (PII) en temps réel
Studio de prompts avec versionnage, variables, espace de test et déploiement API
Mise en cache simple et sémantique pour réduire les coûts des inférences répétées
Passerelle open-source que vous pouvez auto-héberger avec le support de la communauté
L'API unifiée couvre plus de 1600 modèles, permettant aux équipes d'éviter le travail d'intégration par fournisseur.
Le niveau gratuit et la passerelle open-source facilitent le prototypage avant de s'engager.
L'observabilité enregistre plus de 40 métriques par requête pour l'attribution des coûts et le débogage.
Le plan Enterprise inclut la conformité HIPAA, SOC2, GDPR ainsi que le déploiement en cloud privé.
Le plan gratuit est limité à 10 000 journaux enregistrés par mois et n'est pas destiné à un usage en production.
Le plan Production ne comprend pas de contrôles de sécurité personnalisés ni de garanties de résidence des données.
La tarification Enterprise nécessite une discussion commerciale et il n'y a pas de grille tarifaire publique.
Portkey propose-t-il un plan gratuit ?
Oui. Portkey offre un plan Free Forever avec 10 000 journaux enregistrés par mois, une rétention des journaux de 3 jours, un routage via la passerelle IA, l'observabilité, 3 modèles de prompts, une mise en cache simple et des garde-fous déterministes. Ce plan est destiné au prototypage et à l'évaluation, pas aux charges de travail en production.
Combien coûte Portkey pour une utilisation en production ?
Le plan Production de Portkey coûte 49 $ par mois et inclut 100 000 journaux enregistrés par mois, avec un dépassement tarifé à 9 $ pour chaque tranche supplémentaire de 100 000 requêtes. Il ajoute des garde-fous pour LLM et partenaires, un nombre illimité de modèles de prompts, un contrôle d'accès basé sur les rôles, une mise en cache sémantique et un support en production.
Combien de fournisseurs LLM Portkey prend-il en charge ?
Portkey se connecte à plus de 1600 LLMs et fournisseurs à travers différentes modalités via son API unifiée de passerelle IA. La page d'accueil mentionne également la prise en charge de plus de 148 LLMs dans sa section statistiques, avec l'ajout de nouveaux modèles au fur et à mesure de leur sortie par les fournisseurs.
Portkey peut-il être auto-hébergé ?
Oui. Portkey propose une passerelle IA open source que vous pouvez déployer localement. La page tarifaire propose une option Hébergez-le vous-même avec une API universelle, des retries, du routage, des garde-fous, des solutions de secours, de l'équilibrage de charge et un support communautaire.
Portkey ajoute-t-il de la latence aux requêtes API LLM ?
Portkey positionne sa passerelle IA comme n'ajoutant aucune latence supplémentaire (0% overhead) pour des expériences IA en temps réel. Ses pages fonctionnelles mettent en avant des réponses ultra-rapides et une infrastructure éprouvée conçue pour la fiabilité en production.
Portkey prend-il en charge le SSO et la gestion d'équipe ?
Oui. Le plan Enterprise de Portkey inclut le SSO avec Okta Auth, un contrôle d'accès basé sur les rôles, la gestion d'équipe, des budgets et limites de taux granulaires, ainsi que des journaux d'audit à l'échelle de l'organisation. Le plan Production inclut également RBAC et des clés API de compte de service.
Quels garde-fous Portkey offre-t-il ?
Portkey exécute plus de 60 garde-fous sur sa passerelle open source, incluant des vérifications d'entrée pour l'injection de prompt et des filtres de sortie pour les fuites de données PII et les hallucinations. Il intègre des partenaires tels que Mistral, Patronus, Pangea, Bedrock, Azure et Palo Alto Networks.