Dernière mise à jour 06-28-2026
Catégorie:
Reviews:
Join thousands of AI enthusiasts in the World of AI!
Respan
Respan est une plateforme d'ingénierie LLM pour les équipes qui déploient des produits à base de modèles de langage et d'agents en production. Elle permet de router les requêtes via une passerelle unique, de capturer chaque appel en tant que trace, d'effectuer des évaluations sur le trafic en direct, et de gérer les prompts depuis un tableau de bord partagé. Elle a été conçue pour les équipes d'ingénierie et de produit qui ont besoin d'un endroit unique pour déboguer, mesurer et améliorer les fonctionnalités d'IA après leur lancement.
Le produit a vu le jour à partir de Keywords AI, qui a commencé comme une API de routage LLM à l'Université de l'Illinois avant d'élargir ses fonctionnalités pour inclure une observabilité complète. Respan unifie désormais le routage de la passerelle, la traçabilité, les évaluations, et la gestion des prompts autour d’un modèle de données de trace unique, permettant aux logs de production d’alimenter directement l’évaluation de la qualité et l’itération.
Les équipes plateforme, les ingénieurs en IA, et les startups qui déploient des agents à grande échelle utilisent Respan pour surveiller les coûts et la latence, détecter les régressions, et déployer des changements de prompts ou de modèles sans avoir à redéployer le code de l’application. Parmi les clients cités sur le site figurent Retell AI, Lovable, Gumloop, et Mem0.
Diriger les appels de style OpenAI vers plus de 500 modèles via une passerelle unique
Basculement automatique et nouvelles tentatives en cas d'erreur du modèle ou de limitation de débit
Chaque appel à la passerelle devient un arbre de traces avec la latence sur chaque segment
Composer des évaluateurs avec des juges LLM, des vérifications de code et une revue humaine
Définir des avertissements souples ou des plafonds stricts de dépenses par clé API avec alertes Slack
Le niveau gratuit inclut la plateforme complète avec 100 000 logs et aucun besoin de carte bancaire.
La passerelle prend en charge plus de 500 modèles avec solutions de repli, tentatives, mise en cache et limites de dépenses en un seul endroit.
Combine le traçage, les évaluations, la gestion des prompts et le routage de la passerelle sur des données de span partagées.
Les options de conformité SOC 2, GDPR, ISO 27001 et HIPAA sont documentées sur le site.
Le plan Équipe inclut seulement cinq sièges membres avant le coût par membre supplémentaire.
La conservation des journaux dans la version gratuite est de sept jours contre 30 jours dans la version Équipe.
Le Gateway ajoute environ 50 à 150 ms de latence lorsqu'il route via Respan au lieu des appels directs au fournisseur.
Respan propose-t-il un plan gratuit ?
Oui. Respan offre un plan Gratuit incluant la plateforme complète, 100k logs, 1k scores, 5 ensembles de données, 2 évaluateurs, et 5 prompts. Aucune carte de crédit n'est requise pour s'inscrire.
Quels modèles Respan prend-il en charge ?
Respan dirige les requêtes vers plus de 500 modèles via sa passerelle IA. Vous pouvez envoyer des appels de style OpenAI via Respan ou conserver chaque SDK natif fournisseur sur un point de passage direct, chaque requête étant enregistrée.
Quelles intégrations Respan supporte-t-il ?
Respan s'intègre avec des frameworks et outils tels que LangChain, LlamaIndex, Vercel AI SDK, OpenAI SDK, Mastra, Mem0, PostHog, et LiteLLM. Les SDK Python et JavaScript sont documentés sur respan.ai/docs.
Respan est-il conforme à la norme HIPAA ?
Respan déclare être conforme à la norme HIPAA et propose un Business Associate Agreement pour les organisations de santé dans le cadre des plans Enterprise. Un module complémentaire de conformité HIPAA est proposé à par mois sur la page de tarification.
Quel était l'ancien nom de Respan ?
Respan était auparavant connu sous le nom de Keywords AI. L'entreprise a changé de nom pour Respan en février 2026 tout en s'étendant du routage LLM vers une plateforme complète d'observabilité et d'évaluation.