TLM Playground vs mshumer/gpt-prompt-engineer - GitHub

TLM Playground est le centre de documentation de Cleanlab pour le Trustworthy Language Model (TLM), une API de génération de modèles qui évalue en temps réel la fiabilité de toute réponse d'un LLM. Chaque réponse reçoit un score de fiabilité compris entre 0 et 1, signalant les hallucinations et erreurs de raisonnement avant qu'elles n'atteignent les utilisateurs. Installez le client Python avec pip install cleanlab-tlm, définissez une CLEANLAB_TLM_API_KEY, et appelez TLM.prompt() pour générer des réponses notées ou get_trustworthiness_score() pour auditer les sorties de votre pile existante.

La plupart des détecteurs d'hallucinations se concentrent sur la fidélité au contexte récupéré. Des métriques comme RAGAS vérifient si une réponse correspond aux documents sources mais manquent les erreurs factuelles lorsque le contexte est mince ou confus. TLM utilise l'estimation de l'incertitude du modèle plutôt que le prompting LLM-en-juge, et Cleanlab publie des benchmarks montrant une précision 3 fois supérieure à RAGAS dans les workflows RAG. Il ne nécessite pas de données d'entraînement étiquetées dans votre domaine, ce qui évite le problème de dérive qui compromet les évaluateurs personnalisés.

Les ingénieurs ML et IA construisant des pipelines RAG, chatbots et systèmes d'agents utilisent TLM pour filtrer les sorties à faible confiance, les orienter vers des humains, ou remplacer par des réponses de secours. L'API couvre les sorties structurées, les appels d'outils, les étiquettes de classification et les conversations multi-tours, pas seulement les complétions de texte simples.

mshumer/gpt-prompt-engineer est une boîte à outils open source d'ingénierie des prompts qui génère, teste et classe des prompts candidats pour une tâche que vous définissez. Vous décrivez le cas d'utilisation, fournissez des cas de test, et les notebooks créent plusieurs variantes de prompts, les exécutent sur chaque cas de test, et trient les résultats avec un système de notation ELO commençant à 1200. Il est livré sous forme de notebooks Jupyter que vous pouvez exécuter dans Google Colab ou localement.

La plupart des outils de prompt vous aident à écrire un prompt à la fois. gpt-prompt-engineer traite la sélection de prompts comme un tournoi : des dizaines de candidats s'affrontent sur vos cas de test, et les scores ELO les plus élevés font ressortir les gagnants. Des notebooks séparés couvrent les tâches de classification, Claude 3 Opus avec des cas de test générés automatiquement, et la conversion Opus-to-Haiku pour une inférence moins coûteuse. Des journaux optionnels Weights & Biases et Portkey tracent chaque exécution.

Les ingénieurs en apprentissage machine, les ingénieurs en prompts et les développeurs en IA l'utilisent lorsqu'ils ont besoin d'un réglage reproductible des prompts plutôt que d'essais manuels et d'erreurs. Le dépôt compte 9,7 k étoiles GitHub et fonctionne avec vos propres clés d'API OpenAI ou Anthropic. Il est gratuit sous licence MIT.