Tune vs mshumer/gpt-prompt-engineer - GitHub

Tune est une plateforme d'entreprise GenAI de NimbleBox qui aide les équipes à affiner, déployer et exécuter des modèles de langage open-source sur leur propre cloud ou infrastructure locale. La plateforme se concentre sur Tune Studio pour l'expérimentation et le fine-tuning des modèles, Tune Chat pour des assistants IA personnalisables, et des services professionnels pour les organisations qui souhaitent une assistance pratique.

Tune Studio offre aux développeurs un espace pour tester des LLM, sauvegarder des ensembles de données d'interaction de haute qualité, affiner des modèles sur du matériel GPU dédié, et déployer via des API publiques ou des moteurs d'inférence comme TGI, vLLM et Triton. Les modèles de base supportés incluent Llama 3.1, Qwen 2, Gemma 2, Mixtral, et d'autres.

L'entreprise se positionne pour les entreprises qui ont besoin de propriété des données, conformité et flexibilité au-delà des API en source fermée. Tune certifie la conformité SOC 2 Type 2, HIPAA, et ISO 27001, avec des options de déploiement dédié dans le cloud, dans le cloud utilisateur, ou sur site.

mshumer/gpt-prompt-engineer est une boîte à outils open source d'ingénierie des prompts qui génère, teste et classe des prompts candidats pour une tâche que vous définissez. Vous décrivez le cas d'utilisation, fournissez des cas de test, et les notebooks créent plusieurs variantes de prompts, les exécutent sur chaque cas de test, et trient les résultats avec un système de notation ELO commençant à 1200. Il est livré sous forme de notebooks Jupyter que vous pouvez exécuter dans Google Colab ou localement.

La plupart des outils de prompt vous aident à écrire un prompt à la fois. gpt-prompt-engineer traite la sélection de prompts comme un tournoi : des dizaines de candidats s'affrontent sur vos cas de test, et les scores ELO les plus élevés font ressortir les gagnants. Des notebooks séparés couvrent les tâches de classification, Claude 3 Opus avec des cas de test générés automatiquement, et la conversion Opus-to-Haiku pour une inférence moins coûteuse. Des journaux optionnels Weights & Biases et Portkey tracent chaque exécution.

Les ingénieurs en apprentissage machine, les ingénieurs en prompts et les développeurs en IA l'utilisent lorsqu'ils ont besoin d'un réglage reproductible des prompts plutôt que d'essais manuels et d'erreurs. Le dépôt compte 9,7 k étoiles GitHub et fonctionne avec vos propres clés d'API OpenAI ou Anthropic. Il est gratuit sous licence MIT.