ggml.ai vs ChatGPT Plugins

ggml exécute de grands modèles de langage et de parole sur des CPU et GPU ordinaires grâce à une bibliothèque compacte de tenseurs en C conçue pour l'inférence sur appareil. Les ingénieurs en apprentissage automatique et les développeurs d'applications l'adoptent via llama.cpp et whisper.cpp lorsqu'ils souhaitent des charges de travail LLaMA ou Whisper sans dépendances exclusives au cloud.

Des frameworks comme PyTorch sont optimisés pour les clusters d'entraînement et les environnements d'exécution lourds. ggml maintient la bibliothèque principale minimale avec zéro allocation mémoire à l'exécution, aucune dépendance tierce, et une quantification entière afin que llama.cpp puisse servir les poids Meta LLaMA sur des ordinateurs portables et Apple Silicon.

La société ggml.ai a été fondée en 2023 par Georgi Gerganov pour soutenir la bibliothèque et a été acquise par Hugging Face en 2026. Le projet principal ggml reste sous licence MIT avec un développement ouvert sur GitHub.

ChatGPT Plugins était le système d'extension d'OpenAI en 2023 qui permettait à ChatGPT d'appeler des API tierces pour obtenir des données en temps réel, effectuer des calculs et accéder à des services externes. Les plugins apparaissaient comme des outils que le modèle pouvait invoquer durant une conversation après que les utilisateurs les aient activés dans ChatGPT. L'annonce d'OpenAI de mars 2023 listait parmi les partenaires de lancement Expedia, Instacart, KAYAK, Klarna, OpenTable, Shopify, Slack, Wolfram et Zapier.

La version bêta incluait également des plugins développés par OpenAI pour la navigation web via Bing, un interpréteur de code Python en bac à sable, et un plugin open source de recherche par récupération pour les documents privés. Les développeurs publiaient des plugins via un fichier manifeste et une spécification OpenAPI, et les abonnés ChatGPT Plus étaient les premiers utilisateurs à pouvoir les activer en conversation.

OpenAI a déprécié la version bêta des plugins au profit des GPTs personnalisés. La page officielle du blog indique désormais que les plugins ont été dépréciés, et OpenAI a mis fin aux nouvelles conversations avec plugins le 19 mars 2024, avec une fermeture complète le 9 avril 2024. Les GPTs avec actions personnalisées ont remplacé le modèle d'intégration pour les développeurs et les utilisateurs de ChatGPT.