Dernière mise à jour 08-12-2026
Catégorie:
Reviews:
Join thousands of AI enthusiasts in the World of AI!
ggml.ai
ggml exécute de grands modèles de langage et de parole sur des CPU et GPU ordinaires grâce à une bibliothèque compacte de tenseurs en C conçue pour l'inférence sur appareil. Les ingénieurs en apprentissage automatique et les développeurs d'applications l'adoptent via llama.cpp et whisper.cpp lorsqu'ils souhaitent des charges de travail LLaMA ou Whisper sans dépendances exclusives au cloud.
Des frameworks comme PyTorch sont optimisés pour les clusters d'entraînement et les environnements d'exécution lourds. ggml maintient la bibliothèque principale minimale avec zéro allocation mémoire à l'exécution, aucune dépendance tierce, et une quantification entière afin que llama.cpp puisse servir les poids Meta LLaMA sur des ordinateurs portables et Apple Silicon.
La société ggml.ai a été fondée en 2023 par Georgi Gerganov pour soutenir la bibliothèque et a été acquise par Hugging Face en 2026. Le projet principal ggml reste sous licence MIT avec un développement ouvert sur GitHub.
Alimente llama.cpp pour l'inférence Meta LLaMA et whisper.cpp pour les modèles de parole OpenAI Whisper
Écrit en C avec zéro allocation de mémoire à l'exécution pendant l'inférence
Prise en charge de la quantification entière pour des modèles plus petits sur du matériel standard
Pas de dépendances tierces dans la bibliothèque tensor principale
Implémentation multiplateforme de bas niveau avec un large support matériel
Bibliothèque open-core sous licence MIT avec développement public sur GitHub
Alimente les stacks d'inférence llama.cpp et whisper.cpp largement utilisés
Bibliothèque C minimale sans dépendances tierces
Sous licence MIT avec développement ouvert sur GitHub
Quantification entière pour une inférence efficace sur matériel standard
L'API C de bas niveau nécessite plus d'ingénierie que les API LLM hébergées
Pas de produit cloud géré sur ggml.ai lui-même
Les futures extensions commerciales pourraient diverger de la base open-core MIT
Qu'est-ce que ggml.ai ?
ggml.ai prend en charge ggml, une bibliothèque tensorielle pour l'apprentissage automatique qui permet d'exécuter de grands modèles sur du matériel courant. Elle alimente llama.cpp et whisper.cpp pour l'inférence LLM et vocale sur appareil.
Est-ce que ggml.ai est gratuit ?
Oui, ggml est disponible gratuitement sous licence MIT sur GitHub. La page d'accueil de ggml.ai indique que la bibliothèque et les projets associés sont open core avec un développement public.
Quels projets utilisent ggml ?
ggml alimente llama.cpp pour l'inférence du modèle Meta LLaMA et whisper.cpp pour la conversion vocale en texte OpenAI Whisper. Les deux projets sont directement liés depuis la page d'accueil de ggml.ai.
Qui a fondé ggml.ai ?
ggml.ai a été fondé en 2023 par Georgi Gerganov pour soutenir le développement de ggml. Nat Friedman et Daniel Gross ont fourni un financement préliminaire, et Hugging Face a acquis la société en 2026.
Comment puis-je contribuer à ggml ?
Les contributeurs rejoignent le développement via les dépôts ggml-org sur GitHub. La page d'accueil invite aux contributions ouvertes et décrit le projet comme minimal, open core et sous licence MIT.
Quel matériel ggml cible-t-il ?
ggml cible le matériel courant avec une implémentation bas niveau multiplateforme, une quantification entière et un large support matériel. Il est conçu pour l'inférence en périphérie plutôt que pour des déploiements uniquement en datacenter.