ggml.ai vs ChatGPT Plugins

ggml.ai est à la pointe de la technologie de l'IA, apportant de puissantes capacités d'apprentissage automatique directement à la périphérie grâce à sa bibliothèque de tenseurs innovante. Conçu pour la prise en charge de grands modèles et des performances élevées sur les plates-formes matérielles courantes, ggml.ai permet aux développeurs d'implémenter des algorithmes d'IA avancés sans avoir besoin d'équipement spécialisé. La plate-forme, écrite dans le langage de programmation C efficace, offre une prise en charge de la quantification flottante et entière 16 bits, ainsi que la différenciation automatique et divers algorithmes d'optimisation intégrés comme ADAM et L-BFGS. Il offre des performances optimisées pour Apple Silicon et exploite les intrinsèques AVX/AVX2 sur les architectures x86. Les applications basées sur le Web peuvent également exploiter ses capacités via la prise en charge de WebAssembly et WASM SIMD. Avec ses allocations de mémoire d'exécution nulles et son absence de dépendances tierces, ggml.ai présente une solution minimale et efficace pour l'inférence sur l'appareil.

Des projets tels que Whisper.cpp et Llama.cpp démontrent les capacités d'inférence hautes performances de ggml.ai, Whisper.cpp fournissant des solutions de synthèse vocale et Llama.cpp se concentrant sur l'inférence efficace du grand modèle de langage LLaMA de Meta. De plus, la société accueille favorablement les contributions à sa base de code et prend en charge un modèle de développement open-core via la licence MIT. Alors que ggml.ai continue de se développer, il recherche des développeurs à temps plein talentueux partageant une vision commune de l'inférence sur appareil pour rejoindre son équipe.

Conçu pour repousser les limites de l'IA à la pointe, ggml.ai témoigne de l'esprit de jeu et d'innovation de la communauté de l'IA.

OpenAI suit une philosophie de déploiement itérative, et dans le cadre de cette approche, il publie progressivement des plugins pour Chatgpt. Le but de cette version progressive est d'étudier l'utilisation réelle des plugins, d'évaluer leur impact et d'identifier les défis de sécurité et d'alignement qui peuvent survenir. Il est essentiel d'obtenir ces aspects pour que OpenAI réalise sa mission.

Depuis le lancement de Chatgpt, les utilisateurs ont exprimé leur intérêt à avoir accès aux plugins, et de nombreux développeurs expérimentent des idées similaires. OpenAI déploie initialement des plugins à un petit ensemble d'utilisateurs et prévoit d'augmenter progressivement l'accès à mesure qu'il en apprend davantage. Après une période alpha, les utilisateurs d'API qui souhaitent intégrer les plugins dans leurs produits auront également accès. Openai est ravi de construire une communauté qui aidera à façonner l'avenir du paradigme d'interaction humaine-AI.

Les développeurs qui ont été invités sur la liste d'attente peuvent utiliser la documentation d'Openai pour construire un plugin pour chatgpt. Une fois le plugin créé, il est répertorié dans l'invite indiquée dans le modèle de langue, ainsi qu'une documentation qui instruit le modèle sur la façon d'utiliser chacun. Le premier ensemble de plugins a été créé par Expedia, FiscalNote, Instacart, Kayak, Klarna, Milo, Openntable, Shopify, Slack, Speak, Wolfram et Zapier.