phi-2 vs Stellaris AI

Phi-2 est un modèle de langage basé sur Transformers développé par Microsoft, doté de 2,7 milliards de paramètres, conçu pour des tâches de génération de texte en anglais, notamment le traitement du langage naturel et la programmation. Il a été entraîné sur un vaste ensemble de données combinant des textes NLP synthétiques et du contenu web filtré afin d'améliorer la sécurité et la valeur éducative. Le modèle obtient d'excellents résultats sur des benchmarks de raisonnement de bon sens, de compréhension linguistique et de logique, se plaçant près de l'état de l'art parmi les modèles de moins de 13 milliards de paramètres.

Contrairement à certains modèles, Phi-2 n'a pas été affiné par apprentissage par renforcement à partir des retours humains, ce qui en fait un modèle de base destiné à la recherche et à l'expérimentation, plutôt qu'une utilisation immédiate en production. Il supporte plusieurs formats d'invite tels que la question-réponse, les dialogues de chat et la génération de code, offrant une grande flexibilité pour les développeurs et chercheurs explorant la sécurité de l'IA, la réduction des biais et la contrôlabilité.

Phi-2 est intégré dans la bibliothèque Hugging Face Transformers (version 4.37.0 et ultérieure) et peut être déployé localement ou via divers fournisseurs d'inférence. Il prend en charge un chargement et un service efficaces grâce à des outils comme vLLM et SGLang, et est compatible avec des versions quantifiées pour des applications légères. Le modèle utilise le format safetensors pour un stockage sécurisé et rapide des tenseurs.

Les utilisateurs doivent être conscients de certaines limitations, notamment des sorties de code ou factuelles parfois inexactes, une portée limitée en génération de code principalement axée sur Python et les bibliothèques courantes, une réponse parfois verbeuse, et des biais sociétaux potentiels malgré une formation axée sur la sécurité. Il est recommandé comme point de départ pour un affinement et une évaluation complémentaires plutôt que comme une solution prête à l'emploi.

Le modèle est sous licence MIT, favorisant la science ouverte et la collaboration communautaire. Il convient aux chercheurs en IA, développeurs et organisations souhaitant explorer des modèles linguistiques fondamentaux axés sur la sécurité et la transparence.

Stellaris AI développe de grands modèles de langage commercialisés autour de la sécurité native et du raisonnement humain pour des tâches réelles. Sa gamme phare SGPT cible la génération de texte et de code, les questions-réponses basées sur les connaissances, le raisonnement logique et l'analyse à une échelle que l'entreprise décrit comme des centaines de milliards de paramètres. Le site public se concentre sur une liste d'attente pour SGPT-4.5 plutôt que sur un produit de chat en libre-service accessible dès aujourd'hui.

Alors que de nombreux laboratoires de LLM ajoutent des filtres de sécurité après l'entraînement, Stellaris AI considère la sécurité comme une partie intégrante de la pile du modèle grâce à un référencement strict des sources et à une minimisation des dommages dans l'architecture. Elle met également en avant l'apprentissage contextuel en temps réel (RCL) pour adapter les réponses avec des connaissances en direct, une combinaison destinée aux équipes qui souhaitent des résultats cités plutôt qu'une génération non vérifiée.

Les chercheurs, les équipes d'IA d'entreprise et les premiers utilisateurs rejoignent la liste d'attente SGPT-4.5 pour un accès prioritaire. L'entreprise cite plus de 10 ans de recherche et trois piliers produits principaux : Stellaris GPT, Native Safety et RCL.