Llama 2 vs GPT-4

La prochaine génération de notre grand modèle de langage open source

Cette version inclut les poids des modèles et le code de démarrage pour les modèles de langage Lama pré-entraînés et affinés, allant des paramètres 7B à 70B.

Llama 2 a été formé avec 40 % de données en plus que Llama 1 et a une longueur de contexte deux fois supérieure.

Formation Llama-2-chat : Llama 2 est pré-entraîné à l'aide de données en ligne accessibles au public. Une première version de Llama-2-chat est ensuite créée grâce à des réglages fins supervisés. Ensuite, Llama-2-chat est affiné de manière itérative à l'aide de l'apprentissage par renforcement à partir de la rétroaction humaine (RLHF), qui comprend l'échantillonnage de rejet et l'optimisation des politiques proximales (PPO).

Meta et Microsoft se sont associés pour dévoiler Llama 2, le successeur open source de leur grand modèle de langage largement utilisé, Llama. Ce modèle révolutionnaire est conçu pour améliorer les capacités de l’IA, en la proposant gratuitement à la fois pour la recherche et pour un usage commercial. Reconnu comme partenaire privilégié, Microsoft intègre Llama 2 dans son catalogue de modèles Azure AI, offrant aux développeurs des outils cloud natifs robustes et une optimisation pour les plateformes Windows.

Llama 2 est également accessible via d'autres fournisseurs majeurs comme AWS et Hugging Face. Dédiés à l'innovation responsable en matière d'IA, Meta et Microsoft mettent l'accent sur la transparence et le développement axé sur la communauté avec des ressources telles que des exercices d'équipe rouge, un schéma de transparence et un guide d'utilisation responsable. Des initiatives collaboratives telles que l'Open Innovation AI Research Community et le Llama Impact Challenge font également partie du déploiement, visant à stimuler des applications responsables de Llama 2 dans divers secteurs.

Le GPT-4 est la dernière étape importante des efforts d'Openai pour augmenter l'apprentissage en profondeur.

Le GPT-4 est un grand modèle multimodal (acceptant des entrées d'image et de texte, émettant des sorties de texte) qui, bien que moins capables que les humains dans de nombreux scénarios du monde réel, présentent des performances de niveau humain sur diverses références professionnelles et académiques. Par exemple, il passe un examen de barre simulé avec un score autour des 10% supérieurs des candidats; En revanche, le score de GPT-3,5 était autour des 10% les plus bas. Nous avons passé 6 mois à aligner de manière itérative le GPT-4 en utilisant des leçons de notre programme de test contradictoires ainsi que du chatppt, ce qui a donné nos meilleurs résultats (bien que loin d'être parfaits) sur la factualité, la direction et refuser de sortir des garde-corps.

GPT-4 est plus créatif et collaboratif que jamais. Il peut générer, modifier et itérer avec les utilisateurs sur des tâches d'écriture créatives et techniques, telles que la composition de chansons, l'écriture de scénarios ou l'apprentissage du style d'écriture d'un utilisateur.