A Generalist Agent vs Amazon Bedrock

Gato est l'agent généraliste présenté par DeepMind dans son article de recherche de mai 2022 intitulé « A Generalist Agent ». Une seule politique de transformeur avec des poids partagés gère la conversation, la description d'images, les jeux Atari et l'empilement de blocs par un bras robotique réel à partir du même modèle. L'article le décrit comme une politique multimodale, multitâche et multi-incarnation qui choisit d'émettre du texte, des couples articulaires, des pressions de boutons ou d'autres jetons selon le contexte.

La plupart des outils dans ce domaine entraînent un modèle distinct par domaine de tâche. Gato sérialise au contraire chaque modalité et environnement en une séquence plate de jetons et la fait passer à travers un transformeur conçu comme un grand modèle de langage. Cela signifie qu'un seul point de contrôle pré-entraîné passe du dialogue, à la vision, puis au contrôle sans changer d'architecture.

Pendant l'entraînement, les données issues d'environnements simulés et réels se mélangent avec des ensembles de données en langage naturel et d'images, avec une perte masquée pour que Gato ne prévoie que les cibles d'action et de texte. Lors du déploiement, un prompt est d'abord tokenisé, chaque nouvelle observation s'ajoute à la séquence, et le modèle échantillonne un vecteur d'action un jeton à la fois dans une fenêtre de contexte de 1024 jetons. Le blog inclut des graphiques regroupés par domaine des tâches où le modèle pré-entraîné dépasse les seuils de score expert.

Le texte s'adresse davantage aux chercheurs en IA et robotique qu'aux acheteurs de logiciels quotidiens. Vous pouvez lire et citer la recherche sur deepmind.google ; il n'y a pas de processus d'inscription public, de niveau API ou de bouton de téléchargement sur les pages examinées ici.

Amazon Bedrock permet aux clients AWS de créer des applications et agents d'IA générative en production en appelant des modèles fondamentaux d'Anthropic, Meta, Mistral, Amazon Nova, OpenAI et des dizaines d'autres fournisseurs via une seule API. Les équipes ajoutent des bases de connaissances, des garde-fous, des outils d'évaluation et AgentCore pour déployer des assistants sans gérer l'infrastructure GPU.

Contrairement à l'appel direct des API de modèles, Bedrock regroupe le choix du modèle, les bases de connaissances RAG, les garde-fous de sécurité et les contrôles de coûts comme le routage intelligent des invites et l'inférence par lots à 50 % de réduction par rapport aux tarifs à la demande. Les modèles distillés peuvent fonctionner jusqu'à 500 % plus vite à un coût inférieur de 75 %, ce qui est important lorsque vous traitez des charges de travail réglementées nécessitant également une conformité FedRAMP High et HIPAA sur la même plateforme.

Plus de 100 000 organisations l'utilisent pour la rédaction, les assistants virtuels, le résumé de documents, la génération d'images et les agents de flux de travail. Robinhood a cité une réduction des coûts d'IA de 80 % après avoir fait passer l'utilisation des jetons de 500 millions à 5 milliards par jour sur Bedrock. Les nouveaux comptes AWS peuvent commencer avec jusqu'à 200 $ de crédits avant de payer les tarifs par jeton du modèle.