A Generalist Agent vs Amazon Bedrock

Gato é o agente generalista que a DeepMind apresentou em seu artigo de pesquisa de maio de 2022 "A Generalist Agent." Uma política transformer com pesos compartilhados lida com chat, legendagem de imagens, jogos Atari e empilhamento de blocos com braço robótico real a partir do mesmo modelo. O artigo o descreve como uma política multimodal, multitarefa e multi-incorporação que escolhe se deve emitir texto, torques conjuntos, pressionamentos de botões ou outros tokens com base no contexto.

A maioria das ferramentas nessa área treina um modelo separado por domínio de tarefa. Gato, em vez disso, serializa todas as modalidades e ambientes em uma sequência plana de tokens e a processa por um transformer semelhante a um grande modelo de linguagem. Isso significa que um único checkpoint pré-treinado transita entre diálogo, visão e controle sem trocar arquiteturas.

Durante o treinamento, dados de ambientes simulados e reais se misturam com conjuntos de dados de linguagem natural e imagens, com perda mascarada para que Gato preveja apenas alvos de ação e texto. Na implantação, um prompt é tokenizado primeiro, cada nova observação é adicionada à sequência, e o modelo amostra um vetor de ação um token por vez dentro de uma janela de contexto de 1024 tokens. O blog inclui gráficos agrupados por domínio de tarefas onde o modelo pré-treinado ultrapassa os limiares de pontuação de especialistas.

O texto é direcionado mais a pesquisadores de IA e robótica do que a compradores comuns de software. Você pode ler e citar a pesquisa em deepmind.google; não há fluxo público de cadastro, nível de API ou botão de download nas páginas analisadas aqui.

Amazon Bedrock permite que clientes da AWS construam aplicações e agentes de IA generativa em produção ao chamar modelos base da Anthropic, Meta, Mistral, Amazon Nova, OpenAI e dezenas de outros provedores por meio de uma única API. As equipes adicionam bases de conhecimento, barreiras de segurança, ferramentas de avaliação e AgentCore para entregar assistentes sem gerenciar infraestrutura GPU.

Diferente de chamar APIs de modelos diretamente, o Bedrock integra escolha de modelo, bases de conhecimento RAG, barreiras de segurança e controles de custo como roteamento inteligente de prompts e inferência em lote com 50% de desconto nas tarifas sob demanda. Modelos destilados podem rodar até 500% mais rápido com 75% de custo menor, o que é importante ao atender cargas reguladas que também precisam de elegibilidade FedRAMP High e HIPAA na mesma plataforma.

Mais de 100.000 organizações o utilizam para redação, assistentes virtuais, sumarização de documentos, geração de imagens e agentes de fluxo de trabalho. Robinhood citou uma redução de 80% no custo de IA após escalar o uso de tokens de 500 milhões para 5 bilhões diários no Bedrock. Novas contas AWS podem começar com até $200 em créditos antes de pagar pelas tarifas por token do modelo.