Claude 3 \ Anthropic vs RedPajama

Claude 3 é a família de modelos de linguagem de terceira geração da Anthropic, lançada em março de 2024. Ela inclui três diferentes níveis: Haiku, para velocidade e custo; Sonnet, para desempenho equilibrado; e Opus, para a maior profundidade de raciocínio. Cada modelo tem como foco um compromisso diferente entre inteligência, latência e preço.

A família lida com tarefas de texto, código, análise e visão. Os modelos Claude 3 processam fotos, gráficos, diagramas técnicos e tabelas. No lançamento, suportam uma janela de contexto de 200 mil tokens, com entradas que ultrapassam 1 milhão de tokens disponíveis para clientes selecionados. Opus e Sonnet foram lançados na claude.ai e na API Claude em 159 países, seguidos logo após pelo Haiku.

A Anthropic construiu o Claude 3 usando métodos de segurança de IA Constitucional e diretrizes de Responsible Scaling Policy. Os modelos estão disponíveis através da API Claude, Amazon Bedrock e Google Cloud Vertex AI. Sonnet alimenta o nível gratuito em claude.ai, enquanto Opus está disponível para assinantes do Claude Pro.

RedPajama-INCITE é uma família de modelos de linguagem de código aberto desenvolvidos pela Together AI, contendo versões com 3 bilhões e 7 bilhões de parâmetros treinadas na extensa base de dados RedPajama de 5 terabytes. Esses modelos replicam de perto a arquitetura LLaMA e incluem variantes básicas, ajustadas por instruções e para chat, todas lançadas sob a licença Apache 2.0 para uso em pesquisa e comercial.

O modelo de 3B destaca-se como um dos mais robustos em sua classe, otimizado para velocidade e acessibilidade, capaz de rodar em GPUs mais antigas como a RTX 2070. As versões ajustadas por instruções demonstram forte desempenho nos benchmarks HELM, com o modelo de 7B superando o LLaMA 7B original em vários pontos, mostrando potencial para tarefas como aprendizado com poucos exemplos, extração de entidades, classificação e sumarização.

O treinamento utiliza técnicas avançadas, incluindo a arquitetura Pythia da EleutherAI e a otimização DeeperSpeed, com modelos treinados usando os recursos do supercomputador Summit. O modelo de 7B ainda está em treinamento, mas já supera modelos abertos comparáveis, indicando o valor do conjunto de dados RedPajama e da abordagem de treinamento.

A Together AI apoia esses modelos com uma plataforma abrangente que oferece computação acelerada, clusters de GPU, ajuste fino, armazenamento gerenciado e serviços de inferência. Esse ecossistema permite que desenvolvedores e empresas implantes, personalizem e escalem aplicações de IA de forma eficiente.

A natureza de código aberto e a licença permissiva incentivam a colaboração e inovação da comunidade, com melhorias contínuas planejadas para o conjunto de dados e modelos de maior escala. A Together AI também fornece documentação extensa, demonstrações e ferramentas para desenvolvedores, facilitando a adoção.

No geral, os modelos RedPajama oferecem uma base competitiva e acessível para construir aplicações de IA, respaldada por uma infraestrutura pronta para produção e suporte ativo da comunidade. Eles representam um passo importante na democratização de modelos de linguagem de alta qualidade para diversos usos.