Claude 3 \ Anthropic vs GLM-130B

Claude 3 é a família de modelos de linguagem de terceira geração da Anthropic, lançada em março de 2024. Ela inclui três diferentes níveis: Haiku, para velocidade e custo; Sonnet, para desempenho equilibrado; e Opus, para a maior profundidade de raciocínio. Cada modelo tem como foco um compromisso diferente entre inteligência, latência e preço.

A família lida com tarefas de texto, código, análise e visão. Os modelos Claude 3 processam fotos, gráficos, diagramas técnicos e tabelas. No lançamento, suportam uma janela de contexto de 200 mil tokens, com entradas que ultrapassam 1 milhão de tokens disponíveis para clientes selecionados. Opus e Sonnet foram lançados na claude.ai e na API Claude em 159 países, seguidos logo após pelo Haiku.

A Anthropic construiu o Claude 3 usando métodos de segurança de IA Constitucional e diretrizes de Responsible Scaling Policy. Os modelos estão disponíveis através da API Claude, Amazon Bedrock e Google Cloud Vertex AI. Sonnet alimenta o nível gratuito em claude.ai, enquanto Opus está disponível para assinantes do Claude Pro.

GLM-130B coloca um modelo bilíngue de linguagem com 130 bilhões de parâmetros na pilha de pesquisa aberta THUDM construída em torno da receita de pré-treinamento do General Language Model (GLM). Os pesos são direcionados para textos em inglês e chinês, e o repositório do GitHub disponibiliza código de inferência, tarefas de avaliação e checkpoints aceitos no ICLR 2023. Você pode executar geração da esquerda para a direita ou preenchimento em branco com tokens [MASK] e [gMASK] em hardware que caiba em um único servidor multi-GPU, em vez de uma API proprietária.

Enquanto a maioria dos modelos com mais de 100 bilhões de parâmetros permanece fechada, o GLM-130B publica pesos do modelo, notas de treinamento e configurações YAML para mais de 30 benchmarks. Seu caminho de quantização INT4 é ajustado para que quatro placas RTX 3090 (24GB) possam hospedar a inferência com quase nenhuma perda de precisão, um requisito muito menor do que a configuração com oito A100 (40GB) usada para execuções completas em FP16. O objetivo de treinamento mistura preenchimento em branco autorregressivo em 95% dos tokens com dados de instrução multitarefa do T0++ e DeepStruct, o que é uma aposta diferente do pré-treinamento causal padrão no estilo GPT.

Pesquisadores que estudam transferência zero-shot bilíngue, quantização de grandes modelos ou benchmarks reproduzíveis de LLMs obterão o máximo do GLM-130B. O repositório foca em ferramentas de avaliação e inferência em vez de um produto de chat hospedado, embora o THUDM tenha posteriormente desmembrado o trabalho de diálogo no ChatGLM. Espere trazer suas próprias GPUs, armazenamento para um checkpoint de 260GB e paciência para o formulário de download dos pesos.