GLM-130B vs Enprompt 360

GLM-130B coloca um modelo bilíngue de linguagem com 130 bilhões de parâmetros na pilha de pesquisa aberta THUDM construída em torno da receita de pré-treinamento do General Language Model (GLM). Os pesos são direcionados para textos em inglês e chinês, e o repositório do GitHub disponibiliza código de inferência, tarefas de avaliação e checkpoints aceitos no ICLR 2023. Você pode executar geração da esquerda para a direita ou preenchimento em branco com tokens [MASK] e [gMASK] em hardware que caiba em um único servidor multi-GPU, em vez de uma API proprietária.

Enquanto a maioria dos modelos com mais de 100 bilhões de parâmetros permanece fechada, o GLM-130B publica pesos do modelo, notas de treinamento e configurações YAML para mais de 30 benchmarks. Seu caminho de quantização INT4 é ajustado para que quatro placas RTX 3090 (24GB) possam hospedar a inferência com quase nenhuma perda de precisão, um requisito muito menor do que a configuração com oito A100 (40GB) usada para execuções completas em FP16. O objetivo de treinamento mistura preenchimento em branco autorregressivo em 95% dos tokens com dados de instrução multitarefa do T0++ e DeepStruct, o que é uma aposta diferente do pré-treinamento causal padrão no estilo GPT.

Pesquisadores que estudam transferência zero-shot bilíngue, quantização de grandes modelos ou benchmarks reproduzíveis de LLMs obterão o máximo do GLM-130B. O repositório foca em ferramentas de avaliação e inferência em vez de um produto de chat hospedado, embora o THUDM tenha posteriormente desmembrado o trabalho de diálogo no ChatGLM. Espere trazer suas próprias GPUs, armazenamento para um checkpoint de 260GB e paciência para o formulário de download dos pesos.

Experimente a geração contínua de prompts com o Enprompt 360, o melhor gerador de prompts ChatGPT projetado para elevar suas interações com ferramentas de IA. Esta plataforma inovadora atende tanto usuários casuais quanto entusiastas de IA, oferecendo uma variedade de prompts que atendem a vários níveis de conhecimento, desde simples prompts iniciais até consultas avançadas. Esteja você conversando com ChatGPT, GPT-4, Bard, Claude, LLAMA ou qualquer outro modelo de linguagem grande, o Enprompt 360 simplifica o processo e aprimora sua experiência.

O que é verdadeiramente notável no Enprompt 360 é a capacidade não apenas de interagir com um único modelo de IA, mas também de participar de uma experiência de bate-papo MULTI AI-Multi usuário. Este recurso exclusivo promove a colaboração e o brainstorming criativo entre os usuários, aproveitando os pontos fortes de vários modelos de IA em uma conversa. Enprompt 360 é o companheiro que você precisa para uma excelente comunicação de IA multifacetada.