GLM-130B vs ChatGPT Plugins

O GLM-130B, apresentado no ICLR 2023, representa um modelo pré-treinado bilíngue aberto inovador que se destaca por seus impressionantes 130 bilhões de parâmetros. Desenvolvido para modelagem densa bidirecional em inglês e chinês, o GLM-130B aproveita o algoritmo General Language Model (GLM) para pré-treinamento e é otimizado para executar tarefas de inferência em uma configuração de servidor único, seja ele o A100 (40G * 8) ou o V100 (32G * 8). Além disso, sua compatibilidade com a quantização INT4 significa que os já modestos requisitos de hardware podem ser reduzidos ainda mais, permitindo que um servidor com 4*RTX 3090 (24G) suporte o modelo com degradação mínima de desempenho.

Como parte do seu processo de treinamento, o GLM-130B digeriu um extenso conjunto de dados que consiste em mais de 400 bilhões de tokens de texto, divididos igualmente entre chinês e inglês. Possui suporte bilíngue excepcional, desempenho superior em vários conjuntos de dados quando comparado com seus equivalentes e oferece tempos de inferência rápidos. Além disso, este repositório também promove a reprodutibilidade, facilitando o código-fonte aberto e pontos de verificação de modelo para mais de 30 tarefas.

O Openai segue uma filosofia de implantação iterativa e, como parte dessa abordagem, está gradualmente lançando plugins para chatgpt. O objetivo desta liberação gradual é estudar o uso do mundo real dos plugins, avaliar seu impacto e identificar quaisquer desafios de segurança e alinhamento que possam surgir. Acreditar esses aspectos é essencial para o OpenAI alcançar sua missão.

Desde o lançamento do ChatGPT, os usuários manifestaram interesse em ter acesso a plugins, e muitos desenvolvedores estão experimentando idéias semelhantes. O OpenAI está lançando inicialmente os plugins para um pequeno conjunto de usuários e planeja aumentar gradualmente o acesso à medida que aprende mais. Após um período alfa, os usuários da API que desejam integrar plugins em seus produtos também terão acesso. O Openai está animado para construir uma comunidade que ajudará a moldar o futuro do paradigma de interação humano-AI.

Os desenvolvedores que foram convidados para fora da lista de espera podem usar a documentação do OpenAI para criar um plug -in para o ChatGPT. Depois que o plug -in é criado, ele está listado no prompt mostrado ao modelo de idioma, juntamente com a documentação que instrui o modelo sobre como usar cada um. O primeiro conjunto de plugins foi criado pela Expedia, Fiscalnote, Instacart, Kayak, Klarna, Milo, Openable, Shopify, Slack, Speak, Wolfram e Zapier.