ELECTRA vs ChatGPT Plugins

ELECTRA for TensorFlow2, disponível no NVIDIA NGC, representa um avanço na representação de linguagem de pré-treinamento para tarefas de processamento de linguagem natural (PNL). Ao aprender com eficiência um codificador que classifica com precisão as substituições de tokens, o ELECTRA supera os métodos existentes dentro do mesmo orçamento computacional em vários aplicativos de PNL. Desenvolvido com base em um artigo de pesquisa, este modelo se beneficia significativamente das otimizações fornecidas pela NVIDIA, como aritmética de precisão mista e utilizações de Tensor Core nas arquiteturas de GPU Volta, Turing e NVIDIA Ampere. Ele não apenas alcança tempos de treinamento mais rápidos, mas também garante precisão de última geração.

Compreendendo a arquitetura, o ELECTRA difere dos modelos convencionais como o BERT ao introduzir uma estrutura geradora-discriminadora que identifica substituições de tokens de forma mais eficiente – uma abordagem inspirada em redes adversárias generativas (GANs). Essa implementação é fácil de usar, oferecendo scripts para download de dados, pré-processamento, treinamento, benchmarking e inferência, tornando mais fácil para os pesquisadores trabalharem com conjuntos de dados personalizados e ajustarem tarefas, incluindo resposta a perguntas.

O Openai segue uma filosofia de implantação iterativa e, como parte dessa abordagem, está gradualmente lançando plugins para chatgpt. O objetivo desta liberação gradual é estudar o uso do mundo real dos plugins, avaliar seu impacto e identificar quaisquer desafios de segurança e alinhamento que possam surgir. Acreditar esses aspectos é essencial para o OpenAI alcançar sua missão.

Desde o lançamento do ChatGPT, os usuários manifestaram interesse em ter acesso a plugins, e muitos desenvolvedores estão experimentando idéias semelhantes. O OpenAI está lançando inicialmente os plugins para um pequeno conjunto de usuários e planeja aumentar gradualmente o acesso à medida que aprende mais. Após um período alfa, os usuários da API que desejam integrar plugins em seus produtos também terão acesso. O Openai está animado para construir uma comunidade que ajudará a moldar o futuro do paradigma de interação humano-AI.

Os desenvolvedores que foram convidados para fora da lista de espera podem usar a documentação do OpenAI para criar um plug -in para o ChatGPT. Depois que o plug -in é criado, ele está listado no prompt mostrado ao modelo de idioma, juntamente com a documentação que instrui o modelo sobre como usar cada um. O primeiro conjunto de plugins foi criado pela Expedia, Fiscalnote, Instacart, Kayak, Klarna, Milo, Openable, Shopify, Slack, Speak, Wolfram e Zapier.