Switch Transformers vs Stellaris AI

Transformers Switch introduzem uma arquitetura de Mistura de Especialistas esparsa que direciona cada entrada para um único especialista, reduzindo a sobrecarga de comunicação enquanto escalonam modelos de linguagem com trilhões de parâmetros com custo computacional constante. O artigo dos pesquisadores do Google William Fedus, Barret Zoph e Noam Shazeer simplifica o roteamento MoE, melhora a estabilidade do treinamento e relata até 7 vezes mais rápido em pré-treinamento do que modelos T5 densos no mesmo orçamento de computação.

A abordagem baseia-se na arquitetura T5 e suporta treinamento multilíngue em 101 idiomas. Os Transformers Switch também permitem treinamento com precisão bfloat16 para execuções de grande escala mais rápidas e estáveis. O trabalho é direcionado a pesquisadores e engenheiros que precisam escalar modelos de NLP sem aumentos proporcionais no custo de hardware.

Publicado no arXiv como um artigo de pesquisa, os Transformers Switch documentam métodos para ativação esparsa eficiente, e não um produto SaaS comercial. O artigo e o PDF estão disponíveis para download e citação gratuitamente.

Stellaris AI desenvolve grandes modelos de linguagem comercializados com foco em segurança nativa e raciocínio semelhante ao humano para tarefas do mundo real. Sua linha principal SGPT é direcionada para geração de texto e código, perguntas e respostas de conhecimento, raciocínio lógico e análises em uma escala que a empresa descreve como centenas de bilhões de parâmetros. O site público é centrado em uma lista de espera para o SGPT-4.5, em vez de um produto de chat de autoatendimento que você possa usar hoje.

Enquanto muitos laboratórios de LLM adicionam filtros de segurança após o treinamento, a Stellaris AI considera a segurança como parte da pilha do modelo por meio de referência rigorosa de fontes e minimização de danos na arquitetura. Também destaca o Aprendizado de Contexto em Tempo Real (RCL) para adaptar respostas com conhecimento ao vivo, uma combinação voltada para equipes que desejam saídas citadas em vez de geração não verificada.

Pesquisadores, equipes de IA empresarial e adotantes iniciais entram na lista de espera do SGPT-4.5 para acesso prioritário. A empresa cita mais de 10 anos de pesquisa e três pilares principais de produto: Stellaris GPT, Segurança Nativa e RCL.