Switch Transformers 对比 Stellaris AI

Switch Transformers 引入了一种稀疏的 Mixture of Experts 架构，将每个输入路由到一个专家，从而减少通信开销，同时在计算成本保持不变的情况下实现万亿参数语言模型的扩展。谷歌研究员 William Fedus、Barret Zoph 和 Noam Shazeer 的这篇论文简化了 MoE 的路由方法，改善了训练的稳定性，并报告在相同计算预算下预训练速度比密集型 T5 模型快最多7倍。

这种方法建立在 T5 架构之上，支持跨 101 种语言的多语言训练。Switch Transformers 也支持使用 bfloat16 精度进行训练，以实现更快、更稳定的大规模运行。这项工作面向需要在不等比例增加硬件成本的情况下扩展 NLP 模型的研究人员和工程师。

作为一篇研究论文，Switch Transformers 已在 arXiv 上发布，旨在记录高效稀疏激活的方法，而非商业 SaaS 产品。论文和 PDF 可免费下载和引用。

Stellaris AI 构建了以原生安全性和类人推理为核心的大型语言模型，应用于现实任务。其旗舰产品线 SGPT 主要面向文本和代码生成、知识问答、逻辑推理及分析，规模达到公司所称的数千亿参数。公开网站主要提供 SGPT-4.5 的候补名单，而非可立即使用的自助聊天产品。

与许多大型语言模型实验室在训练后才加装安全过滤器不同，Stellaris AI 将安全性作为模型架构的一部分，通过严格的来源引用和伤害最小化来实现。它还强调实时上下文学习（RCL），通过实时知识调整答案，旨在为需要带引用输出而非未经核实生成内容的团队提供解决方案。

研究人员、企业 AI 团队和早期用户可加入 SGPT-4.5 候补名单以优先体验。公司表示其拥有超过 10 年的研究经验和三个核心产品支柱：Stellaris GPT、原生安全性和 RCL。