RWKV-LM 对比 Stellaris AI

RWKV-LM是一种结合了循环神经网络效率与变换器架构性能的语言模型。它通过采用并行化设计，实现了快速训练和推理，在推理过程中具有线性时间复杂度和恒定内存，避免了传统变换器中常见的键值缓存需求。

RWKV-LM的显著特点是能够处理极长的输入序列而不影响性能或增加内存使用。与需要二次时间和内存的标准变换器不同，RWKV-LM保持了高效性和可扩展性，适合硬件资源有限的用户使用。它还提供基于最终隐藏状态的免费句子嵌入，便于各种自然语言处理任务。

RWKV-LM用创新技术如Token移位混合和可训练的时间衰减机制取代传统的注意力机制，有效建模长距离依赖关系。该模型以Apache-2.0开源许可证发布，并由活跃的社区支持。它非常适合对可扩展、高效语言建模感兴趣的研究者、开发者和组织，且持续探索多模态应用，如图像和音频处理。

丰富的文档、训练脚本和预训练权重可在GitHub上获取，平台还提供演示和集成示例。该项目持续发展，不断改进CUDA内核以加快训练速度，以及采用状态调优技术优化初始状态，从而增强RWKV-LM的能力和可访问性。

Stellaris AI 构建了以原生安全性和类人推理为核心的大型语言模型，应用于现实任务。其旗舰产品线 SGPT 主要面向文本和代码生成、知识问答、逻辑推理及分析，规模达到公司所称的数千亿参数。公开网站主要提供 SGPT-4.5 的候补名单，而非可立即使用的自助聊天产品。

与许多大型语言模型实验室在训练后才加装安全过滤器不同，Stellaris AI 将安全性作为模型架构的一部分，通过严格的来源引用和伤害最小化来实现。它还强调实时上下文学习（RCL），通过实时知识调整答案，旨在为需要带引用输出而非未经核实生成内容的团队提供解决方案。

研究人员、企业 AI 团队和早期用户可加入 SGPT-4.5 候补名单以优先体验。公司表示其拥有超过 10 年的研究经验和三个核心产品支柱：Stellaris GPT、原生安全性和 RCL。