replit-code 对比 Stellaris AI

Replit 的 replit-code-v1-3b 是一个拥有27亿参数的因果语言模型，专为代码补全任务设计。在涵盖20种编程语言的1750亿个令牌的庞大多样化数据集上进行训练，支持Python、JavaScript、Java等多种语言。该模型采用了先进的技术，如Flash Attention和AliBi位置嵌入，以提高速度并高效处理可变的上下文长度。它在CC BY-SA 4.0许可证下被优化，适合开发者进行定制调优，且没有商业限制。

该模型基于MosaicML平台开发，配备了丰富的GPU资源，兼容流行的库如Transformers，并支持包括8-bit和4-bit加载在内的量化方法，以降低资源需求。还提供为代码语法优化的自定义分词，确保生成的补全具有语法正确性。用户可以在本地、笔记本或Docker容器中部署模型，并提供详细的使用指南。

虽然功能强大，但模型可能反映其训练数据中的偏见或不适当内容，因此建议在生产环境中谨慎使用。后处理建议包括在遇到序列结束标志时停止生成，以及修剪不完整的代码片段。该模型在寻求开源基础进行代码生成和补全任务的开发者和研究人员中非常受欢迎。

Replit-code-v1-3b与Hugging Face的生态系统集成良好，可以通过管道方便地访问，并与推理提供商兼容。它适用于各种编码辅助场景，从简单的函数补全到复杂的多语言项目。该模型得益于社区的持续支持和贡献，推动着合作改进和创新。

Stellaris AI 构建了以原生安全性和类人推理为核心的大型语言模型，应用于现实任务。其旗舰产品线 SGPT 主要面向文本和代码生成、知识问答、逻辑推理及分析，规模达到公司所称的数千亿参数。公开网站主要提供 SGPT-4.5 的候补名单，而非可立即使用的自助聊天产品。

与许多大型语言模型实验室在训练后才加装安全过滤器不同，Stellaris AI 将安全性作为模型架构的一部分，通过严格的来源引用和伤害最小化来实现。它还强调实时上下文学习（RCL），通过实时知识调整答案，旨在为需要带引用输出而非未经核实生成内容的团队提供解决方案。

研究人员、企业 AI 团队和早期用户可加入 SGPT-4.5 候补名单以优先体验。公司表示其拥有超过 10 年的研究经验和三个核心产品支柱：Stellaris GPT、原生安全性和 RCL。