Galactica 对比 Stellaris AI

五个从125M到120B参数的开放权重检查点，为研究人员提供了一个科学训练的语言模型，该模型基于1060亿个精心策划的标记，涵盖4800万篇论文、教科书、百科全书和知识库。Galactica在一个仅解码器的Transformer架构内存储、组合并推理多种模态，包括LaTeX、Python代码、SMILES公式和氨基酸序列。Meta的Papers with Code团队开源了权重，供希望研究语言模型如何组织科学知识的研究人员使用。

通用大型语言模型训练于广泛的网络爬取数据，其中社交聊天可能占据标记预算的主导。Galactica仅使用经过策划的开放获取科学资源，论文认为这使其能够进行多轮训练而不过拟合。Meta在2022年11月发布后三天内移除了公共网络演示，因为批评者展示了自信但伪造的引用和方程，因此今天你可以从Hugging Face下载检查点，而不是通过托管界面聊天。

机器学习研究人员可以复现arXiv论文中的基准数字，包括PubMedQA的77.6%和MedMCQA开发集的52.9%。计算生物学家和化学家可以通过Galactica专门为氨基酸序列和SMILES字符串设计的标记测试蛋白质注释和分子任务。研究生在探索科学问答、引用预测或数学文字题时，可以尝试高达1200亿参数的模型，而无需从零开始训练。

Stellaris AI 构建了以原生安全性和类人推理为核心的大型语言模型，应用于现实任务。其旗舰产品线 SGPT 主要面向文本和代码生成、知识问答、逻辑推理及分析，规模达到公司所称的数千亿参数。公开网站主要提供 SGPT-4.5 的候补名单，而非可立即使用的自助聊天产品。

与许多大型语言模型实验室在训练后才加装安全过滤器不同，Stellaris AI 将安全性作为模型架构的一部分，通过严格的来源引用和伤害最小化来实现。它还强调实时上下文学习（RCL），通过实时知识调整答案，旨在为需要带引用输出而非未经核实生成内容的团队提供解决方案。

研究人员、企业 AI 团队和早期用户可加入 SGPT-4.5 候补名单以优先体验。公司表示其拥有超过 10 年的研究经验和三个核心产品支柱：Stellaris GPT、原生安全性和 RCL。