RedPajama 对比 GPT-4

隆重推出 Together 的 RedPajama-INCITE 系列型号！最新版本在 AI 模型可用性方面迈出了突破性的一步，重点关注基础、指令调整和聊天 AI 模型。此版本的核心是 30 亿 (3B) 和 70 亿 (7B) 参数模型，旨在紧密复制高性能 AI 的 LLaMA 配方。

这些模型在庞大的 5 TB RedPajama 基础数据集上经过精心训练，展示了卓越的功能以及与各种硬件的兼容性，包括早至 RTX 2070 的 GPU。非常适合少量学习和下游应用，例如实体提取、通过分类和总结，这些模型在 HELM 基准测试规模上的指令调整方面树立了新的基准，不仅优于同行，而且还为人工智能研究和实际应用引入了新途径。用户将对 7B 模型的持续训练进度特别感兴趣，该模型已经展现出相对于类似模型的竞争优势。所有模型均在 Apache 2.0 许可下发布，促进研究和商业用途并推进人工智能领域的开放合作。

GPT-4是Openai在扩大深度学习方面努力的最新里程碑。

GPT-4是一个大型的多模式模型（接受图像和文本输入，发射文本输出），尽管在许多现实世界中，虽然比人类的能力较低，但在各种专业和学术基准中都表现出人级的性能。例如，它通过模拟的律师考试，其得分围绕着考试者的前10％。相比之下，GPT-3.5的得分约为底部的10％。我们花了6个月的时间使用对抗性测试计划和CHATGPT的课程将GPT-4的迭代对准4，从而在事实，可管道性和拒绝外出护栏方面取得了我们最好的结果（尽管远非完美）。

GPT-4比以往任何时候都更具创造力和协作性。它可以在创意和技术写作任务上生成，编辑和迭代，例如创作歌曲，写剧本或学习用户的写作方式。