Moshi AI 对比 VALL-E

Moshi AI 是来自巴黎开源科学研究实验室 Kyutai 的一种语音原生对话模型。它无需串联语音识别、文本生成和语音合成，而是直接处理音频，实现低延迟的全双工语音对话。

其多流设计为用户、Moshi的语音输出以及内部独白文本流开辟了独立的通道，从而提高一致性。这样的设置使得Moshi可以边听边说，应对重叠、打断和回话，就像真实的对话一样，而非僵硬的轮流发言。

Moshi建立在Helium——一个7B参数的语言模型，以及Kyutai的神经音频编码器Mimi之上。其权重和推理代码支持PyTorch、Rust和MLX，您还可以在浏览器中试用，网址为moshi-chat.kyutai.org。研究人员、语音AI开发者以及任何构建实时语音界面的人都能在这里找到最大的价值。

VALL-E 是微软研究院开发的文本转语音模型，能够从一段简短的音频片段克隆说话者的声音，并根据文本生成新的语音。它属于音频生成类别，因为它合成自然语音，而非编辑现有录音。项目页面提供了原始 VALL-E 模型及同一研究系列后续变体的示例音频。

大多数 TTS 系统直接回归连续波形或梅尔频谱图。VALL-E 则将语音视为基于神经音频编解码器离散编码的条件语言建模任务。微软使用约 60,000 小时的英语语音进行训练，远超典型 TTS 数据集。仅需一段 3 秒的未见说话者录音即可实现零样本合成，且模型能保持提示中存在的情感和环境音。

VALL-E 系列超越了首篇论文。VALL-E X 支持跨语言零样本 TTS，VALL-E R 增加了音素单调对齐以实现更稳定的语音生成，VALL-E 2 结合重复感知采样与分组编码建模，在 LibriSpeech 和 VCTK 基准测试中达到人类水平。相关系列如 MELLE、FELLE 和 PALLE 探索连续梅尔令牌及混合自回归加并行解码。

研究人员、语音工程师和好奇的听众使用 VALL-E 来体验大规模编解码器语言模型的能力，作为构建自身流程前的参考。公开示例为研究演示，不是可直接接入产品的托管 API，使用需另行许可和伦理审查。