SpeechGPT 对比 VALL-E

SpeechGPT 让您使用自己的 OpenAI API 密钥在浏览器中进行语音对话。您可以输入或录制消息，通过聊天界面发送，并听取语音回复，无需安装桌面软件。

与将模型费用捆绑在订阅中的托管 TTS 服务不同，SpeechGPT 在浏览器中运行，仅通过您连接的 OpenAI、Azure Speech Services 或 Amazon Polly 账户计费。这使其成为已有 API 访问权限且需要简单语音聊天前端的开发者和语言学习者的轻量级选择。

该界面支持英语、西班牙语和中文的用户界面标签，包含用于语音输入的录音按钮，并在浏览器中本地存储会话数据。适合测试语音聊天流程的开发者、练习口语提示的语言学习者，以及任何希望在移动或桌面设备上使用简洁 ChatGPT 语音客户端的人。

VALL-E 是微软研究院开发的文本转语音模型，能够从一段简短的音频片段克隆说话者的声音，并根据文本生成新的语音。它属于音频生成类别，因为它合成自然语音，而非编辑现有录音。项目页面提供了原始 VALL-E 模型及同一研究系列后续变体的示例音频。

大多数 TTS 系统直接回归连续波形或梅尔频谱图。VALL-E 则将语音视为基于神经音频编解码器离散编码的条件语言建模任务。微软使用约 60,000 小时的英语语音进行训练，远超典型 TTS 数据集。仅需一段 3 秒的未见说话者录音即可实现零样本合成，且模型能保持提示中存在的情感和环境音。

VALL-E 系列超越了首篇论文。VALL-E X 支持跨语言零样本 TTS，VALL-E R 增加了音素单调对齐以实现更稳定的语音生成，VALL-E 2 结合重复感知采样与分组编码建模，在 LibriSpeech 和 VCTK 基准测试中达到人类水平。相关系列如 MELLE、FELLE 和 PALLE 探索连续梅尔令牌及混合自回归加并行解码。

研究人员、语音工程师和好奇的听众使用 VALL-E 来体验大规模编解码器语言模型的能力，作为构建自身流程前的参考。公开示例为研究演示，不是可直接接入产品的托管 API，使用需另行许可和伦理审查。