ChatTTS vs VALL-E

ChatTTS est un modèle de synthèse vocale open-source conçu pour le dialogue. L'équipe 2Noise l'a entraîné sur plus de 100 000 heures de speech en chinois et en anglais, afin qu'il sonne de manière naturelle dans les conversations en échange, et pas seulement en narration scriptée.

Ce qui le distingue, c'est le contrôle de la prosodie à un niveau granulaire. Le modèle peut ajouter des rires, des pauses et des interjections, et il gère plusieurs locuteurs lors d'une même session. Cela en fait un outil adapté pour les assistants LLM, l'audio conversationnel et les médias interactifs riches en dialogue.

Les développeurs l'installent via pip ou en clonant le dépôt GitHub. La version open-source sur Hugging Face est un modèle de base de 40 000 heures sous licence AGPLv3+. L'équipe le présente comme étant destiné à la recherche et aux cas d'usage liés au dialogue, avec un contact à [email protected] pour toute question sur la feuille de route.

VALL-E est un modèle de synthèse vocale de Microsoft Research qui clone la voix d'un locuteur à partir d'un court extrait audio et génère un nouveau discours à partir de texte. Il appartient à la catégorie de la génération audio car il synthétise un discours naturel plutôt que d'éditer des enregistrements existants. La page du projet héberge des exemples audio pour le modèle original VALL-E et ses variantes ultérieures dans la même famille de recherche.

La plupart des systèmes de synthèse vocale régressent directement des formes d'onde continues ou des mél-spectrogrammes. VALL-E considère plutôt la parole comme une tâche de modélisation linguistique conditionnelle sur des codes discrets issus d'un codec audio neuronal. Microsoft l'a entraîné sur environ 60 000 heures de discours en anglais, bien plus que les ensembles de données TTS habituels. Un enregistrement de 3 secondes d'un locuteur inconnu suffit pour une synthèse zéro-shot, et le modèle peut conserver l'émotion et l'ambiance de la pièce présentes dans cet extrait.

La famille VALL-E s'est étendue au-delà du premier article. VALL-E X gère la synthèse vocale zéro-shot multilingue, VALL-E R ajoute un alignement monotone des phonèmes pour une génération de discours plus stable, et VALL-E 2 associe un échantillonnage conscient de la répétition à une modélisation groupée des codes pour atteindre la parité humaine sur les benchmarks LibriSpeech et VCTK. Des variantes comme MELLE, FELLE et PALLE explorent les tokens mél continus et un décodage hybride autoregressif plus parallèle.

Chercheurs, ingénieurs du son et auditeurs curieux utilisent VALL-E pour découvrir ce que les grands modèles linguistiques de codec peuvent faire avant de construire leurs propres chaînes. Les exemples publics sont des démonstrations de recherche, pas une API hébergée que l'on peut intégrer dans un produit sans licence et revue éthique séparées.