Moshi AI vs VALL-E

Moshi AI est un modèle conversationnel natif à la parole développé par Kyutai, un laboratoire de recherche open-science basé à Paris. Au lieu de chaîner la reconnaissance vocale, la génération de texte et la synthèse vocale, Moshi traite directement l'audio et mène des conversations vocales en duplex intégral avec une latence minimale.

Sa conception multi-flux exécute des canaux séparés pour l'utilisateur, la sortie vocale de Moshi, et un flux de texte Monologue intérieur qui améliore la cohérence. Cette configuration permet à Moshi d'écouter et de parler en même temps, de gérer les chevauchements, les interruptions et la réponse en arrière-plan comme lors d'une vraie conversation, plutôt que des tours de parole rigides.

Moshi est construit sur Helium, un modèle linguistique de 7 milliards de paramètres, et Mimi, le codec audio neuronal de Kyutai. Les poids et le code d'inférence sont disponibles pour PyTorch, Rust, et MLX, et vous pouvez l'essayer dans le navigateur sur moshi-chat.kyutai.org. Les chercheurs, les développeurs d'IA vocale, et toute personne créant des interfaces vocales en temps réel y trouveront le plus de valeur.

VALL-E est un modèle de synthèse vocale de Microsoft Research qui clone la voix d'un locuteur à partir d'un court extrait audio et génère un nouveau discours à partir de texte. Il appartient à la catégorie de la génération audio car il synthétise un discours naturel plutôt que d'éditer des enregistrements existants. La page du projet héberge des exemples audio pour le modèle original VALL-E et ses variantes ultérieures dans la même famille de recherche.

La plupart des systèmes de synthèse vocale régressent directement des formes d'onde continues ou des mél-spectrogrammes. VALL-E considère plutôt la parole comme une tâche de modélisation linguistique conditionnelle sur des codes discrets issus d'un codec audio neuronal. Microsoft l'a entraîné sur environ 60 000 heures de discours en anglais, bien plus que les ensembles de données TTS habituels. Un enregistrement de 3 secondes d'un locuteur inconnu suffit pour une synthèse zéro-shot, et le modèle peut conserver l'émotion et l'ambiance de la pièce présentes dans cet extrait.

La famille VALL-E s'est étendue au-delà du premier article. VALL-E X gère la synthèse vocale zéro-shot multilingue, VALL-E R ajoute un alignement monotone des phonèmes pour une génération de discours plus stable, et VALL-E 2 associe un échantillonnage conscient de la répétition à une modélisation groupée des codes pour atteindre la parité humaine sur les benchmarks LibriSpeech et VCTK. Des variantes comme MELLE, FELLE et PALLE explorent les tokens mél continus et un décodage hybride autoregressif plus parallèle.

Chercheurs, ingénieurs du son et auditeurs curieux utilisent VALL-E pour découvrir ce que les grands modèles linguistiques de codec peuvent faire avant de construire leurs propres chaînes. Les exemples publics sont des démonstrations de recherche, pas une API hébergée que l'on peut intégrer dans un produit sans licence et revue éthique séparées.