ChatTTS vs MusicLM

ChatTTS é um modelo de texto-para-fala de código aberto, criado para diálogos. A equipe 2Noise treinou-o com mais de 100.000 horas de fala em chinês e inglês, para que soe natural em conversas trocadas, e não apenas em narração roteirizada.

O que o diferencia é o controle de prosódia em um nível granular. O modelo pode acrescentar risadas, pausas e interjeições, além de lidar com múltiplos falantes em uma única sessão. Isso o torna adequado para assistentes com LLM, áudio conversacional e multimídia com diálogos intensos.

Desenvolvedores podem instalá-lo via pip ou clonando o repositório no GitHub. A versão de código aberto disponível no Hugging Face é um modelo base de 40.000 horas, sob licença AGPLv3+. A equipe o posiciona para usos em pesquisa e diálogo, com contato em [email protected] para perguntas sobre o roteiro de desenvolvimento.

MusicLM é um modelo de geração de áudio do Google Research que cria música a partir de legendas de texto a 24 kHz. A página pública de exemplos hospeda clipes de amostra para comandos como trilhas sonoras de arcade, fusões de reggaeton-EDM e jazz relaxante, além de gerações mais longas no modo história que mudam de estilo ao longo de segmentos temporizados. O Google lançou o conjunto de dados MusicCaps com 5.500 pares de música-texto junto com o artigo.

Diferente de aplicativos para consumidores que oferecem uma única caixa de comando, o MusicLM foi publicado como uma demonstração de pesquisa com amostras pré-geradas, e não como um produto com login. Seu truque principal é o condicionamento conjunto de texto e melodia: você pode cantarolar ou assobiar uma melodia e fazer o modelo regravá-la em um novo gênero descrito em texto. O modo história encadeia múltiplas legendas para que a música evolua ao longo das seções.

O MusicLM é importante como base de pesquisa para os modelos musicais Lyria posteriores do Google, mas esta página é para ouvir exemplos publicados, não para criar novas faixas interativamente. Pesquisadores e músicos o estudam pela consistência em longas durações, condicionamento de pintura para música e resultados de transferência de melodia documentados no artigo de 2023.