Moshi AI vs MusicLM

Moshi AI é um modelo conversacional nativo de fala da Kyutai, um laboratório de pesquisa em ciência aberta com sede em Paris. Em vez de encadear reconhecimento de fala, geração de texto e síntese de fala, o Moshi processa áudio diretamente e mantém conversas de voz full-duplex com mínima latência.

Seu design multi-stream executa canais separados para o usuário, a saída falada do Moshi e um fluxo de texto de Monólogo Interno que melhora a coerência. Essa configuração permite que o Moshi ouça e fale ao mesmo tempo, lidando com sobreposições, interrupções e respostas de acompanhamento como uma conversa real, ao invés de turnos rígidos de fala.

O Moshi é construído sobre o Helium, um modelo de linguagem de 7B, e o Mimi, o codec de áudio neural da Kyutai. Pesos e código de inferência são disponibilizados para PyTorch, Rust e MLX, e você pode experimentá-lo no navegador em moshi-chat.kyutai.org. Pesquisadores, desenvolvedores de voice AI e qualquer pessoa que esteja construindo interfaces de fala em tempo real encontrarão aqui o máximo de valor.

MusicLM é um modelo de geração de áudio do Google Research que cria música a partir de legendas de texto a 24 kHz. A página pública de exemplos hospeda clipes de amostra para comandos como trilhas sonoras de arcade, fusões de reggaeton-EDM e jazz relaxante, além de gerações mais longas no modo história que mudam de estilo ao longo de segmentos temporizados. O Google lançou o conjunto de dados MusicCaps com 5.500 pares de música-texto junto com o artigo.

Diferente de aplicativos para consumidores que oferecem uma única caixa de comando, o MusicLM foi publicado como uma demonstração de pesquisa com amostras pré-geradas, e não como um produto com login. Seu truque principal é o condicionamento conjunto de texto e melodia: você pode cantarolar ou assobiar uma melodia e fazer o modelo regravá-la em um novo gênero descrito em texto. O modo história encadeia múltiplas legendas para que a música evolua ao longo das seções.

O MusicLM é importante como base de pesquisa para os modelos musicais Lyria posteriores do Google, mas esta página é para ouvir exemplos publicados, não para criar novas faixas interativamente. Pesquisadores e músicos o estudam pela consistência em longas durações, condicionamento de pintura para música e resultados de transferência de melodia documentados no artigo de 2023.