Text-To-4D

Text-To-4D, também conhecido como MAV3D (Make-A-Video3D), gera cenas dinâmicas tridimensionais a partir de descrições de texto simples. Ele utiliza um Neural Radiance Field (NeRF) dinâmico 4D otimizado para aparência consistente da cena, densidade e movimento, aproveitando um modelo de difusão Text-to-Video. Isso permite a criação de vídeos dinâmicos que podem ser visualizados de qualquer ângulo de câmera e integrados a diversos ambientes 3D.

Ao contrário dos métodos tradicionais de geração 3D, o MAV3D não requer dados de treinamento 3D ou 4D. Em vez disso, depende de um modelo Text-to-Video treinado exclusivamente com pares de texto-imagem e vídeos não rotulados, tornando-se acessível para usuários sem conjuntos de dados especializados. Essa abordagem abre novas possibilidades para criadores, desenvolvedores e pesquisadores interessados em gerar conteúdo dinâmico 3D imersivo a partir de comandos de texto.

A ferramenta foi desenhada para um amplo público, incluindo desenvolvedores de jogos, animadores e criadores de conteúdo de realidade virtual, que desejam produzir rapidamente cenas dinâmicas 3D sem modelagem ou animação manual. Ela oferece um valor único ao combinar geração orientada por texto com saída de cenas dinâmicas 3D, que podem ser usadas em aplicações interativas ou narrativa visual.

Tecnicamente, o método integra um NeRF 4D com um modelo de difusão baseado em Text-to-Video para garantir a consistência do movimento e da aparência ao longo do tempo e espaço. Como resultado, produz cenas dinâmicas suaves e realistas, que podem ser exploradas de múltiplos pontos de vista. O sistema melhora os resultados de bases internas anteriores, produzindo vídeos 3D de maior qualidade e mais coerentes a partir de entrada textual.

No geral, o Text-To-4D destaca-se como o primeiro método conhecido capaz de gerar cenas 3D totalmente dinâmicas a partir de texto, fechando a lacuna entre a geração de vídeos baseada em texto e a síntese de cenas 3D. Ele oferece uma solução flexível e inovadora para criar conteúdo imersivo sem a necessidade de dados 3D complexos ou animação manual.