Immersity (formerly LeiaPix Converter) vs Text-To-4D

O Immersity, anteriormente conhecido como LeiaPix Converter, transforma fotos e vídeos planos em animações de profundidade que você pode visualizar em uma tela normal ou em um headset XR. Você carrega um arquivo 2D, o Neural Depth Engine cria um mapa de profundidade e você exporta formatos como 3D lado a lado, mapas de profundidade, vídeo espacial para o Apple Vision Pro ou clipes animados do Immersive Motion.

Aplicativos genéricos de fotos 3D geralmente param em um único movimento de paralaxe. O Immersity separa o primeiro plano e o fundo em camadas distintas com o Neural Depth Rendering 4.0, que preenche detalhes ocultos quando você move ou amplia o ponto de vista. Ele também converte vídeos, não apenas imagens estáticas, com opções de exportação de até 4K nos planos pagos.

Criadores, profissionais de marketing e entusiastas de XR o utilizam para clipes sociais, imagens de viagens e conteúdo estereoscópico sem precisar criar mapas de profundidade manualmente. O nível gratuito permite conversões ilimitadas com marca d'água de até 720p; os planos de imagem pagos começam em $4.99 por mês para 500 créditos e saída em 4K sem marcas d'água.

Text-To-4D, também conhecido como MAV3D (Make-A-Video3D), gera cenas dinâmicas tridimensionais a partir de descrições de texto simples. Ele utiliza um Neural Radiance Field (NeRF) dinâmico 4D otimizado para aparência consistente da cena, densidade e movimento, aproveitando um modelo de difusão Text-to-Video. Isso permite a criação de vídeos dinâmicos que podem ser visualizados de qualquer ângulo de câmera e integrados a diversos ambientes 3D.

Ao contrário dos métodos tradicionais de geração 3D, o MAV3D não requer dados de treinamento 3D ou 4D. Em vez disso, depende de um modelo Text-to-Video treinado exclusivamente com pares de texto-imagem e vídeos não rotulados, tornando-se acessível para usuários sem conjuntos de dados especializados. Essa abordagem abre novas possibilidades para criadores, desenvolvedores e pesquisadores interessados em gerar conteúdo dinâmico 3D imersivo a partir de comandos de texto.

A ferramenta foi desenhada para um amplo público, incluindo desenvolvedores de jogos, animadores e criadores de conteúdo de realidade virtual, que desejam produzir rapidamente cenas dinâmicas 3D sem modelagem ou animação manual. Ela oferece um valor único ao combinar geração orientada por texto com saída de cenas dinâmicas 3D, que podem ser usadas em aplicações interativas ou narrativa visual.

Tecnicamente, o método integra um NeRF 4D com um modelo de difusão baseado em Text-to-Video para garantir a consistência do movimento e da aparência ao longo do tempo e espaço. Como resultado, produz cenas dinâmicas suaves e realistas, que podem ser exploradas de múltiplos pontos de vista. O sistema melhora os resultados de bases internas anteriores, produzindo vídeos 3D de maior qualidade e mais coerentes a partir de entrada textual.

No geral, o Text-To-4D destaca-se como o primeiro método conhecido capaz de gerar cenas 3D totalmente dinâmicas a partir de texto, fechando a lacuna entre a geração de vídeos baseada em texto e a síntese de cenas 3D. Ele oferece uma solução flexível e inovadora para criar conteúdo imersivo sem a necessidade de dados 3D complexos ou animação manual.