Farm3D vs Text-To-4D

Farm3D est un outil développé par l'Université d'Oxford qui crée des modèles d'animaux en 3D articulés à partir d'une seule image. Il utilise une approche unique en exploitant un générateur d'images basé sur la diffusion en 2D, comme Stable Diffusion, pour entraîner un réseau capable de reconstruire des formes 3D détaillées sans nécessiter de données 3D réelles. Cette méthode permet à Farm3D de générer des modèles 3D avec des détails fins tels que les jambes et les oreilles, même s'il n'a pas été entraîné sur des images réelles.

L'outil prend en charge la synthèse 3D contrôlable, permettant aux utilisateurs d'ajuster l'éclairage, de changer les textures entre des modèles de la même catégorie d'animaux, et d'animer les formes. Il fonctionne avec des images réelles ainsi qu'avec des images générées par Stable Diffusion, produisant des assets 3D en quelques secondes. Farm3D décompose les images d'entrée en composants tels que la forme articulée, l'apparence, le point de vue et la direction de la lumière, offrant aux utilisateurs un contrôle sur le modèle final.

Farm3D introduit également le dataset Animodel, une collection de maillages 3D texturés d'animaux articulés tels que les chevaux, les vaches et les moutons, avec des poses réalistes. Ce dataset sert de référence pour évaluer la qualité de la reconstruction 3D à partir d'une seule vue pour les animaux articulés.

Cet outil est idéal pour les chercheurs, artistes numériques et développeurs intéressés par la modélisation, l'animation et la synthèse d'animaux en 3D, sans nécessiter de données d'entraînement 3D exhaustives. Sa nouvelle utilisation des modèles de diffusion pour la supervision virtuelle et l'évaluation le distingue des méthodes traditionnelles de reconstruction 3D.

L'approche de Farm3D réduit le besoin d'annotations 3D coûteuses en utilisant des vues synthétiques générées et critiquées par des modèles de diffusion durant l'entraînement. Cela aboutit à un réseau de reconstruction monoculaire rapide, flexible et capable de produire des modèles 3D d'animaux de haute qualité avec des fonctionnalités contrôlables.

Text-To-4D, également connu sous le nom de MAV3D (Make-A-Video3D), génère des scènes dynamiques tridimensionnelles à partir de descriptions textuelles simples. Il utilise un champ de radiance neuronal dynamique 4D (NeRF) optimisé pour une cohérence dans l'apparence de la scène, la densité et le mouvement en tirant parti d'un modèle de diffusion Text-to-Video. Cela permet de créer des vidéos dynamiques pouvant être visualisées sous n'importe quel angle de caméra et intégrées dans divers environnements 3D.

Contrairement aux méthodes traditionnelles de génération 3D, MAV3D ne requiert aucune donnée d'entraînement 3D ou 4D. Il s'appuie plutôt sur un modèle Text-to-Video entraîné uniquement sur des paires texte-image et des vidéos non étiquetées, le rendant accessible aux utilisateurs ne disposant pas de jeux de données spécialisés. Cette approche ouvre de nouvelles possibilités pour les créateurs, développeurs et chercheurs souhaitant générer du contenu 3D immersif à partir de simples invites textuelles.

L'outil est destiné à un large public, incluant les développeurs de jeux, les animateurs et les créateurs de contenu en réalité virtuelle qui veulent produire rapidement des scènes 3D dynamiques sans modélisation ou animation manuelle. Il offre une valeur unique en combinant la génération basée sur le texte avec la sortie de scènes 3D dynamiques, utilisables dans des applications interactives ou pour la narration visuelle.

Techniquement, la méthode intègre un NeRF 4D avec un modèle de diffusion Text-to-Video pour garantir la cohérence du mouvement et de l'apparence dans le temps et l'espace. Cela aboutit à des scènes dynamiques fluides et réalistes, explorables sous plusieurs points de vue. Le système améliore les précédents benchmarks en produisant des vidéos 3D de meilleure qualité et plus cohérentes à partir d’un texte.

Dans l’ensemble, Text-To-4D se démarque comme la première méthode connue pour générer des scènes 3D entièrement dynamiques à partir de texte, comblant le gap entre la génération vidéo basée sur le texte et la synthèse de scènes 3D. Il offre une solution flexible et innovante pour créer du contenu immersif sans nécessiter de données 3D complexes ou d'animation manuelle.