Farm3D vs Make3D

Farm3D est une méthode de recherche pour la reconstruction 3D monoculaire d'animaux articulés, développée à l'Université d'Oxford et publiée à 3DV 2024. Vous lui fournissez une photo d'un cheval, d'une vache ou d'un mouton, et elle restitue en quelques secondes une forme 3D complète avec texture, sans entraînement sur des photographies réelles. La page du projet documente l'approche, présente des démonstrations de reconstruction et propose des liens vers le code et le jeu de données de référence Animodel.

La plupart des générateurs 3D nécessitent de grands ensembles de données 3D étiquetées ou des captures multi-vues. Farm3D s'entraîne entièrement sur des vues synthétiques produites par Stable Diffusion, puis utilise le même modèle de diffusion comme critique lors de l'apprentissage. Cela lui permet de récupérer des détails fins comme les pattes et les oreilles sur des catégories qu'il n'a jamais vues en images réelles, ce qui est inhabituel pour les pipelines de reconstruction monoculaire qui reposent sur une supervision du monde réel.

Les chercheurs étudiant la forme 3D articulée, les ingénieurs en vision par ordinateur développant des pipelines d'actifs animaliers, et les artistes 3D explorant la synthèse contrôlable trouveront les démonstrations et le code ouvert utiles. La méthode prend également en charge le relighting, l'échange de textures entre modèles de même catégorie, et l'animation squelettique une fois la forme générée.

Convertit les images 2D en images ou intégres 3D.