Farm3D

Farm3D

Farm3D es un método de investigación para la reconstrucción 3D de animales articulados a partir de una sola vista, desarrollado en la Universidad de Oxford y publicado en 3DV 2024. Le proporcionas una foto de un caballo, vaca o oveja y devuelve una forma 3D completa con textura en segundos, sin necesidad de entrenamiento con fotografías reales. La página del proyecto documenta el enfoque, muestra demostraciones de reconstrucción y enlaza al código y al conjunto de datos de referencia Animodel.

La mayoría de los generadores 3D requieren grandes conjuntos de datos 3D etiquetados o capturas multivista. Farm3D se entrena completamente con vistas sintéticas producidas por Stable Diffusion, y luego utiliza el mismo modelo de difusión como crítico durante el aprendizaje. Esto le permite recuperar detalles finos como patas y orejas en categorías que nunca vio en imágenes reales, lo cual es inusual para los procesos de reconstrucción monocular que dependen de supervisión del mundo real.

Investigadores que estudian formas 3D articuladas, ingenieros de visión por computadora que prototipan flujos de trabajo para activos animales y artistas 3D que exploran síntesis controlable encontrarán útiles las demostraciones y el código abierto. El método también soporta reiluminación, intercambio de texturas entre modelos de la misma categoría y animación esquelética una vez que se genera una forma.

Funciones principales:
  1. Reconstruye formas articuladas en 3D de animales a partir de una sola imagen en segundos

  2. Entrena sin fotos reales mediante la destilación de vistas virtuales de Stable Diffusion

  3. Factoriza cada instancia en forma, albedo, iluminación difusa y ambiental, punto de vista y dirección de la luz

  4. Soporta relighting, intercambio de texturas entre modelos de la misma categoría y animación esquelética en activos generados

  5. La referencia Animodel entrega mallas texturizadas de caballos, vacas y ovejas con poses articuladas realistas

  6. Artículo aceptado en 3DV 2024; código y dataset publicados en GitHub bajo tomasjakab/animodel

Pros:
  1. Reconstruye detalles articulados finos a partir de una sola foto sin datos de entrenamiento con imágenes reales.

  2. El artículo abierto, código y referencia Animodel están enlazados desde la página del proyecto.

  3. Los activos generados soportan relighting, intercambio de texturas y animación en las demos publicadas.

Cons:
  1. Proyecto de investigación, no una app alojada ni API a la que puedas suscribirte y ejecutar en un navegador.

  2. Enfocado en categorías de animales articulados como caballos, vacas y ovejas en lugar de objetos generales.

  3. Ejecutar el código requiere configurar el repositorio de GitHub y el entorno de cómputo localmente.

Preguntas frecuentes:

¿Qué reconstruye Farm3D a partir de una foto?

Farm3D reconstruye un animal 3D articulado a partir de una sola imagen de entrada. El método genera forma, textura y controles de pose, y la página del proyecto muestra reconstrucciones de caballos, vacas y ovejas con detalles finos en patas y orejas.

¿Farm3D es gratis?

Sí, Farm3D es un software de investigación gratuito. La página del proyecto enlaza a un artículo en arXiv, una entrada BibTeX y un repositorio en GitHub con código y el benchmark Animodel en github.com/tomasjakab/animodel.

¿Farm3D necesita imágenes reales para entrenar?

No. Farm3D aprende categorías completamente a partir de vistas sintéticas generadas mediante Stable Diffusion. Durante el entrenamiento también muestrea vistas sintéticas de instancias que Stable Diffusion evalúa para guiar la calidad de la reconstrucción.

¿Qué puedes hacer después de que Farm3D genera un activo 3D?

Farm3D genera activos 3D controlables que puedes reiluminar, animar o cambiar de textura con otro modelo de la misma categoría. La página del proyecto muestra demos de animación, reiluminación y cambio de texturas en formas generadas.

¿Qué es el conjunto de datos Animodel en Farm3D?

Animodel es un conjunto de datos de animales 3D articulados incluido con Farm3D para evaluar la reconstrucción desde una sola vista. Incluye mallas texturizadas profesionalmente de caballos, vacas y ovejas en poses articuladas realistas.

¿Dónde se publicó Farm3D?

Farm3D fue desarrollado en la Universidad de Oxford y publicado en 3DV 2024. El preprint en arXiv se titula Farm3D: Learning Articulated 3D Animals by Distilling 2D Diffusion, arXiv:2304.10535.

Categoría:

Tarificación:

Gratis

Etiquetas:

3D Reconstruction
Articulated Models
Monocular Vision
Animal 3D Models
Research Code
Oxford Research
3D Animals
Articulated Modeling

Tecnología utilizada:

Stable Diffusion
Bootstrap
jQuery
GitHub
Font Awesome
Google Fonts

Reseñas:

Give your opinion on Farm3D :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Mejor Gratis Farm3D Alternativas (y Pagadas)

By Rishit