Farm3D

Farm3D

Farm3D é um método de pesquisa para reconstrução 3D monocular de animais articulados, desenvolvido na Universidade de Oxford e publicado no 3DV 2024. Você fornece uma foto de um cavalo, vaca ou ovelha e ele retorna uma forma 3D completa com textura em segundos, sem treinamento em fotografias reais. A página do projeto documenta a abordagem, mostra demonstrações de reconstrução e fornece links para o código e o conjunto de dados de referência Animodel.

A maioria dos geradores 3D necessita de grandes conjuntos de dados 3D rotulados ou capturas multivista. Farm3D treina inteiramente em vistas sintéticas produzidas pelo Stable Diffusion, usando o mesmo modelo de difusão como crítico durante o aprendizado. Isso permite recuperar detalhes finos como pernas e orelhas em categorias que nunca viu em imagens reais, o que é incomum para pipelines de reconstrução monocular que dependem de supervisão do mundo real.

Pesquisadores que estudam formas 3D articuladas, engenheiros de visão computacional prototipando pipelines de ativos animais e artistas 3D explorando síntese controlável acharão as demonstrações e o código aberto úteis. O método também suporta relighting, troca de textura entre modelos da mesma categoria e animação esquelética após a geração da forma.

Recursos Principais:
  1. Reconstrói formas articuladas de animais 3D a partir de uma imagem em segundos

  2. Treina sem fotos reais, distilando visões virtuais do Stable Diffusion

  3. Fatoriza cada instância em forma, albedo, iluminação difusa e ambiente, ponto de vista e direção da luz

  4. Suporta relighting, troca de textura entre modelos da mesma categoria e animação esquelética em ativos gerados

  5. O benchmark Animodel fornece malhas texturizadas de cavalos, vacas e ovelhas com poses articuladas realistas

  6. Artigo aceito na 3DV 2024; código e dataset publicados no GitHub sob tomasjakab/animodel

Pros:
  1. Reconstrói detalhes articulados finos a partir de uma única foto sem dados de treinamento com imagens reais.

  2. O artigo aberto, código e benchmark Animodel estão todos vinculados na página do projeto.

  3. Ativos gerados suportam relighting, troca de textura e animação nos demos publicados.

Cons:
  1. Projeto de pesquisa, não um aplicativo hospedado ou API que você possa se inscrever e executar no navegador.

  2. Focado em categorias de animais articulados como cavalos, vacas e ovelhas, e não em objetos gerais.

  3. Executar o código requer configurar o repositório GitHub e o ambiente de computação localmente.

Perguntas frequentes:

O que o Farm3D reconstrói a partir de uma foto?

O Farm3D reconstrói um animal 3D articulado a partir de uma única imagem de entrada. O método gera controles de forma, textura e pose, e a página do projeto mostra reconstruções de cavalos, vacas e ovelhas com detalhes finos nas pernas e orelhas.

O Farm3D é gratuito para usar?

Sim, o Farm3D é um software de pesquisa gratuito. A página do projeto contém links para um artigo no arXiv, entrada BibTeX e repositório no GitHub com código e o benchmark Animodel em github.com/tomasjakab/animodel.

O Farm3D precisa de imagens reais para treinamento?

Não. O Farm3D aprende categorias inteiramente a partir de vistas sintéticas geradas pelo Stable Diffusion. Durante o treinamento, ele também amostra vistas sintéticas de instâncias que o Stable Diffusion avalia para orientar a qualidade da reconstrução.

O que posso fazer depois que o Farm3D gera um ativo 3D?

O Farm3D gera ativos 3D controláveis que você pode reiluminar, animar ou trocar a textura por outro modelo da mesma categoria. A página do projeto mostra demonstrações de animação, reiluminação e troca de textura em formas geradas.

O que é o conjunto de dados Animodel no Farm3D?

O Animodel é um conjunto de dados de animais 3D articulados incluído com o Farm3D para avaliação de reconstrução a partir de uma única vista. Ele inclui malhas texturizadas profissionalmente de cavalos, vacas e ovelhas em poses articuladas realistas.

Onde o Farm3D foi publicado?

O Farm3D foi desenvolvido na Universidade de Oxford e publicado no 3DV 2024. O preprint no arXiv tem o título Farm3D: Learning Articulated 3D Animals by Distilling 2D Diffusion, arXiv:2304.10535.

Categoria:

Preços:

Gratuito

Tags:

3D Reconstruction
Articulated Models
Monocular Vision
Animal 3D Models
Research Code
Oxford Research
3D Animals
Articulated Modeling

Tecnologia utilizada:

Stable Diffusion
Bootstrap
jQuery
GitHub
Font Awesome
Google Fonts

Avaliações:

Give your opinion on Farm3D :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Melhor Gratuito Farm3D Alternativas (e Pagas)

By Rishit