VASA-1 - Microsoft Research

VASA-1 es un marco de investigación desarrollado por Microsoft Research Asia que genera videos de rostros parlantes altamente realistas a partir de una sola imagen estática y audio de voz. Destaca por sincronizar de manera precisa los movimientos de los labios con el audio, además de producir una amplia gama de expresiones faciales y movimientos naturales de la cabeza, lo que mejora el realismo y la viveza de los avatares virtuales. El sistema utiliza un modelo holístico de la dinámica facial y el movimiento de la cabeza dentro de un espacio latente disentangled aprendido a partir de datos de video, lo que permite controlar de forma independiente la apariencia, la pose y la expresión. VASA-1 soporta generación de video en tiempo real con una resolución de 512x512 y hasta 40 cuadros por segundo con una latencia mínima, facilitando aplicaciones interactivas como asistentes virtuales, educación y herramientas de accesibilidad. Puede manejar entradas diversas, incluyendo fotos artísticas, canto y habla en idiomas distintos al inglés, demostrando una fuerte capacidad de generalización más allá de sus datos de entrenamiento. Aunque actualmente es un prototipo de investigación sin API comercial ni lanzamiento de producto, VASA-1 establece un nuevo estándar en animación de avatares en tiempo real y realista, con parámetros controlables de mirada, emoción y distancia de la cabeza. Microsoft enfatiza el uso responsable de la inteligencia artificial y se opone a su uso indebido para impersonaciones, destacando los esfuerzos en curso para mejorar la autenticidad de los videos y la detección de contenido generado.