Lumiere vs OnTheFly

Lumiere est un modèle de diffusion de texte à vidéo développé par Google Research, conçu pourSynthétiser des vidéos avec un mouvement réaliste, diversifié et cohérent. La page du projet présente des exemples de sorties pour la génération de vidéo à partir de texte, d'image à vidéo, la génération stylisée, la stylisation de vidéos, les cinémagraphes, et la retouche vidéo.

Son architecture Space-Time U-Net génère un clip vidéo entier en une seule passe du modèle, plutôt que de créer des images-clés distantes et de combler les gaps avec une super-résolution temporelle. Le modèle utilise un échantillonnage spatial et temporel à la montée et à la descente, et s'appuie sur une base de diffusion text-to-image pré-entraînée pour produire des vidéos en fréquence d'image complète sur plusieurs échelles espace-temps.

Le site est une démonstration de recherche et accompagne un article, ce n'est pas une application destinée aux consommateurs. Il s'adresse aux chercheurs, ingénieurs et créateurs qui souhaitent étudier l'état de l'art en diffusion vidéo et voir ce que le modèle peut réaliser en termes de génération et de montage.

OnTheFly est une plateforme de streaming idéale pour diffuser en direct, enregistrer, éditer et partager du contenu vidéo préenregistré d'un site vers plusieurs réseaux sociaux avec une faible latence. Les créateurs de contenu, les entreprises peuvent grandement bénéficier de ses fonctionnalités.