Omost

Omost

Omost é um projeto de pesquisa de código aberto que transforma habilidades de codificação de grandes modelos de linguagem em composição de imagens estruturada. Você descreve uma cena em linguagem simples, e um LLM ajustado escreve Python que organiza elementos globais e regionais em uma tela virtual. Um renderizador de difusão então transforma esse layout em uma imagem final.

A abordagem trata a construção de cenas como programação: o modelo chama métodos como set_global_description e add_local_description para posicionar assuntos com dicas de localização, tamanho, profundidade e cor. Essa estrutura fornece aos modelos de difusão uma orientação consciente da região, em vez de depender de um único prompt plano.

Você pode executar o Omost localmente com um aplicativo Gradio ou experimentar a demonstração hospedada vinculada ao repositório. Ele é direcionado para pesquisadores, engenheiros de ML e desenvolvedores de geração de imagens que desejam um controle mais preciso sobre composições com múltiplos assuntos em pipelines estilo Stable Diffusion.

Recursos Principais:
  1. Modelos LLM ajustados escrevem código Python Canvas a partir do seu prompt de texto

  2. Posicione sujeitos com localização, deslocamento, área, profundidade e nomes de cores HTML

  3. Troque elementos de forma conversacional, como mudar um dragão para um dinossauro no meio da sessão

  4. Três famílias de modelos pré-treinados baseadas nas variantes Llama 3 e Phi-3

  5. Inclui um renderizador de difusão consciente de região básico usando manipulação de atenção

  6. Execute localmente via Gradio com 8GB de VRAM Nvidia, ou use o espaço HuggingFace vinculado

Pros:
  1. Open source sob a licença Apache 2.0 com instruções completas para implantação local no GitHub.

  2. O código Canvas sensível à região oferece um controle mais detalhado de múltiplos assuntos do que um único prompt de texto.

  3. A edição conversacional permite refinar composições antes da renderização.

  4. As variantes de modelo quantizado cabem em 8GB de VRAM sem a necessidade de descarregamento.

Cons:
  1. A configuração local requer uma GPU Nvidia com pelo menos 8GB de VRAM.

  2. A atividade do repositório diminuiu após meados de 2024; os últimos commits na branch principal têm cerca de dois anos.

  3. O espaço de demonstração vinculado no HuggingFace pode não carregar devido a incompatibilidades de versões das dependências.

Perguntas frequentes:

O Omost é gratuito para usar?

Sim. O Omost é open source sob a licença Apache 2.0 no GitHub. Você pode clonar o repositório, executá-lo localmente ou usar o espaço oficial no HuggingFace vinculado no README sem nenhum custo.

Qual hardware o Omost precisa para executar localmente?

A implantação local requer cerca de 8GB de VRAM Nvidia. O README recomenda Python 3.10, PyTorch com CUDA 12.1 e as dependências fixadas no requirements.txt. Modelos quantizados são fornecidos para GPUs com memória limitada.

Quais modelos LLM o Omost suporta?

O Omost oferece três famílias de modelos pré-treinados no HuggingFace: omost-llama-3-8b, omost-dolphin-2.9-llama3-8b e omost-phi-3-mini-128k, cada um com variantes quantizadas. O README recomenda omost-llama-3-8b-4bits para a maioria dos usuários.

Posso editar uma cena após o prompt inicial no Omost?

Sim. O Omost suporta edição conversacional: você pode pedir ao modelo para alterar elementos específicos no código Canvas, como substituir um sujeito por outro, e então renderizar a composição atualizada quando estiver satisfeito.

Como o Omost difere de um prompt padrão de texto para imagem?

Ao invés de uma única string de prompt, o Omost gera código Canvas estruturado com descrições globais e locais separadas, regiões espaciais e ordenação de profundidade. Um renderizador de difusão personalizado usa essas regiões para guiar a atenção durante a geração da imagem.

Onde posso experimentar o Omost sem instalá-lo?

O README do Omost no GitHub inclui um link para um espaço oficial no HuggingFace com demos baseadas no navegador. A configuração local também está documentada com conda, pip e um ponto de entrada gradio_app.py.

Preços:

Gratuito

Tags:

AI-Driven Image Generation
Large Language Models
Virtual Canvas
Image Composition
Omost
LLM Technology
Open Source
Region-Aware Diffusion
Text to Image
Stable Diffusion

Tecnologia utilizada:

Next.js
Node.js
Tailwind CSS
Chakra UI
Ant Design
Amazon Web Services
GraphQL
Python
Ruby
GitHub
Emotion

Avaliações:

Give your opinion on Omost :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Melhor Gratuito Omost Alternativas (e Pagas)

By Rishit