Unsloth

Unsloth

Unsloth permite que você treine, execute e exporte grandes modelos de linguagem no seu próprio hardware por meio de uma biblioteca Python de código aberto e um aplicativo Desktop local. Você conversa com modelos GGUF e safetensor, cria conjuntos de dados a partir de documentos, gera imagens e vídeos, e envia pesos treinados para ferramentas como Ollama ou vLLM sem sair da sua máquina. É indicado para engenheiros de ML, pesquisadores e entusiastas que desejam um treinamento LoRA mais rápido sem abrir mão da escolha do modelo.

A biblioteca principal reescreve kernels de treinamento em Triton e afirma oferecer aproximadamente 2x mais rapidez no fine-tuning com cerca de 70% menos VRAM do que configurações padrão, com suporte para mais de 500 modelos de texto, visão, áudio e embeddings. O Unsloth Desktop adiciona fluxos de trabalho sem código: Data Recipes transformam PDFs, CSVs e JSON em dados de treinamento, enquanto a observabilidade em tempo real monitora perda e uso da GPU durante as execuções.

Você pode executar tudo offline em Mac, Windows ou Linux. O Desktop inclui chamadas de ferramentas autocorrigíveis, execução de código Bash e Python, busca web privada dentro dos rastros do modelo e um endpoint de API compatível com OpenAI para ferramentas como Claude Code ou Codex. O pacote de código aberto permanece sob Apache 2.0; os componentes da interface Desktop usam AGPL-3.0.

Recursos Principais:
  1. Treine mais de 500 modelos de texto, visão, áudio e embedding com kernels Triton personalizados

  2. Unsloth Desktop executa modelos GGUF e safetensor 100% offline no Mac, Windows e Linux

  3. Gere imagens com MiniMax-H3, FLUX e Z-Image, além de vídeo com Wan e LTX localmente

  4. Conecte Claude Code e Codex a modelos locais via o comando unsloth start

  5. Chamada de ferramenta de auto-cura com Bash, execução Python e busca privada na web no chat

  6. Exporte pesos ajustados finamente para GGUF, safetensors, Ollama, vLLM ou LM Studio

Pros:
  1. Biblioteca principal de código aberto com mais de 67.000 estrelas no GitHub e canais ativos na comunidade.

  2. Alega treinamento fino 2x mais rápido com cerca de 70% menos VRAM do que stacks de treinamento padrão.

  3. Unsloth Desktop combina inferência local, treinamento sem código e exportação em um único aplicativo offline.

  4. Suporta mais de 500 famílias de modelos incluindo texto, visão, TTS e modelos de embedding.

Cons:
  1. Os níveis Pro e Enterprise requerem contato com vendas, sem preços públicos listados.

  2. Suporte ao treinamento Desktop AMD ainda não está disponível, apesar do chat estar funcionando hoje.

  3. O Desktop ainda está em beta, com correções e lançamentos de recursos em andamento.

Perguntas frequentes:

O Unsloth é gratuito?

Sim. O Unsloth oferece uma versão gratuita e de código aberto no GitHub com suporte para os modelos Mistral, Gemma e Llama, além de fine-tuning LoRA em 4-bit e 16-bit. Os níveis Unsloth Pro e Enterprise com treinamento multi-GPU mais rápido exigem contato com a equipe para preços.

Quais plataformas o Unsloth Desktop suporta?

O Unsloth Desktop roda localmente no Mac, Windows, Linux e WSL. O treinamento funciona em GPUs NVIDIA RTX 30/40/50, Blackwell, DGX Spark/Station e Intel. O Mac suporta treinamento, MLX e inferência GGUF. O chat AMD funciona hoje; o suporte completo para treinamento no Desktop está listado como em breve.

O Unsloth coleta dados dos usuários?

O Unsloth declara que não coleta telemetria de uso. O Unsloth Desktop funciona totalmente offline e localmente. A empresa coleta apenas informações mínimas de hardware, como o tipo de GPU, para verificações de compatibilidade.

Posso usar o Unsloth sem fazer fine-tuning em um modelo?

Sim. Você pode baixar e executar qualquer modelo GGUF ou suportado no Unsloth Desktop sem treinamento. A interface também suporta chat, comparação lado a lado de modelos e exportação de pesos existentes.

O Unsloth suporta uma API compatível com OpenAI?

Sim. O Unsloth Desktop expõe um endpoint de API compatível com OpenAI para que ferramentas como Claude Code e Codex possam chamar localmente os modelos Qwen, Gemma e outros com recursos de inferência do Unsloth, como chamada de ferramentas e busca na web.

Qual licença o Unsloth usa?

O Unsloth usa licenciamento duplo. O pacote principal do Unsloth permanece sob Apache 2.0, enquanto componentes opcionais, incluindo a interface Unsloth Desktop, são licenciados sob AGPL-3.0.

Categoria:

Preços:

Freemium

Tags:

Local AI
Model Training
Open Source
Image Generation
LoRA Training
GGUF Models

Tecnologia utilizada:

Remix
Cloudflare
Python
GitHub

Avaliações:

Give your opinion on Unsloth :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Melhor Gratuito Unsloth Alternativas (e Pagas)

By Rishit