Unsloth

Unsloth

Unsloth é uma pilha de código aberto para treinar, executar e exportar grandes modelos de linguagem em seu próprio hardware. Ela combina uma biblioteca de ajuste fino em Python com o Unsloth Studio, uma interface web local onde você pode conversar com modelos GGUF e safetensor, construir conjuntos de dados a partir de documentos e enviar pesos treinados para ferramentas como Ollama ou vLLM. O projeto é voltado para engenheiros de ML, pesquisadores e entusiastas que desejam treinamentos LoRA mais rápidos sem abrir mão da escolha do modelo.

A biblioteca principal reescreve kernels de treinamento em Triton e promete cerca de 2x mais rápido no ajuste fino, com aproximadamente 70% a menos de VRAM do que configurações padrão, suportando mais de 500 modelos de texto, visão, áudio e embedding. O Unsloth Studio adiciona fluxos de trabalho sem código: as Receitas de Dados transformam PDFs, CSVs e JSONs em dados de treinamento, enquanto a observabilidade em tempo real monitora perda e uso de GPU durante as execuções.

Você pode executar tudo offline no Mac, Windows ou Linux. O Studio inclui chamadas de ferramentas auto-recuperáveis, execução de código Bash e Python, busca na web dentro de rastros de modelos e um endpoint API compatível com OpenAI para ferramentas como Claude Code ou Codex. O pacote de código aberto permanece sob licença Apache 2.0; os componentes da interface do Studio usam AGPL-3.0.

Recursos Principais:
  1. Treine mais de 500 modelos de texto, visão, áudio e embedding com kernels personalizados Triton

  2. Unsloth Studio executa modelos GGUF e safetensor 100% offline no Mac e Windows

  3. Data Recipes constroem conjuntos de dados para treinamento a partir de arquivos PDF, CSV, JSON, DOCX e TXT

  4. Ferramenta de autocorreção com chamadas via Bash, execução Python e busca web no chat

  5. Exporte pesos ajustados para GGUF, safetensors, Ollama, vLLM ou LM Studio

  6. Endpoint de API compatível com OpenAI para Claude Code, Codex e outras integrações

Pros:
  1. Biblioteca core open-source com mais de 67.000 estrelas no GitHub e canais comunitários ativos.

  2. Afirma fine-tuning 2x mais rápido com cerca de 70% menos VRAM que as pilhas de treinamento padrão.

  3. Unsloth Studio integra inferência local, treinamento sem código e exportação em uma única interface offline.

  4. Suporta mais de 500 famílias de modelos, incluindo texto, visão, TTS e modelos de embeddings.

Cons:
  1. Os níveis Pro e Enterprise requerem contato com vendas, não havendo preços públicos listados.

  2. O suporte ao treinamento AMD Studio ainda não está disponível, apesar do chat estar funcionando hoje.

  3. O Studio ainda está em beta, com correções contínuas e lançamentos de recursos esperados.

Perguntas frequentes:

O Unsloth é gratuito para usar?

Sim. O Unsloth oferece uma versão gratuita e de código aberto no GitHub com suporte para os modelos Mistral, Gemma e Llama, além de fine-tuning LoRA em 4-bit e 16-bit. As versões Unsloth Pro e Enterprise, com treinamento multi-GPU mais rápido, requerem contato com a equipe para preços.

Quais plataformas o Unsloth Studio suporta?

O Unsloth Studio roda localmente no Mac, Windows, Linux e WSL. O treinamento funciona em GPUs NVIDIA RTX 30/40/50, Blackwell, DGX Spark/Station e Intel. No Mac, são suportados treinamento, MLX e inferência GGUF. O chat com AMD já funciona; o suporte completo ao treinamento no Studio está listado como em breve.

O Unsloth coleta dados dos usuários?

O Unsloth afirma que não coleta telemetria de uso. O Unsloth Studio funciona totalmente offline e localmente. A empresa coleta apenas informações mínimas de hardware, como o tipo de GPU, para verificar compatibilidade.

Posso usar o Unsloth sem fazer fine-tuning em um modelo?

Sim. Você pode baixar e executar qualquer modelo GGUF ou suportado no Unsloth Studio sem precisar treinar. A interface também suporta chat, comparação paralela de modelos e exportação dos pesos existentes.

O Unsloth suporta uma API compatível com OpenAI?

Sim. O Unsloth Studio disponibiliza uma API compatível com OpenAI, permitindo que ferramentas como Claude Code e Codex chamem modelos locais Qwen, Gemma e outros, com recursos de inferência do Unsloth como chamada de ferramentas e busca na web.

Qual licença o Unsloth usa?

O Unsloth usa licenciamento duplo. O pacote principal do Unsloth permanece sob Apache 2.0, enquanto componentes opcionais, incluindo a interface Unsloth Studio, são licenciados sob AGPL-3.0.

Categoria:

Preços:

Freemium

Tags:

LLM Fine-Tuning
Local AI
Model Training
Open Source

Tecnologia utilizada:

Remix
Cloudflare
Python
GitHub

Avaliações:

Give your opinion on Unsloth :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Melhor Gratuito Unsloth Alternativas (e Pagas)

By Rishit