dstack
dstack é uma camada de orquestração de código aberto para computação heterogênea em IA. Ela fornece às equipes de ML um único painel de controle para provisionar GPUs, agendar cargas de trabalho e executar atividades de desenvolvimento, treinamento e inferência em nuvens de GPU, clusters Kubernetes e hardware local.
A plataforma padroniza como trabalhos de IA containerizados são executados em aceleradores NVIDIA, AMD, Tenstorrent e TPU. Você define frotas, ambientes de desenvolvimento, tarefas, serviços e volumes em YAML no seu repositório, e então aplica-os por meio de uma CLI, interface web ou API HTTP, sem precisar gerenciar Kubernetes ou Slurm diretamente.
dstack é ideal para equipes que gerenciam múltiplas contas em nuvem ou clusters bare-metal e desejam um fluxo de trabalho único, desde experimentos locais até treinamento distribuído e inferência em produção. Além disso, oferece o dstack Sky, um marketplace de GPU hospedado, e uma opção empresarial com SSO e implantação isolada.
Forneça frotas em AWS, GCP, Lambda, RunPod e outras nuvens GPU a partir de uma única configuração
Inicie ambientes de desenvolvimento remotos com VS Code, Cursor ou SSH em um único comando
Execute tarefas de treinamento single-node ou distribuídas com políticas de retry, agendamento e spot
Implemente inferência de modelos como serviços escaláveis com auto-scaling e ingress gerenciados para você
Conecte clusters Kubernetes existentes ou hosts bare-metal acessíveis via SSH como backends
Suporta aceleradores NVIDIA, AMD, TPU e Tenstorrent nativamente
Plano de controle open-source que você pode hospedar por conta própria sem custo de licença
Fluxo de trabalho único baseado em YAML para múltiplas nuvens de GPU e clusters on-premises
Primitivas desenvolvidas especificamente para ambientes de desenvolvimento, treinamento distribuído e inferência
Suporta instâncias spot, políticas de retry e monitoramento de utilização de GPU
Exemplos documentados para TRL, Axolotl, vLLM, SGLang e principais provedores de nuvem
A configuração self-hosted requer a configuração de backends na nuvem e credenciais antes do primeiro uso
CLI no Windows depende do Git para Windows e OpenSSH via ferramentas no estilo WSL
As tarifas horárias do dstack Sky GPU variam conforme o tipo de instância e disponibilidade
O preço Enterprise requer uma conversa com a equipe de vendas em vez de checkout self-service
O dstack é gratuito para usar?
Sim. O dstack é open source e pode ser auto-hospedado sem custo via pip, uv ou Docker. O dstack Sky oferece acesso ao marketplace de GPUs pay-as-you-go, e implantações empresariais com SSO e suporte dedicado exigem contato com a equipe do dstack.
Quais provedores de nuvem o dstack suporta?
O dstack integra-se com as principais nuvens de GPU, incluindo AWS, GCP, Azure, Lambda, Nebius, Crusoe, RunPod, Verda, DigitalOcean e JarvisLabs. Você fornece credenciais e o dstack provisiona recursos de computação nas suas próprias contas de nuvem.
O dstack pode rodar em clusters Kubernetes existentes?
Sim. O dstack conecta-se a clusters Kubernetes por meio de um arquivo kubeconfig e agenda ambientes de desenvolvimento, tarefas e serviços nesses clusters. Você também pode usar backends em nuvem baseados em VM ou frotas SSH para servidores bare-metal.
Como o dstack difere do Kubernetes ou Slurm?
O dstack orquestra containers como o Kubernetes, mas oferece uma interface simplificada e nativa para ML, com primitivos para ambientes de desenvolvimento, tarefas distribuídas e serviços de inferência. Diferente do Slurm, ele suporta desenvolvimento interativo e inferência em produção junto com jobs de treinamento em lote.
O que é o dstack Sky?
O dstack Sky é um marketplace de GPUs hospedado e gerenciado pelo dstack. Ele permite acessar GPUs do marketplace sem a necessidade de suas próprias contas em nuvem, com tarifas horárias a partir de cerca de $0,80/h para L40S e $1,90/h para H100, podendo operar junto com seus próprios backends na nuvem.
Quais aceleradores de hardware o dstack suporta?
O dstack suporta aceleradores NVIDIA, AMD, TPU e Tenstorrent. A documentação inclui exemplos para cargas de trabalho AMD, Tenstorrent e TPU, além do treinamento e inferência padrão em GPUs NVIDIA.

