dstack

dstack

dstack é uma camada de orquestração de código aberto para computação heterogênea em IA. Ela fornece às equipes de ML um único painel de controle para provisionar GPUs, agendar cargas de trabalho e executar atividades de desenvolvimento, treinamento e inferência em nuvens de GPU, clusters Kubernetes e hardware local.

A plataforma padroniza como trabalhos de IA containerizados são executados em aceleradores NVIDIA, AMD, Tenstorrent e TPU. Você define frotas, ambientes de desenvolvimento, tarefas, serviços e volumes em YAML no seu repositório, e então aplica-os por meio de uma CLI, interface web ou API HTTP, sem precisar gerenciar Kubernetes ou Slurm diretamente.

dstack é ideal para equipes que gerenciam múltiplas contas em nuvem ou clusters bare-metal e desejam um fluxo de trabalho único, desde experimentos locais até treinamento distribuído e inferência em produção. Além disso, oferece o dstack Sky, um marketplace de GPU hospedado, e uma opção empresarial com SSO e implantação isolada.

Recursos Principais:
  1. Forneça frotas em AWS, GCP, Lambda, RunPod e outras nuvens GPU a partir de uma única configuração

  2. Inicie ambientes de desenvolvimento remotos com VS Code, Cursor ou SSH em um único comando

  3. Execute tarefas de treinamento single-node ou distribuídas com políticas de retry, agendamento e spot

  4. Implemente inferência de modelos como serviços escaláveis com auto-scaling e ingress gerenciados para você

  5. Conecte clusters Kubernetes existentes ou hosts bare-metal acessíveis via SSH como backends

  6. Suporta aceleradores NVIDIA, AMD, TPU e Tenstorrent nativamente

Pros:
  1. Plano de controle open-source que você pode hospedar por conta própria sem custo de licença

  2. Fluxo de trabalho único baseado em YAML para múltiplas nuvens de GPU e clusters on-premises

  3. Primitivas desenvolvidas especificamente para ambientes de desenvolvimento, treinamento distribuído e inferência

  4. Suporta instâncias spot, políticas de retry e monitoramento de utilização de GPU

  5. Exemplos documentados para TRL, Axolotl, vLLM, SGLang e principais provedores de nuvem

Cons:
  1. A configuração self-hosted requer a configuração de backends na nuvem e credenciais antes do primeiro uso

  2. CLI no Windows depende do Git para Windows e OpenSSH via ferramentas no estilo WSL

  3. As tarifas horárias do dstack Sky GPU variam conforme o tipo de instância e disponibilidade

  4. O preço Enterprise requer uma conversa com a equipe de vendas em vez de checkout self-service

Perguntas frequentes:

O dstack é gratuito para usar?

Sim. O dstack é open source e pode ser auto-hospedado sem custo via pip, uv ou Docker. O dstack Sky oferece acesso ao marketplace de GPUs pay-as-you-go, e implantações empresariais com SSO e suporte dedicado exigem contato com a equipe do dstack.

Quais provedores de nuvem o dstack suporta?

O dstack integra-se com as principais nuvens de GPU, incluindo AWS, GCP, Azure, Lambda, Nebius, Crusoe, RunPod, Verda, DigitalOcean e JarvisLabs. Você fornece credenciais e o dstack provisiona recursos de computação nas suas próprias contas de nuvem.

O dstack pode rodar em clusters Kubernetes existentes?

Sim. O dstack conecta-se a clusters Kubernetes por meio de um arquivo kubeconfig e agenda ambientes de desenvolvimento, tarefas e serviços nesses clusters. Você também pode usar backends em nuvem baseados em VM ou frotas SSH para servidores bare-metal.

Como o dstack difere do Kubernetes ou Slurm?

O dstack orquestra containers como o Kubernetes, mas oferece uma interface simplificada e nativa para ML, com primitivos para ambientes de desenvolvimento, tarefas distribuídas e serviços de inferência. Diferente do Slurm, ele suporta desenvolvimento interativo e inferência em produção junto com jobs de treinamento em lote.

O que é o dstack Sky?

O dstack Sky é um marketplace de GPUs hospedado e gerenciado pelo dstack. Ele permite acessar GPUs do marketplace sem a necessidade de suas próprias contas em nuvem, com tarifas horárias a partir de cerca de $0,80/h para L40S e $1,90/h para H100, podendo operar junto com seus próprios backends na nuvem.

Quais aceleradores de hardware o dstack suporta?

O dstack suporta aceleradores NVIDIA, AMD, TPU e Tenstorrent. A documentação inclui exemplos para cargas de trabalho AMD, Tenstorrent e TPU, além do treinamento e inferência padrão em GPUs NVIDIA.

Categoria:

Preços:

Freemium

Tags:

AI Container Orchestration
Open-Source
Dev Environments
Tasks
Services
GPU Access
Cloud Integration
GPU Orchestration
Kubernetes
ML Infrastructure
Fleet Management
Model Inference

Tecnologia utilizada:

Ant Design
Amazon Web Services
Google Analytics
Google Tag Manager
Ruby
Discord
GitHub
jQuery

Avaliações:

Give your opinion on dstack :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Melhor Gratuito dstack Alternativas (e Pagas)

By Rishit