dstack

dstack

dstack es una capa de orquestación de código abierto para cómputo de IA heterogéneo. Ofrece a los equipos de ML un plano de control único para aprovisionar GPUs, programar cargas de trabajo y ejecutar desarrollo, entrenamiento e inferencia en nubes de GPUs, clústeres de Kubernetes y hardware en las instalaciones.

La plataforma estandariza cómo se ejecutan los trabajos de IA contenarizados en aceleradores NVIDIA, AMD, Tenstorrent y TPU. Tú defines flotas, entornos de desarrollo, tareas, servicios y volúmenes como YAML en tu repositorio, y luego los aplicas a través de una CLI, interfaz web o API HTTP sin gestionar Kubernetes o Slurm directamente.

dstack es ideal para equipos que manejan múltiples cuentas en la nube o clústeres bare-metal y desean un flujo de trabajo único desde experimentos locales hasta entrenamiento distribuido e inferencia en producción. También ofrece dstack Sky, un mercado hospedado de GPU, además de una opción empresarial con SSO y despliegue en entornos aislados.

Funciones principales:
  1. Provisione flotas en AWS, GCP, Lambda, RunPod y otras nubes GPU desde una sola configuración

  2. Inicie entornos de desarrollo remotos con VS Code, Cursor o SSH con un solo comando

  3. Ejecute tareas de entrenamiento de nodo único o distribuido con reintentos, programación y políticas de instancias spot

  4. Implemente inferencia de modelos como servicios escalables con autoescalado e ingreso gestionado para usted

  5. Conecte clústeres Kubernetes existentes o hosts bare-metal accesibles por SSH como backends

  6. Soporta aceleradores NVIDIA, AMD, TPU y Tenstorrent de forma nativa

Pros:
  1. Plano de control de código abierto que puedes alojar tú mismo sin costo de licencia

  2. Flujo de trabajo único basado en YAML para múltiples nubes GPU y clústeres locales

  3. Primitivas diseñadas específicamente para entornos de desarrollo, entrenamiento distribuido e inferencia

  4. Soporta instancias spot, políticas de reintentos y monitoreo de utilización de GPU

  5. Ejemplos documentados para TRL, Axolotl, vLLM, SGLang y los principales proveedores de la nube

Cons:
  1. La configuración autoalojada requiere configurar backends en la nube y credenciales antes del primer uso

  2. La CLI en Windows depende de Git para Windows y OpenSSH mediante herramientas estilo WSL

  3. Las tarifas por hora de dstack Sky GPU varían según el tipo de instancia y la disponibilidad

  4. La tarifa empresarial requiere una conversación de ventas en lugar de compra directa

Preguntas frecuentes:

¿Es dstack gratuito para usar?

Sí. dstack es de código abierto y puede ser autoalojado sin costo a través de pip, uv o Docker. dstack Sky añade acceso a un mercado de GPU con pago por uso, y los despliegues empresariales con SSO y soporte dedicado requieren contactar al equipo de dstack.

¿Qué proveedores de nube soporta dstack?

dstack se integra con las principales nubes de GPU incluyendo AWS, GCP, Azure, Lambda, Nebius, Crusoe, RunPod, Verda, DigitalOcean y JarvisLabs. Usted proporciona las credenciales y dstack aprovisiona el cómputo en sus propias cuentas de nube.

¿Puede dstack ejecutarse en clústeres Kubernetes existentes?

Sí. dstack se conecta a clústeres Kubernetes mediante un archivo kubeconfig y programa entornos de desarrollo, tareas y servicios en ellos. También puede usar backends en la nube basados en VM o flotas SSH para servidores bare-metal.

¿En qué se diferencia dstack de Kubernetes o Slurm?

dstack orquesta contenedores como Kubernetes pero ofrece una interfaz simplificada, nativa para ML, con primitivas para entornos de desarrollo, tareas distribuidas y servicios de inferencia. A diferencia de Slurm, soporta desarrollo interactivo e inferencia en producción junto con trabajos batch de entrenamiento.

¿Qué es dstack Sky?

dstack Sky es un mercado de GPU alojado y gestionado por dstack. Le permite acceder a GPUs del mercado sin tener sus propias cuentas de nube, con tarifas por hora que comienzan alrededor de $0.80/hora para L40S y $1.90/hora para H100, y puede usarse junto con sus propios backends en la nube.

¿Qué aceleradores de hardware soporta dstack?

dstack soporta aceleradores NVIDIA, AMD, TPU y Tenstorrent. La documentación incluye ejemplos para cargas de trabajo AMD, Tenstorrent y TPU junto con el entrenamiento e inferencia estándar en GPU NVIDIA.

Categoría:

Tarificación:

Freemium

Etiquetas:

AI Container Orchestration
Open-Source
Dev Environments
Tasks
Services
GPU Access
Cloud Integration
GPU Orchestration
Kubernetes
ML Infrastructure
Fleet Management
Model Inference

Tecnología utilizada:

Ant Design
Amazon Web Services
Google Analytics
Google Tag Manager
Ruby
Discord
GitHub
jQuery

Reseñas:

Give your opinion on dstack :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Mejor Gratis dstack Alternativas (y Pagadas)

By Rishit