NVIDIA DGX Cloud Lepton (formerly Lepton AI) vs mshumer/gpt-prompt-engineer - GitHub

NVIDIA DGX Cloud Lepton conecta desenvolvedores a computação GPU através de uma rede global de parceiros de nuvem a partir de uma única plataforma. Você cria, treina e implanta modelos com um fluxo de trabalho único, seja qual for a localização das GPUs, seja na AWS, CoreWeave, Lambda ou provedores regionais que atendem às regras de soberania de dados. O site integra microserviços NVIDIA NIM, endpoints serverless em build.nvidia.com e ferramentas para inferência, testes e treinamento sem necessidade de reestruturar ao trocar de provedores.

Mercados independentes de GPU fazem você escolher uma nuvem e reescrever scripts de implantação quando a capacidade muda. DGX Cloud Lepton atua como um corretor de computação: descubra GPUs de mais de 25 parceiros, execute cargas de trabalho onde seus dados estão e mantenha a mesma experiência de desenvolvedor do protótipo à produção. A NVIDIA adquiriu a startup original Lepton AI em abril de 2025 e a incorporou nesta camada unificada multi-nuvem.

Startups nativas de IA, construtores de modelos e equipes de plataforma que ultrapassam um contrato com uma única nuvem são os usuários-alvo. Parceiros listados na plataforma incluem AWS, CoreWeave, Crusoe, Lambda, Nebius, Scaleway e Together AI com hardware Blackwell e classe H100. O acesso começa por meio das APIs build.nvidia.com e da biblioteca Python leptonai de código aberto.

mshumer/gpt-prompt-engineer é um kit de ferramentas de engenharia de prompts de código aberto que gera, testa e classifica prompts candidatos para uma tarefa que você define. Você descreve o caso de uso, fornece casos de teste e os cadernos criam várias variantes de prompts, executam-nos em todos os casos de teste e classificam os resultados com um sistema de classificação ELO começando em 1200. Ele é distribuído como cadernos Jupyter que você pode executar no Google Colab ou localmente.

A maioria das ferramentas de prompts ajuda você a escrever um prompt de cada vez. O gpt-prompt-engineer trata a seleção de prompts como um torneio: dezenas de candidatos competem em seus casos de teste, e as pontuações ELO mais altas revelam os vencedores. Cadernos separados cobrem tarefas de classificação, o Claude 3 Opus com casos de teste gerados automaticamente e a conversão de Opus para Haiku para inferência mais barata. Opcionalmente, o Weights & Biases e o Portkey registram cada execução.

Engenheiros de ML, engenheiros de prompts e desenvolvedores de IA o utilizam quando precisam de ajuste de prompts reprodutível em vez de tentativa e erro manual. O repositório tem 9,7 mil estrelas no GitHub e funciona com suas próprias chaves de API da OpenAI ou Anthropic. É gratuito sob a licença MIT.