Magic
Magic é um laboratório de pesquisa em IA que desenvolve modelos de código de ponta para automatizar engenharia de software e pesquisa rumo a AGI segura. A equipe treina grandes modelos de linguagem em código com janelas de contexto ultra longas, aprendizado por reforço específico de domínio e alto poder computacional no tempo de inferência, em vez de lançar hoje um produto SaaS embalado.
Enquanto a maioria dos assistentes de codificação depende de RAG ou contexto curto, a arquitetura LTM (Memória de Longo Prazo) da Magic mira repositórios completos em uma única passagem. Seu modelo LTM-2-mini lida com 100 milhões de tokens (aproximadamente 10 milhões de linhas de código) com custos na dimensão de sequência cerca de 1000x menores que a atenção Llama 3.1 405B nessa escala, e a Magic construiu uma pilha de treinamento CUDA personalizada sem autograd do PyTorch para viabilizar isso.
A Magic levantou $515 milhões, opera milhares de GPUs NVIDIA GB200 e publica uma Política de Prontidão para AGI desenvolvida com a METR antes de implantar modelos de codificação de ponta. A empresa é um pequeno grupo de pesquisa em São Francisco que contrata em áreas como kernels, pré-treinamento, inferência, RL e segurança.
LTM-2-mini lida com 100M de tokens, aproximadamente 10 milhões de linhas de código
O benchmark HashHop usa pares de hash aleatórios para testar a recuperação sem atalhos semânticos
Stack personalizado de treinamento e inferência CUDA construído sem PyTorch autograd
Milhares de GPUs NVIDIA GB200 em supercomputadores Google Cloud
Política de Prontidão para AGI acompanha capacidades perigosas com orientação METR
Modelos protótipo editaram o repositório open source Documenso sem ajuda humana
A arquitetura LTM visa 100M de tokens de contexto a uma fração do custo de memória de atenção padrão.
Política de Prontidão para AGI publicada com entrada METR e limites explícitos de capacidades perigosas.
$515M em financiamento e milhares de GPUs NVIDIA GB200 para treinamento em grande escala.
Demonstrou edições de código não assistidas em repositórios open source reais em protótipos de pesquisa.
O benchmark HashHop aborda fraquezas conhecidas em avaliações populares de contexto longo.
Nenhum produto público, página de preços ou acesso self-serve em magic.dev.
Modelos Frontier permanecem em pesquisa; a qualidade de síntese de protótipo da Magic ainda não era competitiva.
Site focado em carreiras oferece detalhes limitados sobre cronogramas de disponibilidade para consumidores ou empresas.
O que a Magic desenvolve?
A Magic desenvolve modelos de código de ponta e agentes autônomos voltados para a automação da engenharia de software e pesquisa em IA. Seus modelos LTM (Memória de Longo Prazo) focam em janelas de contexto ultra-longas para que a síntese de código possa analisar repositórios completos, documentos e bibliotecas durante a inferência, não apenas o que foi memorizado no treinamento.
Qual é o tamanho da janela de contexto da Magic?
O modelo LTM-2-mini da Magic suporta até 100 milhões de tokens de contexto durante a inferência, o que a Magic equivale a cerca de 10 milhões de linhas de código ou 750 romances. Um modelo anterior, LTM-1, anunciado no blog da Magic, tinha uma janela de contexto de 5 milhões de tokens.
Quanto financiamento a Magic arrecadou?
A Magic arrecadou um total de 515 milhões de dólares em financiamento, segundo sua página inicial e atualização de pesquisa de agosto de 2024. Os investidores listados incluem Nat Friedman, Daniel Gross, CapitalG, Elad Gil, Sequoia, Jane Street, Eric Schmidt e Atlassian.
A Magic possui preços públicos ou cadastro disponível?
O site da Magic não lista preços de produtos nem um cadastro público de autoatendimento. O site se concentra em atualizações de pesquisa, política de segurança e carreiras. Não há uma página de preços na navegação do site obtida.
Como a Magic aborda a segurança em IA?
A Magic publica uma Política de Prontidão para AGI (versão 1.0, julho de 2024) criada com ajuda do METR. Ela se compromete com avaliações de capacidades perigosas antes de implantar modelos de codificação de ponta, cobrindo modelos de ameaça como ciberofensa, aceleração de P&D em IA, replicação autônoma e auxílio em armas biológicas. Consultas sobre segurança devem ser enviadas para [email protected].
Onde a Magic está sediada?
A Magic está sediada em San Francisco. As vagas de carreira no site magic.dev indicam que a maioria das funções de engenharia e pesquisa ficam em SF, com algumas posições de kernel e infraestrutura abertas para trabalho remoto.
O que é HashHop?
HashHop é o benchmark de avaliação de longo contexto da Magic que usa pares de hash aleatórios em vez de 'agulhas' semanticamente óbvias. A Magic o criou porque benchmarks existentes como Needle In A Haystack permitem que modelos trapaceiem ao identificar textos incomuns, e a Magic publicou o HashHop no GitHub para que outros possam utilizar.

