Magic

Magic

Magic es un laboratorio de investigación en IA que desarrolla modelos de código de vanguardia para automatizar la ingeniería de software y la investigación hacia una AGI segura. El equipo entrena grandes modelos de lenguaje en código con ventanas de contexto ultra largas, aprendizaje por refuerzo específico de dominio y un alto uso de cómputo en tiempo de inferencia en lugar de lanzar hoy un producto SaaS empaquetado.

Mientras que la mayoría de los asistentes de codificación se basan en RAG o contextos cortos, la arquitectura LTM (Memoria a Largo Plazo) de Magic apunta a repositorios completos en una sola pasada. Su modelo LTM-2-mini maneja 100 millones de tokens (aproximadamente 10 millones de líneas de código) con costos en la dimensión de secuencia unas 1000 veces menores que la atención Llama 3.1 405B a esa escala, y Magic construyó una pila de entrenamiento CUDA personalizada sin autograd de PyTorch para hacerlo posible.

Magic ha recaudado 515 millones de dólares, opera miles de GPUs NVIDIA GB200 y publica una Política de Preparación para AGI desarrollada con METR antes de desplegar modelos de codificación de vanguardia. La empresa es un pequeño grupo de investigación en San Francisco que contrata en áreas de kernels, preentrenamiento, inferencia, RL y seguridad.

Funciones principales:
  1. LTM-2-mini maneja 100M de tokens, aproximadamente 10 millones de líneas de código

  2. La prueba de referencia HashHop utiliza pares de hash aleatorios para someter a prueba la recuperación sin atajos semánticos

  3. Stack personalizado de entrenamiento e inferencia CUDA construido sin autograd de PyTorch

  4. Miles de GPUs NVIDIA GB200 en supercomputadoras de Google Cloud

  5. La Política de Preparación para AGI rastrea capacidades peligrosas con la guía METR

  6. Los modelos prototipo editaron el repositorio de código abierto Documenso sin ayuda humana

Pros:
  1. La arquitectura LTM apunta a un contexto de 100M de tokens a una fracción del costo de memoria de atención estándar.

  2. Política de Preparación para AGI publicada con entrada METR y umbrales explícitos de capacidades peligrosas.

  3. $515M en financiamiento y miles de GPUs NVIDIA GB200 para entrenamiento a gran escala.

  4. Demostraron ediciones de código sin asistencia en repositorios de código abierto reales en prototipos de investigación.

  5. La prueba de referencia HashHop aborda debilidades conocidas en evaluaciones populares de contexto largo.

Cons:
  1. No hay producto público, página de precios o acceso de autoservicio en magic.dev.

  2. Los modelos Frontier siguen en investigación; Magic señala que la calidad de la síntesis de prototipos no era aún competitiva.

  3. El sitio enfocado en carreras ofrece detalles limitados sobre los plazos de disponibilidad para consumidores o empresas.

Preguntas frecuentes:

¿Qué desarrolla Magic?

Magic crea modelos de código de vanguardia y agentes autónomos orientados a automatizar la ingeniería de software y la investigación en IA. Sus modelos LTM (Memoria a Largo Plazo) se centran en ventanas de contexto ultralargas para que la síntesis de código pueda acceder a repositorios completos, documentación y bibliotecas durante la inferencia, no solo a lo memorizado durante el entrenamiento.

¿Qué tan grande es la ventana de contexto de Magic?

El modelo LTM-2-mini de Magic soporta hasta 100 millones de tokens de contexto durante la inferencia, lo que Magic equipara a aproximadamente 10 millones de líneas de código o 750 novelas. Un modelo anterior, LTM-1, anunciado en el blog de Magic, tenía una ventana de contexto de 5 millones de tokens.

¿Cuánto financiamiento ha recaudado Magic?

Magic ha recaudado un total de 515 millones de dólares, según su página principal y la actualización de investigación de agosto de 2024. Los inversores listados incluyen a Nat Friedman, Daniel Gross, CapitalG, Elad Gil, Sequoia, Jane Street, Eric Schmidt y Atlassian.

¿Magic tiene precios públicos o un registro disponible?

El sitio web de Magic no muestra precios de productos ni un registro público de autoservicio. El sitio se enfoca en actualizaciones de investigación, políticas de seguridad y carreras. No hay una página de precios en la navegación del sitio consultada.

¿Cómo aborda Magic la seguridad en IA?

Magic publica una Política de Preparación para AGI (versión 1.0, julio de 2024) creada con ayuda de METR. Se compromete a realizar evaluaciones de capacidades peligrosas antes de desplegar modelos de codificación de vanguardia, cubriendo modelos de amenaza como ciberataques, aceleración de I+D en IA, replicación autónoma y asistencia para armas biológicas. Consultas de seguridad se dirigen a [email protected].

¿Dónde tiene su sede Magic?

Magic tiene su sede en San Francisco. Las ofertas de empleo en magic.dev asignan la mayoría de los roles de ingeniería e investigación a San Francisco, con algunas posiciones de núcleo e infraestructura abiertas para trabajo remoto.

¿Qué es HashHop?

HashHop es el benchmark de evaluación de contexto largo de Magic que utiliza pares de hash aleatorios en lugar de agujas semánticamente evidentes. Magic lo diseñó porque benchmarks existentes como Needle In A Haystack permiten a los modelos hacer trampa al detectar texto inusual, y Magic publicó HashHop en GitHub para que otros lo utilicen.

Tarificación:

Pagado

Etiquetas:

Code Models
Long Context
Code Generation
Pre-training
Reinforcement Learning
AGI Safety
AI Research
Software Engineering

Tecnología utilizada:

Next.js
Vercel
Vercel Analytics
Font Awesome
Ruby
Webpack
Tailwind CSS

Reseñas:

Give your opinion on Magic :-

Overall rating

Join thousands of AI enthusiasts in the World of AI!

Mejor Gratis Magic Alternativas (y Pagadas)

By Rishit