Claude 3 \ Anthropic vs Switch Transformers

Claude 3 es la tercera generación de modelos de lenguaje grande de Anthropic, lanzada en marzo de 2024. Incluye tres niveles: Haiku para velocidad y costo, Sonnet para rendimiento equilibrado y Opus para la mayor profundidad de razonamiento. Cada modelo apunta a un compromiso diferente entre inteligencia, latencia y precio.

La familia maneja tareas de texto, código, análisis y visión. Los modelos Claude 3 procesan fotos, gráficos, diagramas técnicos y gráficos. Soportan una ventana de contexto de 200,000 tokens en su lanzamiento, con entradas que superan el millón de tokens disponibles para clientes seleccionados. Opus y Sonnet se lanzaron en claude.ai y en la API de Claude en 159 países, seguido poco después por Haiku.

Anthropic construyó Claude 3 con métodos de seguridad de IA Constitucional y barreras de la Política de Escalado Responsable. Los modelos están disponibles a través de la API de Claude, Amazon Bedrock y Google Cloud Vertex AI. Sonnet impulsa la capa gratuita en claude.ai, mientras que Opus está disponible para suscriptores de Claude Pro.

Los Switch Transformers introducen una arquitectura de Mixture of Experts (Mezcla de Expertos) escasa que dirige cada entrada a un solo experto, reduciendo la carga de comunicación mientras escalan a modelos de lenguaje de billones de parámetros con un costo de cálculo constante. El artículo de los investigadores de Google William Fedus, Barret Zoph y Noam Shazeer simplifica el enrutamiento MoE, mejora la estabilidad del entrenamiento y reporta hasta 7 veces más rápido el preentrenamiento en comparación con los modelos T5 densos usando el mismo presupuesto de cálculo.

El enfoque se basa en la arquitectura T5 y soporta entrenamiento multilingüe en 101 idiomas. Los Switch Transformers también permiten entrenar con precisión bfloat16 para ejecuciones a gran escala más rápidas y estables. Este trabajo está dirigido a investigadores e ingenieros que necesitan escalar modelos NLP sin aumentos proporcionales en el costo del hardware.

Publicado en arXiv como un artículo de investigación, los Switch Transformers documentan métodos para una activación escasa eficiente, en lugar de ser un producto SaaS comercial. El artículo y el PDF están disponibles gratuitamente para descarga y cita.