RedPajama vs Stellaris AI

RedPajama-INCITE es una familia de modelos de lenguaje grande de código abierto desarrollados por Together AI, que cuenta con versiones de 3 mil millones y 7 mil millones de parámetros entrenadas en el extenso conjunto de datos base RedPajama de 5 terabytes. Estos modelos replican de manera cercana la arquitectura LLaMA e incluyen variantes base, ajustadas para instrucciones y de chat, todas lanzadas bajo la licencia Apache 2.0 para uso tanto en investigación como comercial.

El modelo 3B destaca como uno de los más fuertes en su categoría, optimizado para velocidad y accesibilidad, capaz de funcionar en GPUs más antiguas como la RTX 2070. Las versiones ajustadas para instrucciones demuestran un rendimiento sólido en los benchmarks HELM, siendo que el modelo 7B supera en varios puntos a la LLaMA 7B original, mostrando potencial para tareas como aprendizaje con pocos ejemplos, extracción de entidades, clasificación y resumen.

El entrenamiento aprovecha técnicas avanzadas incluyendo la arquitectura Pythia de EleutherAI y la optimización DeeperSpeed, con modelos entrenados en recursos del supercomputador Summit. El modelo 7B aún está en entrenamiento, pero ya supera a modelos abiertos comparables, lo que indica el valor del conjunto de datos RedPajama y el enfoque de entrenamiento.

Together AI respalda estos modelos con una plataforma integral que ofrece computación acelerada, clusters de GPU, ajuste fino, almacenamiento gestionado y servicios de inferencia. Este ecosistema permite a desarrolladores y empresas desplegar, personalizar y escalar aplicaciones de IA de manera eficiente.

La naturaleza de código abierto y la licencia permisiva fomentan la colaboración comunitaria y la innovación, con mejoras continuas planificadas para el conjunto de datos y modelos de mayor escala. Together AI también proporciona documentación extensa, demostraciones y herramientas para desarrolladores que facilitan su adopción.

En general, los modelos RedPajama ofrecen una base competitiva y accesible para construir aplicaciones de IA, respaldada por una infraestructura lista para producción y una comunidad activa. Representan un avance significativo en la democratización de modelos de lenguaje grande de alta calidad para diversos casos de uso.

Stellaris AI desarrolla grandes modelos de lenguaje comercializados en torno a la seguridad nativa y el razonamiento similar al humano para tareas del mundo real. Su línea principal SGPT se enfoca en la generación de texto y código, preguntas y respuestas de conocimiento, razonamiento lógico y análisis a una escala que la empresa describe como cientos de miles de millones de parámetros. El sitio público se centra en una lista de espera para SGPT-4.5 en lugar de un producto de chat de autoservicio que puedas usar hoy.

Mientras que muchos laboratorios de LLM añaden filtros de seguridad después del entrenamiento, Stellaris AI considera la seguridad como parte de la pila del modelo mediante una estricta referencia a las fuentes y la minimización de daños en la arquitectura. También destaca el Aprendizaje de Contexto en Tiempo Real (RCL) para adaptar las respuestas con conocimiento en vivo, una combinación dirigida a equipos que desean salidas citadas en lugar de generación sin control.

Investigadores, equipos de IA empresarial y primeros usuarios se unen a la lista de espera de SGPT-4.5 para obtener acceso prioritario. La empresa menciona más de 10 años de investigación y tres pilares principales de producto: Stellaris GPT, Seguridad Nativa y RCL.