Galactica vs Stellaris AI

Cinco puntos de control de pesos abiertos desde 125M hasta 120B de parámetros ofrecen a los investigadores un modelo de lenguaje entrenado en ciencia construido a partir de 106 mil millones de tokens seleccionados de 48 millones de artículos, libros de texto, enciclopedias y bases de conocimiento. Galactica almacena, combina y razona a través de modalidades que incluyen LaTeX, código Python, fórmulas SMILES y secuencias de aminoácidos dentro de una arquitectura Transformer solo con decodificador. El equipo Papers with Code de Meta liberó los pesos para investigadores que quieran estudiar cómo los modelos de lenguaje organizan el conocimiento científico.

Los LLMs de propósito general se entrenan con rastreos amplios de la web donde las conversaciones sociales pueden dominar el presupuesto de tokens. Galactica usó solo fuentes científicas de acceso abierto seleccionadas, lo que según el artículo permite entrenar durante múltiples épocas sin sobreajuste. Meta retiró la demostración pública en la web tres días después del lanzamiento en noviembre de 2022 cuando críticos mostraron citas y ecuaciones confiadas pero fabricadas, por lo que hoy se descargan los puntos de control desde Hugging Face en lugar de chatear mediante una interfaz alojada.

Los investigadores en aprendizaje automático pueden reproducir números de referencia del artículo en arXiv, incluyendo 77.6% en PubMedQA y 52.9% en MedMCQA dev. Los biólogos computacionales y químicos pueden probar tareas de anotación de proteínas y moléculas mediante los tokens especializados de Galactica para secuencias de aminoácidos y cadenas SMILES. Estudiantes de posgrado que exploran preguntas científicas, predicción de citas o problemas matemáticos pueden experimentar con tamaños de hasta 120 mil millones de parámetros sin entrenar desde cero.

Stellaris AI desarrolla grandes modelos de lenguaje comercializados en torno a la seguridad nativa y el razonamiento similar al humano para tareas del mundo real. Su línea principal SGPT se enfoca en la generación de texto y código, preguntas y respuestas de conocimiento, razonamiento lógico y análisis a una escala que la empresa describe como cientos de miles de millones de parámetros. El sitio público se centra en una lista de espera para SGPT-4.5 en lugar de un producto de chat de autoservicio que puedas usar hoy.

Mientras que muchos laboratorios de LLM añaden filtros de seguridad después del entrenamiento, Stellaris AI considera la seguridad como parte de la pila del modelo mediante una estricta referencia a las fuentes y la minimización de daños en la arquitectura. También destaca el Aprendizaje de Contexto en Tiempo Real (RCL) para adaptar las respuestas con conocimiento en vivo, una combinación dirigida a equipos que desean salidas citadas en lugar de generación sin control.

Investigadores, equipos de IA empresarial y primeros usuarios se unen a la lista de espera de SGPT-4.5 para obtener acceso prioritario. La empresa menciona más de 10 años de investigación y tres pilares principales de producto: Stellaris GPT, Seguridad Nativa y RCL.