DeBERTa vs Stellaris AI

DeBERTa mejora la comprensión del lenguaje natural utilizando un mecanismo de atención desenredada que codifica por separado el contenido de la palabra y su posición. Esto permite que el modelo capture mejor las relaciones entre palabras en una oración, mejorando la comprensión del contexto.

Lo que distingue a DeBERTa es su preentrenamiento al estilo ELECTRA combinado con la compartición de embeddings con gradiente desenredado. Este enfoque incrementa la eficiencia del entrenamiento y el rendimiento del modelo, permitiendo que modelos más pequeños superen a modelos más grandes en benchmarks como MNLI y SQuAD v2.0.

DeBERTa ofrece una variedad de modelos preentrenados que van desde 22 millones hasta 1.5 mil millones de parámetros, incluidos versiones multilingües que soportan más de 100 idiomas. Es compatible con integraciones en PyTorch, Docker y pip, y ofrece scripts y documentación para el preentrenamiento y ajuste fino.

La herramienta ha logrado resultados de última generación en benchmarks como SuperGLUE, superando el rendimiento humano con sus modelos a gran escala. Su equilibrio entre tamaño, eficiencia y precisión lo hace apto tanto para investigación como para aplicaciones prácticas de procesamiento del lenguaje natural.

Mantenido en GitHub por investigadores de Microsoft, DeBERTa fomenta las contribuciones de la comunidad y ofrece apoyo para colaboración y consultas.

Stellaris AI desarrolla grandes modelos de lenguaje comercializados en torno a la seguridad nativa y el razonamiento similar al humano para tareas del mundo real. Su línea principal SGPT se enfoca en la generación de texto y código, preguntas y respuestas de conocimiento, razonamiento lógico y análisis a una escala que la empresa describe como cientos de miles de millones de parámetros. El sitio público se centra en una lista de espera para SGPT-4.5 en lugar de un producto de chat de autoservicio que puedas usar hoy.

Mientras que muchos laboratorios de LLM añaden filtros de seguridad después del entrenamiento, Stellaris AI considera la seguridad como parte de la pila del modelo mediante una estricta referencia a las fuentes y la minimización de daños en la arquitectura. También destaca el Aprendizaje de Contexto en Tiempo Real (RCL) para adaptar las respuestas con conocimiento en vivo, una combinación dirigida a equipos que desean salidas citadas en lugar de generación sin control.

Investigadores, equipos de IA empresarial y primeros usuarios se unen a la lista de espera de SGPT-4.5 para obtener acceso prioritario. La empresa menciona más de 10 años de investigación y tres pilares principales de producto: Stellaris GPT, Seguridad Nativa y RCL.