phi-2 vs Stellaris AI

Phi-2 es un modelo de lenguaje basado en Transformers desarrollado por Microsoft, con 2.7 mil millones de parámetros, diseñado para tareas de generación de texto en inglés, incluyendo procesamiento de lenguaje natural y codificación. Fue entrenado con un conjunto de datos grande que combina textos sintéticos de NLP y contenido web filtrado para mejorar la seguridad y el valor educativo. El modelo tiene un buen rendimiento en pruebas de razonamiento de sentido común, comprensión del lenguaje y razonamiento lógico, posicionándose cerca de la vanguardia entre modelos con menos de 13 mil millones de parámetros.

A diferencia de algunos modelos, Phi-2 no ha sido ajustado con aprendizaje por refuerzo a partir de retroalimentación humana, lo que lo convierte en un modelo base destinado a investigación y experimentación, en lugar de uso directo en producción. Admite múltiples formatos de entrada, como preguntas y respuestas, diálogos de chat y generación de código, ofreciendo flexibilidad para desarrolladores e investigadores que exploran seguridad en IA, reducción de sesgos y controlabilidad.

Phi-2 está integrado en la biblioteca Hugging Face Transformers (versión 4.37.0 y superiores) y puede desplegarse localmente o mediante diferentes proveedores de inferencia. Facilita cargas eficientes y servicios mediante herramientas como vLLM y SGLang, y es compatible con versiones cuantizadas para aplicaciones ligeras. El modelo utiliza el formato safetensors para un almacenamiento de tensores seguro y rápido.

Los usuarios deben ser conscientes de algunas limitaciones, como ocasionales salidas incorrectas de código o información, un alcance limitado en generación de código principalmente enfocado en Python y bibliotecas comunes, respuestas a veces verbosas y posibles sesgos sociales a pesar del entrenamiento enfocado en seguridad. Se recomienda como un punto de partida para un ajuste y evaluación adicionales, en lugar de una solución lista para usar.

El modelo tiene licencia bajo la licencia MIT, fomentando la ciencia abierta y la colaboración comunitaria. Es adecuado para investigadores de IA, desarrolladores y organizaciones interesadas en explorar modelos de lenguaje fundamentales con un enfoque en seguridad y transparencia.

Stellaris AI desarrolla grandes modelos de lenguaje comercializados en torno a la seguridad nativa y el razonamiento similar al humano para tareas del mundo real. Su línea principal SGPT se enfoca en la generación de texto y código, preguntas y respuestas de conocimiento, razonamiento lógico y análisis a una escala que la empresa describe como cientos de miles de millones de parámetros. El sitio público se centra en una lista de espera para SGPT-4.5 en lugar de un producto de chat de autoservicio que puedas usar hoy.

Mientras que muchos laboratorios de LLM añaden filtros de seguridad después del entrenamiento, Stellaris AI considera la seguridad como parte de la pila del modelo mediante una estricta referencia a las fuentes y la minimización de daños en la arquitectura. También destaca el Aprendizaje de Contexto en Tiempo Real (RCL) para adaptar las respuestas con conocimiento en vivo, una combinación dirigida a equipos que desean salidas citadas en lugar de generación sin control.

Investigadores, equipos de IA empresarial y primeros usuarios se unen a la lista de espera de SGPT-4.5 para obtener acceso prioritario. La empresa menciona más de 10 años de investigación y tres pilares principales de producto: Stellaris GPT, Seguridad Nativa y RCL.