UniLM vs GPT-4

Este artículo presenta UniLM, un modelo de lenguaje unificado previamente entrenado, que sirve como un nuevo punto de referencia para las tareas de comprensión del lenguaje natural (NLU) y generación de lenguaje natural (NLG). Es único en el uso de una red Transformer compartida que está previamente entrenada en tareas unidireccionales, bidireccionales y de secuencia a secuencia, empleando máscaras especiales de autoatención para el control de predicción contextual. UniLM supera a BERT en el punto de referencia GLUE y sobresale en respuesta a preguntas de SQuAD 2.0 y CoQA, estableciendo nuevos récords en cinco conjuntos de datos de NLG, incluidas mejoras notables en las tareas de resumen de CNN/DailyMail y Gigaword. Los modelos y el código compartido por los autores ayudan a la comunidad de investigación a avanzar más.

GPT-4 es el último hito en el esfuerzo de Operai para ampliar el aprendizaje profundo.

GPT-4 es un modelo multimodal grande (que acepta entradas de imagen y texto, emitiendo salidas de texto) que, aunque es menos capaz que los humanos en muchos escenarios del mundo real, exhibe un rendimiento a nivel humano en varios puntos de referencia profesionales y académicos. Por ejemplo, pasa un examen de barra simulado con una puntuación alrededor del 10% superior de los examinados; En contraste, el puntaje de GPT-3.5 fue alrededor del 10%inferior. Hemos pasado 6 meses alineando iterativamente GPT-4 utilizando lecciones de nuestro programa de pruebas adversas, así como ChatGPT, lo que resulta en nuestros mejores resultados (aunque lejos de ser perfectos) sobre la fáctica, la dominabilidad y la negativa a salir de las barandillas.

GPT-4 es más creativo y colaborativo que nunca. Puede generar, editar e iterar con los usuarios en tareas de escritura creativa y técnica, como componer canciones, escribir guiones o aprender el estilo de escritura de un usuario.