Chat LLaMA vs DATAKU

Chat LLaMA es un paquete descargable de SERP AI que te permite ejecutar conversaciones de asistente personal localmente en tu propia GPU. Incluye pesos de ajuste fino LoRA entrenados con el conjunto de datos HH de Anthropic, diseñados para modelar diálogos de ida y vuelta entre un asistente y un usuario, en lugar de simplemente indicaciones de una sola vez.

El producto combina archivos de peso para varias versiones de LLaMA, además de una interfaz gráfica de usuario para escritorio, de modo que puedas cargar modelos y chatear sin necesidad de escribir tu propia infraestructura de inferencia. SERP AI ofrece variantes de 7B, 13B y 30B, incluyendo opciones de secuencia de 2048, y señala que próximamente estará disponible una versión RLHF de los pesos LoRA.

Se vende como una descarga digital de $3 a través de la tienda SERP AI en Gumroad en stuff.serp.ai. La descripción indica que el lanzamiento está destinado para investigación, no incluye los pesos del modelo base, y dirige a los compradores a una comunidad de Discord para ayuda con la configuración.

DATAKU es un sitio de ciencia de datos que rastrea benchmarks de IA, precios de API y lanzamientos de modelos, y luego empaqueta los números en calculadoras gratuitas y conjuntos de datos descargables. La página principal archiva artículos sobre costos de inferencia, rondas de financiamiento y comparaciones directas de modelos, mientras que la sección de Herramientas alberga ocho utilidades como una calculadora de costos de LLM, decodificador de benchmarks y cementerio de modelos.

La mayoría de los sitios de noticias de IA resumen comunicados de prensa. DATAKU coteja documentos de proveedores, puntuaciones de tablas de clasificación y sus propias tablas de precios, por eso la página de conjuntos de datos descargables lista historiales de precios de 48 filas y tablas de puntuaciones de benchmarks de 62 filas bajo licencias CC BY 4.0.

Analistas de datos, ingenieros de ML y compradores usan DATAKU cuando necesitan cálculos de costo por token, contexto de benchmarks o exportaciones CSV en lugar de afirmaciones de marketing. La página Acerca de describe el proyecto como un seguimiento de benchmarks y precios dirigido por un ex analista de datos en Tokio.