Chat LLaMA vs DATAKU

Chat LLaMA est un package téléchargeable de SERP AI qui vous permet d'exécuter des conversations d'assistant personnel localement sur votre propre GPU. Il inclut des poids de fine-tuning LoRA entraînés sur le dataset HH d'Anthropic, conçus pour modéliser des dialogues en aller-retour entre un assistant et un utilisateur plutôt que des prompts ponctuels.

Le produit regroupe des fichiers de poids pour plusieurs tailles de LLaMA ainsi qu'une interface graphique de bureau, afin que vous puissiez charger des modèles et discuter sans écrire votre propre pile d'inférence. SERP AI propose des variantes de 7B, 13B, et 30B, y compris des options de séquence de 2048, et indique qu'une version RLHF des poids LoRA sera bientôt disponible.

Il est vendu sous forme de téléchargement numérique à 3$ via la boutique SERP AI sur Gumroad à l'adresse stuff.serp.ai. La fiche indique que la sortie est destinée à la recherche, ne comprend pas les poids du modèle de base, et oriente les acheteurs vers une communauté Discord pour l'aide à l'installation.

DATAKU est un site de data science qui suit les benchmarks d'IA, les tarifs des API et les sorties de modèles, puis compile ces données dans des calculateurs gratuits et des ensembles de données téléchargeables. La page d'accueil archive des articles sur les coûts d'inférence, les levées de fonds et les comparaisons directes de modèles, tandis que la section Outils propose huit utilitaires tels qu'un calculateur de coût LLM, un décodeur de benchmarks et un cimetière de modèles.

La plupart des sites d'actualités sur l'IA résument les communiqués de presse. DATAKU recoupe les documents des fournisseurs, les scores des classements et ses propres tableaux de tarification, ce qui explique pourquoi la page des ensembles de données téléchargeables liste des historiques de prix de 48 lignes et des tableaux de scores de benchmarks de 62 lignes sous licences CC BY 4.0.

Les analystes de données, ingénieurs ML et acheteurs utilisent DATAKU lorsqu'ils ont besoin de calculs de coût par token, de contexte sur les benchmarks ou d'exportations CSV plutôt que de revendications marketing. La page À propos décrit le projet comme un suivi des benchmarks et des tarifs géré par un ancien analyste de données basé à Tokyo.