Chat LLaMA vs DATAKU

Chat LLaMA é um pacote para download da SERP AI que permite executar conversas de assistente pessoal localmente no seu próprio GPU. Ele traz pesos de ajuste fino LoRA treinados no dataset HH da Anthropic, construídos para modelar diálogos de ida e volta entre um assistente e um usuário, ao contrário de prompts pontuais.

O produto inclui arquivos de pesos para múltiplos tamanhos de LLaMA, além de uma interface gráfica de desktop para que você possa carregar modelos e conversar sem precisar criar sua própria infraestrutura de inferência. A SERP AI lista variantes de 7B, 13B e 30B, incluindo opções de sequência de 2048, e menciona que uma versão RLHF dos pesos LoRA estará disponível em breve.

Ele é vendido por um download digital de $3 através da loja da SERP AI no Gumroad, em stuff.serp.ai. A descrição informa que o lançamento é destinado à pesquisa, não inclui pesos de modelos de base, e orienta os compradores a uma comunidade no Discord para ajuda na configuração.

DATAKU é um site de ciência de dados que acompanha benchmarks de IA, preços de API e lançamentos de modelos, e depois organiza esses números em calculadoras gratuitas e conjuntos de dados para download. A página inicial arquiva artigos sobre custos de inferência, rodadas de financiamento e comparações diretas entre modelos, enquanto a seção Ferramentas hospeda oito utilitários, como uma calculadora de custo de LLM, decodificador de benchmark e cemitério de modelos.

A maioria dos sites de notícias de IA resume comunicados de imprensa. DATAKU cruza documentos de provedores, pontuações de leaderboard e suas próprias tabelas de preços, por isso a página de conjuntos de dados para download lista históricos de preços com 48 linhas e tabelas de pontuação de benchmark com 62 linhas sob licenças CC BY 4.0.

Analistas de dados, engenheiros de ML e compradores usam o DATAKU quando precisam de cálculos de custo por token, contexto de benchmark ou exportações CSV em vez de reivindicações de marketing. A página Sobre descreve o projeto como um acompanhamento de benchmarks e preços conduzido por um ex-analista de dados de Tóquio.