Galactica vs ggml.ai

Cinco checkpoints de pesos abertos de 125M a 120B parâmetros oferecem aos pesquisadores um modelo de linguagem treinado em ciência, construído a partir de 106 bilhões de tokens selecionados em 48 milhões de artigos, livros didáticos, enciclopédias e bases de conhecimento. Galactica armazena, combina e raciocina através de modalidades incluindo LaTeX, código Python, fórmulas SMILES e sequências de aminoácidos dentro de uma arquitetura Transformer apenas com decodificador. A equipe Papers with Code da Meta disponibilizou os pesos para pesquisadores que desejam estudar como modelos de linguagem organizam o conhecimento científico.

Modelos de linguagem geral treinam em amplas varreduras da web onde conversas sociais podem dominar o orçamento de tokens. Galactica usou apenas fontes científicas de acesso aberto selecionadas, o que o artigo argumenta permitir treinar por múltiplas épocas sem overfitting. A Meta removeu a demonstração pública na web três dias após o lançamento em novembro de 2022, quando críticos mostraram citações e equações confiantes, porém fabricadas, então hoje você baixa checkpoints do Hugging Face em vez de conversar por uma interface hospedada.

Pesquisadores de aprendizado de máquina podem reproduzir números de benchmark do artigo do arXiv, incluindo 77,6% no PubMedQA e 52,9% no MedMCQA dev. Biólogos computacionais e químicos podem testar tarefas de anotação de proteínas e moléculas através dos tokens especializados do Galactica para sequências de aminoácidos e strings SMILES. Estudantes de pós-graduação explorando QA científico, predição de citações ou problemas matemáticos em texto podem experimentar tamanhos de até 120 bilhões de parâmetros sem treinar do zero.

ggml.ai está na vanguarda da tecnologia de IA, trazendo poderosos recursos de aprendizado de máquina diretamente para o limite com sua inovadora biblioteca de tensores. Construído para suporte a grandes modelos e alto desempenho em plataformas de hardware comuns, ggml.ai permite que os desenvolvedores implementem algoritmos avançados de IA sem a necessidade de equipamento especializado. A plataforma, escrita na eficiente linguagem de programação C, oferece suporte para flutuação de 16 bits e quantização de inteiros, juntamente com diferenciação automática e vários algoritmos de otimização integrados, como ADAM e L-BFGS. Possui desempenho otimizado para Apple Silicon e aproveita os intrínsecos AVX/AVX2 em arquiteturas x86. Os aplicativos baseados na Web também podem explorar seus recursos por meio do suporte WebAssembly e WASM SIMD. Com zero alocações de memória em tempo de execução e ausência de dependências de terceiros, ggml.ai apresenta uma solução mínima e eficiente para inferência no dispositivo.

Projetos como whisk.cpp e llama.cpp demonstram os recursos de inferência de alto desempenho do ggml.ai, com o whisker.cpp fornecendo soluções de fala para texto e o llama.cpp focando na inferência eficiente do modelo de linguagem grande LLaMA da Meta. Além disso, a empresa aceita contribuições para a sua base de código e apoia um modelo de desenvolvimento de núcleo aberto através da licença MIT. À medida que a ggml.ai continua a se expandir, ela procura desenvolvedores talentosos em tempo integral com uma visão compartilhada de inferência no dispositivo para se juntarem à sua equipe.

Projetado para ir além dos limites da IA, ggml.ai é uma prova do espírito de diversão e inovação na comunidade de IA.