Terracotta vs Llama 2

Terracotta é uma plataforma de ponta projetada para aprimorar o fluxo de trabalho para desenvolvedores e pesquisadores que trabalham com grandes modelos de linguagem (LLMs). Esta plataforma intuitiva e fácil de usar permite gerenciar, iterar e avaliar seus modelos ajustados com facilidade. Com o Terracotta, você pode fazer upload de dados com segurança, ajustar modelos para diversas tarefas, como classificação e geração de texto, e criar avaliações abrangentes para comparar o desempenho do modelo usando métricas qualitativas e quantitativas. Nossa ferramenta oferece suporte a conexões com grandes provedores como OpenAI e Cohere, garantindo que você tenha acesso a uma ampla gama de recursos de LLM. Terracotta é criação de Beri Kohen e Lucas Pauker, entusiastas de IA e graduados em Stanford, que se dedicam a promover o desenvolvimento de LLM. Cadastre-se em nossa lista de e-mail para se manter informado sobre as últimas atualizações e recursos que o Terracotta tem a oferecer.

A próxima geração do nosso modelo de linguagem grande de código aberto

Esta versão inclui pesos de modelo e código inicial para modelos de linguagem Llama pré-treinados e ajustados – variando de parâmetros de 7B a 70B.

O Llama 2 foi treinado com 40% mais dados do que o Llama 1 e tem o dobro do comprimento do contexto.

Treinamento Llama-2-chat: Llama 2 é pré-treinado usando dados online disponíveis publicamente. Uma versão inicial do Llama-2-chat é então criada através do uso de ajuste fino supervisionado. Em seguida, o Llama-2-chat é refinado iterativamente usando Reinforcement Learning from Human Feedback (RLHF), que inclui amostragem de rejeição e otimização de política proximal (PPO).

A Meta e a Microsoft fizeram parceria para revelar o Llama 2, o sucessor de código aberto de seu modelo de linguagem grande amplamente utilizado, o Llama. Este modelo inovador foi projetado para aprimorar os recursos da IA, oferecendo-a gratuitamente para pesquisa e uso comercial. Reconhecida como parceira preferencial, a Microsoft está integrando o Llama 2 em seu catálogo de modelos Azure AI, fornecendo aos desenvolvedores ferramentas robustas nativas da nuvem e otimização para plataformas Windows.

Llama 2 também pode ser acessado por meio de outros provedores importantes, como AWS e Hugging Face. Dedicadas à inovação responsável da IA, a Meta e a Microsoft enfatizam a transparência e o desenvolvimento orientado para a comunidade com recursos como exercícios de red-teaming, um esquema de transparência e um guia de utilização responsável. Iniciativas colaborativas como a Open Innovation AI Research Community e o Llama Impact Challenge também fazem parte do lançamento, com o objetivo de estimular aplicações responsáveis do Llama 2 em vários setores.