Cognee vs LiteLLM

Cognee transforma documentos, chats, tickets e dados de API em agentes de modelo de linguagem com memória gráfica que podem ser lembrados ao longo das sessões. Ele constrói grafos de entidades vinculadas a partir desse contexto para que os agentes parem de reiniciar do zero a cada execução. Você pode conectar Slack, GitHub ou Linear para que agentes de codificação e bots de suporte compartilhem um cérebro empresarial consciente de permissões.

RAG simples retorna trechos de texto semelhantes. Cognee combina busca vetorial com grafos de conhecimento e ontologias auto-geradas, para que a recuperação traga entidades conectadas e fatos citados em vez de trechos isolados. O SDK se concentra em quatro verbos: lembrar, recordar, esquecer e melhorar, e a mesma interface é disponibilizada via HTTP e MCP para Claude Code, Codex e OpenClaw.

Equipes de plataforma o utilizam para memória de agentes de codificação, pipelines GraphRAG, inteligência de negócios e agentes voltados ao cliente que precisam de respostas fundamentadas. Execute-o localmente com pip, hospede você mesmo em Docker ou on-premises, ou migre para Cognee Cloud quando desejar escala gerenciada. O projeto registra 30,4 mil estrelas no GitHub e mais de 5 milhões de execuções do SDK por mês, com implantações em produção na Bayer e Knowunity.

LiteLLM é um gateway de IA auto-hospedado e proxy LLM que fica entre seus aplicativos e os provedores de modelos. Você direciona os clientes para um endpoint compatível com OpenAI, e o gateway gerencia o roteamento, registro e controles de gastos em mais de 140 backends. Equipes da Netflix, NVIDIA e Okta o utilizam para padronizar o acesso a modelos sem precisar reconstruir cada serviço quando um provedor muda.

Enquanto proxies hospedados cobram por token e mantêm as chaves na nuvem deles, o LiteLLM roda na sua VPC ou em um cluster isolado sob licença MIT. Orçamentos e limites de RPM/TPM são bloqueios rígidos, não alertas, então uma chave vazada ou trabalho descontrolado não pode continuar gastando após atingir o limite.

Equipes de plataforma e infraestrutura de ML recorrem a ele quando precisam de uma única porta de entrada para humanos, agentes e trabalhos em lote. O mesmo gateway cobre chamadas LLM, servidores MCP e fluxos de trabalho de agentes, com SSO empresarial, logs de auditoria e SLAs quando a implantação é em toda a empresa.