MLflow
MLflow é a maior plataforma de engenharia de IA de código aberto para agentes, LLMs e modelos tradicionais de machine learning. Equipes a utilizam para depurar, avaliar, monitorar e otimizar aplicações de IA em produção, controlando custos e o acesso aos modelos. Com 30 milhões de downloads mensais de pacotes e mais de 26.000 estrelas no GitHub, é uma das ferramentas mais amplamente adotadas para lançar IA com confiança.
A plataforma abrange dois principais segmentos. Para LLMs e agentes, o MLflow oferece rastreamento compatível com OpenTelemetry, avaliação sistemática com mais de 50 métricas integradas e juízes de LLM, um registro de prompts com otimização, uma API Gateway de IA para roteamento entre provedores e um Agent Server para implementação baseada em FastAPI. Para ML clássico, cobre rastreamento de experimentos, avaliação de modelos, um registro de modelos para produção e ferramentas de implantação.
Engenheiros de ML, cientistas de dados e equipes de plataforma em startups e empresas Fortune 500 confiam no MLflow para iterar mais rápido sem dependência de fornecedor. Ele se integra a mais de 100 frameworks, incluindo LangChain, OpenAI, PyTorch e scikit-learn, suporta Python, TypeScript, Java e R, e roda localmente, onsite ou em qualquer nuvem. O projeto possui licença Apache 2.0 e é apoiado pela Linux Foundation.
O rastreamento compatível com OpenTelemetry captura toda solicitação, recuperação e chamada de ferramenta
Mais de 50 métricas de avaliação integradas além de avaliadores LLM-as-a-judge para testes de qualidade
O Registro de Prompt versiona prompts com linhagem e otimização automatizada
AI Gateway direciona solicitações entre provedores LLM por meio de uma única API compatível com OpenAI
Agent Server implanta agentes em produção com streaming e rastreamento integrado
O rastreamento de experimentos registra parâmetros, métricas, artefatos e código para execuções de ML
Integra-se com LangChain, OpenAI, PyTorch e mais de 100 outros frameworks de IA
Apache 2.0 open source sem bloqueio de fornecedor em múltiplas clouds, frameworks e provedores de LLM.
Cobre tanto LLMOps quanto MLOps clássicos em uma única plataforma, desde o tracing até o registro de modelos.
30 milhões de downloads mensais e mais de 26.000 estrelas no GitHub indicam ampla adoção na indústria.
Tracing compatível com OpenTelemetry integra-se à infraestrutura de observabilidade existente.
Comece localmente com um único comando e mudanças mínimas no código via autologging.
Implantações self-hosted exigem esforço operacional para executar e manter o servidor de rastreamento.
A variedade de recursos entre GenAI e ML clássico pode parecer esmagadora para iniciantes.
Não há oferta SaaS gerenciada diretamente pelo projeto MLflow; a hospedagem em produção é autogerenciada.
O MLflow é gratuito para usar?
Sim. O MLflow é 100% open source sob a licença Apache 2.0, sem taxas de licenciamento. Você pode hospedar o servidor MLflow localmente ou na sua própria infraestrutura, e os recursos principais da plataforma são gratuitos para uso.
Quais linguagens de programação o MLflow suporta?
O MLflow suporta Python, TypeScript e JavaScript, Java e R. A documentação cobre SDKs e integrações de autologging nessas linguagens, sendo Python a mais amplamente documentada.
Quais provedores de LLM e frameworks de agentes funcionam com o MLflow?
O MLflow integra-se com OpenAI, Anthropic, Gemini, Amazon Bedrock, LangChain, LangGraph, LlamaIndex, CrewAI, AutoGen, Vercel AI, LiteLLM, entre dezenas de outros. O site lista mais de 100 integrações entre provedores de LLM e frameworks de agentes.
Como começar a usar o MLflow?
Execute `uvx mlflow server` para iniciar um servidor de rastreamento local em cerca de 30 segundos. Depois, defina sua tracking URI e ative o autologging para seu framework, como `mlflow.openai.autolog()` para aplicativos LLM ou `mlflow.sklearn.autolog()` para modelos scikit-learn.
O MLflow suporta OpenTelemetry?
Sim. O MLflow Tracing é totalmente compatível com OpenTelemetry e suporta GenAI Semantic Conventions. Isso permite que equipes integrem os traces do MLflow com pilhas de observabilidade existentes sem dependência de fornecedor.
O MLflow pode ser usado em organizações empresariais?
Sim. O MLflow é comprovadamente confiável em larga escala por empresas Fortune 500 e milhares de equipes. Ele pode rodar on-premises, em qualquer nuvem ou por meio de serviços gerenciados, e as versões recentes adicionam controle de acesso baseado em funções para gestão de equipes LLM.

