mlflow

O nástroji

MLflow je open source AIOps platforma zaměřená na vývoj a provoz AI aplikací, agentů a modelů. Umožňuje zachytávat kompletní trasování (tracing) LLM aplikací postavené na OpenTelemetry, systematicky vyhodnocovat kvalitu pomocí více než 50 vestavěných metrik a LLM judges, verzovat a optimalizovat prompty s lineage trackingem a nasazovat agenty do produkce přes vlastní Agent Server založený na FastAPI. Součástí je také AI Gateway jako jednotný API gateway pro různé LLM poskytovatele s podporou správy rate limitů a fallbacků. Nástroj je licencován pod Apache 2.0, je zcela zdarma a bez vendor lock-inu, funguje s libovolným cloudem či frameworkem. Podporuje jazyky Python, TypeScript/JavaScript, Java a R a integruje se s více než 100 nástroji AI ekosystému včetně LangChain, OpenAI a PyTorch. Projekt je zastřešen Linux Foundation, má přes 20 tisíc hvězdiček na GitHubu, 900+ přispěvatelů a přes 30 milionů stažení měsíčně.

Kategorie