langfuse

O nástroji

Langfuse je open-source AI engineering platforma, která pomáhá týmům společně debugovat, analyzovat a iterovat na jejich LLM aplikacích. Umožňuje trasovat chování AI agentů v produkčním provozu (LLM Application Observability), sledovat volání LLM i další relevantní logiku jako retrieval, embedding nebo akce agentů. K dispozici jsou také LLM-as-a-Judge evaluace, prompt management s verzováním a cachováním, experimenty, datasety a vlastní dashboardy. SDK odesílají tracing data asynchronně na pozadí, takže neovlivňují odezvu aplikace. Nástroj se integruje s OpenTelemetry, LangChain, OpenAI SDK, LiteLLM a dalšími. Nástroj lze nasadit lokálně, na cloudové infrastruktuře nebo on-premises, protože závisí pouze na open source komponentách – architektura zahrnuje Postgres, Clickhouse, Redis/Valkey cache a S3/Blob Store. Jde o open-source projekt s více než 24 tisíci hvězdičkami na GitHubu; od června 2025 přešly téměř všechny funkce (tracing, prompty, evaluace, playground, annotation queues) pod MIT licenci, komerční zůstávají jen enterprise funkce jako SCIM či audit logy. Podle uvedených údajů nástroj využívá přes 100 000 vývojářů a zpracovává více než 10 miliard observací měsíčně, přičemž jej používá 21 z 50 firem žebříčku Fortune 50. Konkrétní cenový model ani limity bezplatné varianty nejsou v podkladech specifikovány.

Klíčové vlastnosti

• Trasování LLM volání, retrieval i akcí agentů
• LLM-as-a-Judge evaluace odpovědí
• Prompt management s verzováním a cachováním
• Vlastní dashboardy a datasety pro experimenty
• Asynchronní SDK bez vlivu na odezvu aplikace
• Integrace s LangChain, OpenAI SDK, LiteLLM, OpenTelemetry

Časté dotazy

Kategorie