openllmetry

O nástroji

OpenLLMetry je open-source knihovna pro monitorování a trasování aplikací postavených na velkých jazykových modelech (LLM). Využívá standard OpenTelemetry, takže vygenerovaná telemetrická data lze posílat do libovolného kompatibilního backendu pro observabilitu. Integraci lze do existujícího kódu přidat pomocí dvou řádků a dekorátoru (např. @workflow), který obalí funkci volající LLM a začne zaznamenávat její průběh. Nástroj nabízí SDK pro Python a TypeScript/Node.js a podporuje přímou integraci s řadou LLM providerů a nástrojů, jako jsou OpenAI, Anthropic, Bedrock, Gemini, Mistral AI, Ollama, together.ai, Watsonx, LangChain, LlamaIndex nebo Chroma. Zaznamenaná data lze exportovat do platforem jako Datadog, Grafana Tempo, Honeycomb, New Relic, Splunk, Dynatrace, Instana nebo Traceloop. Je určen vývojářům, kteří potřebují diagnostikovat chování a výkon LLM aplikací v produkci — sledovat jednotlivé workflow, volání modelů a jejich odpovědi v rámci standardizovaného tracingu.

Klíčové vlastnosti

• Integrace pomocí dvou řádků kódu a dekorátoru
• SDK pro Python i TypeScript/Node.js
• Standard OpenTelemetry pro telemetrická data
• Přímá integrace s OpenAI, Anthropic, Bedrock, Gemini a dalšími
• Export dat do Datadog, Grafana Tempo, Honeycomb, New Relic aj.
• Podpora LangChain, LlamaIndex a Chroma

Časté dotazy

Kategorie

Další nástroje v kategorii Vývojářské nástroje

Nezůstávejte jen u nejoblíbenějších – tohle jsou další nástroje z kategorie Vývojářské nástroje, které stojí za prohlédnutí.

• O
  OpenMythos

  Open-source projekt zdarma (pip install), komerční ceny ani API nebyly nalezeny
  49 %
• 
  OpenSandbox

  „“
  40 %
• 
  OpenSpec

  Open source zdarma; připravovaná placená verze Workspaces pro týmy zatím bez zveřejněné ceny.
  56 %
• 
  OpenViking

  Open source zdarma, ceník případné placené verze nebyl uveden
  40 %
• 
  openvino

  Neuvedeno
  40 %