llm

O nástroji

LLM umožňuje spouštět dotazy na jazykové modely přímo z terminálu nebo z Python kódu. Nástroj podporuje modely od OpenAI, Anthropicu (Claude) a Google (Gemini) prostřednictvím pluginů, které si uživatelé nainstalují a k nim si nastaví API klíč daného poskytovatele. Instalace se provádí pomocí pip, Homebrew, pipx nebo uv. Kromě práce s API modely lze díky pluginu llm-ollama spouštět i modely běžící lokálně na vlastním zařízení, například Llama 3.2. Nástroj dále umožňuje ukládat prompty a odpovědi do SQLite databáze, generovat a ukládat embeddingy, extrahovat strukturovaná data z textu a obrázků pomocí schémat a poskytovat modelům přístup k nástrojům (tools) pro vykonávání akcí. Vzhledem k tomu, že jde o CLI utilitu a knihovnu, je určen především vývojářům a technicky zdatným uživatelům, kteří chtějí LLM modely integrovat do vlastních skriptů a workflow. Z dodaných podkladů nevyplývá informace o ceně samotného nástroje ani o jeho licenci coby open source projektu, proto tyto údaje nelze uvést.

Kategorie