llm
LLM je CLI nástroj a Python knihovna pro práci s velkými jazykovými modely přímo z příkazové řádky.

O nástroji
LLM umožňuje spouštět dotazy na jazykové modely přímo z terminálu nebo z Python kódu. Nástroj podporuje modely od OpenAI, Anthropicu (Claude) a Google (Gemini) prostřednictvím pluginů, které si uživatelé nainstalují a k nim si nastaví API klíč daného poskytovatele. Instalace se provádí pomocí pip, Homebrew, pipx nebo uv. Kromě práce s API modely lze díky pluginu llm-ollama spouštět i modely běžící lokálně na vlastním zařízení, například Llama 3.2. Nástroj dále umožňuje ukládat prompty a odpovědi do SQLite databáze, generovat a ukládat embeddingy, extrahovat strukturovaná data z textu a obrázků pomocí schémat a poskytovat modelům přístup k nástrojům (tools) pro vykonávání akcí. Vzhledem k tomu, že jde o CLI utilitu a knihovnu, je určen především vývojářům a technicky zdatným uživatelům, kteří chtějí LLM modely integrovat do vlastních skriptů a workflow. Z dodaných podkladů nevyplývá informace o ceně samotného nástroje ani o jeho licenci coby open source projektu, proto tyto údaje nelze uvést.
Klíčové vlastnosti
- Dotazování na LLM přímo z příkazové řádky
- Podpora OpenAI, Anthropic i Google Gemini přes pluginy
- Spouštění lokálních modelů např. přes llm-ollama
- Ukládání promptů a odpovědí do SQLite databáze
- Generování a ukládání embeddingů
- Extrakce strukturovaných dat z textu a obrázků pomocí schémat
Časté dotazy
Co přesně nástroj LLM umí?
Umožňuje spouštět dotazy na jazykové modely z terminálu nebo z Python kódu, ukládat prompty a odpovědi do SQLite, generovat embeddingy, extrahovat strukturovaná data z textu a obrázků a dávat modelům přístup k nástrojům pro vykonávání akcí.
Kolik LLM stojí?
Z podkladů nevyplývá cena samotného nástroje ani informace o licenci, samotné použití API modelů (OpenAI, Anthropic, Google) je zpoplatněno podle ceníku daného poskytovatele.
Pro koho je LLM určen a jak začít?
Je určen především vývojářům a technicky zdatným uživatelům, kteří chtějí LLM modely integrovat do vlastních skriptů. Stačí nástroj nainstalovat přes pip, Homebrew, pipx nebo uv, nastavit API klíč poskytovatele a spustit první prompt příkazem llm.
Kategorie
AI novinky do e-mailu
Každý pátek 3 vybrané AI nástroje, prompt týdne a to nejdůležitější ze světa AI – přehledně, česky a bez balastu.
Jeden z nejstarších pravidelných českých AI newsletterů.
Podobné nástroje
Hledáte alternativu k llm? Tady je 6 podobných nástrojů z kategorie Vývojářské nástroje.

Vectorizer AI
FreemiumPřevádí rastrové obrázky PNG, JPG, GIF, BMP a WebP na vektorové formáty SVG, PDF, EPS a DXF pomo...

Stable Diffusion
FreemiumStability AI je platforma pro generování obrázků, videa a dalšího obsahu pomocí generativní AI,...

Whisper
ZdarmaPřevádí mluvenou řeč na text ve více než 90 jazycích. Whisper je open-source model od OpenAI tré...

ai
FreemiumOpen-source TypeScript SDK od Vercelu pro vývojáře stavějící AI aplikace a agenty s React, Next....

Pinecone
FreemiumPinecone je vektorová databáze jako služba, která umožňuje ukládat, spravovat a prohledávat vekt...

Escape
NeuvedenoEscape je AI-powered platforma pro ofenzivní bezpečnost, která automatizuje discovery, pentestin...
Další nástroje v kategorii Vývojářské nástroje
Nezůstávejte jen u nejoblíbenějších – tohle jsou další nástroje z kategorie Vývojářské nástroje, které stojí za prohlédnutí.





