ollama

O nástroji

Ollama umožňuje spustit otevřené jazykové modely (například Llama 3, Mistral, Phi-3, Gemma, Qwen nebo DeepSeek) přímo na lokálním zařízení pomocí jednoho příkazu v terminálu, bez nutnosti připojení k internetu. Nástroj běží na macOS, Linuxu i Windows a nabízí OpenAI-kompatibilní REST API dostupné po instalaci na adrese localhost:11434, ke kterému existují oficiální knihovny pro Python a JavaScript. Jádro projektu je open-source pod licencí MIT a zdrojový kód je veřejně dostupný na GitHubu. Vývojáři mohou pomocí takzvaného Modelfile upravovat chování modelů bez nutnosti jejich přetrénování a Ollama slouží jako backend pro nástroje jako Claude Code, Codex nebo OpenClaw. Lokální běh je zdarma a bez omezení, k dispozici je i oficiální Docker image a knihovna modelů ke stažení. Kromě lokálního provozu nabízí Ollama volitelnou cloudovou funkci s vytvořeným účtem, díky které lze spouštět výkonnější modely na datacentrovém hardwaru, zpracovávat více požadavků paralelně a získávat aktuální informace z webu, s cloudovými servery v USA, Evropě a Singapuru. Placený tarif Pro za 20 dolarů měsíčně (nebo 200 dolarů ročně) pak umožňuje současně spustit tři cloudové modely s výrazně vyšším limitem cloudového využití.

Klíčové vlastnosti

• Spouštění modelů jedním příkazem v terminálu bez internetu
• OpenAI-kompatibilní REST API na localhost:11434
• Úprava chování modelů pomocí Modelfile bez přetrénování
• Podpora macOS, Linuxu, Windows i Docker image
• Volitelný cloud pro paralelní zpracování a výkonnější modely
• Backend pro nástroje jako Claude Code, Codex nebo OpenClaw

Časté dotazy

Kategorie