Přeskočit na obsah
ejaj.cz

LLMForge

ZdarmaVývojářské nástroje

Nativní macOS aplikace pro vývojáře, kteří chtějí stáhnout, dotrénovat (fine-tune) a nasadit LLM model přímo na Macu bez cloudu a terminálu. Hodí se hlavně pro vývoj iOS/macOS aplikací s vlastním on-device modelem.

llmforge.app
Náhled nástroje LLMForge

O nástroji

LLMForge pokrývá celý pipeline práce s malými jazykovými modely v jednom okně: vyhledání a stažení modelu z HuggingFace (např. Phi-3 Mini, Llama 3.2, Qwen 2.5, Gemma 3) s přehledem velikosti a nároků na RAM, přípravu trénovacích dat (import CSV/JSONL, ruční labelování nebo generování párů pomocí lokálního modelu) ve formátu Alpaca/ChatML, a samotné fine-tuning na Apple Silicon přes MLX (LoRA/QLoRA, živé sledování loss, detekce overfittingu, obnova po pádu). Hotový model lze kvantizovat a exportovat do GGUF nebo CoreML (např. Q4_K_M, Q2_K) rovnou pro nasazení do Xcode. Nástroj navíc umožňuje A/B porovnání výstupů základního a dotrénovaného modelu, spuštění lokálního OpenAI-kompatibilního API serveru pro testování vlastních aplikací (streaming přes SSE, metriky tokenů/latence) a jednoduché nahrání natrénovaných adaptérů zpět na HuggingFace (veřejně i soukromě), vše na jedno kliknutí bez CLI. Běží výhradně na Apple Silicon (M1 a novější), vyžaduje macOS 26+ a alespoň 8 GB RAM – na Intel Macech ani jiných OS nefunguje. Aplikace je zdarma ke stažení, bez nutnosti účtu, velikost instalace pod 200 MB; aktuálně je v privátní beta verzi.

Klíčové vlastnosti

  • Stažení modelů z HuggingFace s přehledem RAM nároků
  • Příprava trénovacích dat v Alpaca/ChatML formátu
  • Fine-tuning přes MLX (LoRA/QLoRA) na Apple Silicon
  • Export do GGUF nebo CoreML s volbou kvantizace

Časté dotazy

Co přesně LLMForge umí?

Pokrývá celý pipeline práce s malými jazykovými modely – stažení modelu z HuggingFace, přípravu trénovacích dat, fine-tuning přes MLX na Apple Silicon, kvantizaci a export do GGUF/CoreML, A/B testování výstupů a spuštění lokálního API serveru.

Kolik LLMForge stojí?

Aplikace je zdarma ke stažení, bez nutnosti zakládat účet, velikost instalace je pod 200 MB.

Pro koho je nástroj určený a jak začít?

Je určen vývojářům iOS/macOS aplikací, kteří chtějí nasadit vlastní on-device model bez cloudu a terminálu. Stačí mít Mac s Apple Silicon a macOS 26+, stáhnout aplikaci a provést celý proces od stažení modelu po export přímo v jednom okně.

Kategorie

AI novinky do e-mailu

Každý pátek 3 vybrané AI nástroje, prompt týdne a to nejdůležitější ze světa AI – přehledně, česky a bez balastu.

Jeden z nejstarších pravidelných českých AI newsletterů.

Jednou týdně, v pátek. Žádný spam – odhlásíte se jedním klikem.

Podobné nástroje

Hledáte alternativu k LLMForge? Tady je 6 podobných nástrojů z kategorie Vývojářské nástroje.

Zobrazit všechny alternativy v kategorii Vývojářské nástroje

Další nástroje v kategorii Vývojářské nástroje

Nezůstávejte jen u nejoblíbenějších – tohle jsou další nástroje z kategorie Vývojářské nástroje, které stojí za prohlédnutí.