LlamaChat

O nástroji

LlamaChat umožňuje spouštět a používat velké jazykové modely přímo na počítači Mac bez připojení k externím serverům. Podporuje modely LLaMA, Alpaca, GPT4All a Vicuna – vše běží lokálně, takže data neopouštějí zařízení uživatele. Aplikace zvládá importovat surové PyTorch checkpointy i předkonvertované soubory ve formátu .ggml. Je postavena na open-source knihovnách llama.cpp a llama.swift. Distribuuje se jako macOS aplikace (verze 1.2.0) nebo přes Homebrew příkazem `brew install --cask llamachat`. Vyžaduje macOS 13 a funguje na Intel i Apple Silicon procesorech. LlamaChat je určen pro vývojáře, výzkumníky a technicky zdatné uživatele, kteří chtějí experimentovat s open-source jazykovými modely lokálně na Macu. Aplikace je 100% zdarma a plně open-source, zdrojový kód je dostupný na GitHubu.

Klíčové vlastnosti

• Lokální spouštění LLM modelů (LLaMA, Alpaca, GPT4All, Vicuna) bez cloudového připojení
• Import surových PyTorch model checkpointů
• Import předkonvertovaných .ggml souborů
• Podpora Intel procesorů i Apple Silicon (M1/M2)
• Instalace přes Homebrew (brew install --cask llamachat)
• Plně open-source (llama.cpp, llama.swift)

Časté dotazy

Kategorie

Štítky

Sociální sítě