ludwig

O nástroji

Ludwig je deklarativní deep learning framework, ve kterém se celý model – od předzpracování dat přes encodery a architekturu až po trénování a hyperparametrickou optimalizaci – definuje jedním YAML souborem. Podporuje přes 50 modalit a úloh (text, tabulková data, obrázky, audio, časové řady, geoprostorová data, sekvence i anomálie) a je postaven na PyTorchi s nativní podporou modelů z HuggingFace. Nástroj obsahuje kompletní sadu pro fine-tuning LLM (SFT, DPO, KTO, ORPO, GRPO) s podporou LoRA, QLoRA, DoRA a VeRA včetně 4bitové kvantizace, takže lze doladit modely jako Llama nebo Mistral i na jedné spotřebitelské GPU. Přidáním jednoho řádku „backend: ray“ lze úlohu bez úprav kódu škálovat z notebooku na distribuovaný Ray cluster s podporou DeepSpeed, FSDP nebo KubeRay. Ludwig je licencován pod Apache 2.0, hostován Linux Foundation AI & Data a na GitHubu má přes 10 tisíc hvězd. Nabízí i jednopříkazové nasazení modelu jako REST API, export do formátů SafeTensors, ONNX nebo torch.export a integraci s nástroji pro sledování experimentů jako W&B, MLflow či TensorBoard. Instalace probíhá příkazem „pip install ludwig“.

Klíčové vlastnosti

• Celý model definovaný jedním YAML souborem bez psaní kódu
• Fine-tuning LLM pomocí SFT, DPO, KTO, ORPO i GRPO
• LoRA, QLoRA, DoRA a VeRA včetně 4bitové kvantizace
• Škálování na Ray cluster přidáním jednoho řádku v konfiguraci
• Podpora přes 50 modalit včetně textu, obrázků, audia a časových řad
• Nasazení modelu jako REST API jedním příkazem

Časté dotazy

Kategorie