llama-cookbook

O nástroji

Llama Cookbook (dříve llama-recipes) je oficiální repozitář společnosti Meta na GitHubu, který slouží jako průvodce pro budování aplikací s modely Llama. Obsahuje postupy pro začátek s inference, fine-tuningem i RAG (Retrieval-Augmented Generation), a to jak formou samostatných příkladů, tak end-to-end řešení propojených s různými poskytovateli, například Groq nebo Azure. Repozitář pokrývá nejpopulárnější komunitní přístupy a use-cases pro textové i vizuální modely Llama. K dispozici jsou konkrétní recepty na fine-tuning pomocí metod, které zmrazí většinu modelu a trénují jen malé přidané vrstvy – nejznámější jsou LoRA, Llama Adapter a Prefix-tuning. Součástí jsou také ukázkové notebooky, například NotebookLlama nebo recepty pro Text2SQL. Nástroj je určen vývojářům a inženýrům, kteří chtějí stavět aplikace na Llama modelech – chatboty, RAG systémy nebo Text2SQL řešení. Balíček se instaluje příkazem „pip install llama-cookbook“ (dříve llama_recipes, nyní deprecated). Samotné recepty jsou zdarma a open-source, hostované na GitHubu pod Llama licencemi, ovšem používání samotných modelů Llama podléhá licenčním podmínkám Meta.

Klíčové vlastnosti

• Recepty na fine-tuning metodami LoRA, Llama Adapter a Prefix-tuning
• Návody pro RAG (Retrieval-Augmented Generation)
• End-to-end příklady propojení s Groq nebo Azure
• Ukázkové notebooky NotebookLlama a Text2SQL
• Podpora textových i vizuálních modelů Llama
• Instalace přes pip install llama-cookbook

Časté dotazy

Kategorie