heretic

O nástroji

Heretic je open-source nástroj pro výzkumníky a pokročilé uživatele, který odstraňuje tzv. „safety alignment“ (cenzuru) z transformerových jazykových modelů bez nutnosti nákladného post-tréninku. Kombinuje pokročilou implementaci směrové ablace („abliteration“) s optimalizátorem parametrů typu TPE poháněným knihovnou Optuna, přičemž systém automaticky hledá kvalitní parametry ablace tak, aby minimalizoval míru odmítnutí i odchylku (KL divergenci) od původního modelu. Nástroj podporuje decenzuru řady populárních „dense“ i některých „mixture-of-experts“ (MoE) modelů a kromě hlavní funkce nabízí i podporu pro výzkum vnitřní sémantiky modelů (interpretability). Instaluje se jednoduše přes pip příkazem „pip install -U heretic-llm“ a spouští se zadáním konkrétního modelu, například „heretic Qwen/Qwen3.5-4B“. Heretic je licencován pod GNU Affian General Public License (AGPL) v3.0 a je dostupný na GitHubu a Hugging Face, kde sdružení heretic-org publikuje a kurátoruje kvalitní abliterované modely vytvořené tímto nástrojem. Informace o placené verzi nebo API nejsou k dispozici, nástroj je určen k lokálnímu spuštění a experimentování s jazykovými modely.

Klíčové vlastnosti

• Automatická direktivní ablace (abliteration) safety alignmentu
• TPE optimalizace parametrů pomocí knihovny Optuna
• Minimalizace míry odmítnutí i KL divergence od originálu
• Podpora dense i mixture-of-experts modelů
• Instalace jedním příkazem přes pip
• Podpora výzkumu interpretability modelů

Časté dotazy

Kategorie