OpenAI představila vrstvený přístup proti adversarial distillation, tedy kopírování schopností modelů dotazováním. Kombinuje trénink modelů, ochranná opatření, detekci a vynucování. Zveřejnila to 20. listopadu.
Podle blogu OpenAI kombinuje obrana čtyři vrstvy: trénink modelů, ochranná opatření, detekci a vynucování. Cílem je chránit před extrakcí schopností, kdy cizí aktéři trénují vlastní model na výstupech toho cizího.
Podrobnosti o konkrétních případech zdroj v podkladech neuvádí.
Proč by vás to mělo zajímat
Pokud vyvíjíte vlastní modely nad API, ochrana proti distilaci může ovlivnit podmínky použití. Projděte si podmínky OpenAI API, zda vaše použití nespadá do rizikových vzorců.



