Přeskočit na obsah
ejaj.cz
Modely
stojí za pozornost

OpenAI popsala, jak brání krádeži schopností modelů

ModelyOficiální zdroj: informace pochází přímo od toho, koho se zpráva týká – z firemního blogu, tiskové zprávy nebo oficiálního dokumentu.Text vytvořila umělá inteligence z uvedených zdrojů.

OpenAI představila vrstvený přístup proti adversarial distillation, tedy kopírování schopností modelů dotazováním. Kombinuje trénink modelů, ochranná opatření, detekci a vynucování. Zveřejnila to 20. listopadu.

Podle blogu OpenAI kombinuje obrana čtyři vrstvy: trénink modelů, ochranná opatření, detekci a vynucování. Cílem je chránit před extrakcí schopností, kdy cizí aktéři trénují vlastní model na výstupech toho cizího.

Podrobnosti o konkrétních případech zdroj v podkladech neuvádí.

Proč by vás to mělo zajímat

Pokud vyvíjíte vlastní modely nad API, ochrana proti distilaci může ovlivnit podmínky použití. Projděte si podmínky OpenAI API, zda vaše použití nespadá do rizikových vzorců.

🌅 Podobné novinky každé ráno v 7:00 do mailu

Zdarma, odhlášení jedním klikem v každém e-mailu.

Vyzkoušejte k tomu – z katalogu ejaj.cz

Další novinky

Zpět na přehled AI novinek.