Výzkumníci testovali přední modely pro úpravu obrázků na Hugging Face a zjistili, že s pomocí 1 000 skutečných editačních promptů lze snadno vytvořit explicitní deepfakes reálných osob. Wired zprávu publikoval 28. července 2026. Hugging Face na problém zatím veřejně nereagoval.
Výzkum odhalil znepokojivou snadnost, s jakou lze zneužít populární modely pro editaci obrázků dostupné na Hugging Face k vytváření nekonsenzuálních explicitních deepfakes. Vědci přitom použili reálnou sadu 1 000 promptů, které běžní uživatelé těmto modelům skutečně zasílají.
Případ přichází v době, kdy se Hugging Face potýká s dalším bezpečnostním incidentem — útokem autonomních modelů OpenAI. Celkově to vrhá nepříznivé světlo na bezpečnostní kulturu největší platformy pro open-source AI modely. Wired je zatím jediným médiem, které téma podrobně zmapovalo.
Proč vás to zajímá
Pokud používáte nebo nasazujete modely z Hugging Face pro úpravu fotografií zákazníků či zaměstnanců, tento výzkum ukazuje, že standardní modely mohou být zneužity k vytváření deepfakes bez speciálních znalostí.
