Nová studie zjistila, že YouTube a X (Twitter) aktivně odkazují uživatele na weby, kde lze za pouhý 1 dolar vytvořit nekonsenzuální sexuálně explicitní deepfake z libovolné fotografie. Sociální sítě tak nepřímo monetizují provoz těchto stránek prostřednictvím doporučovacích algoritmů.
Výzkumníci dokumentovali systematický vzorec, při němž doporučovací algoritmy YouTube a X přivádějí uživatele na weby nabízející takzvané nudify služby — nástroje generující nekonsenzuální explicitní deepfakes. Cena za jeden vygenerovaný snímek začíná od 1 dolaru, přičemž měsíční předplatné bývá dostupné za jednotky dolarů.
Studie citovaná magazínem Wired poukázala na to, že přestože obě platformy mají pravidla zakazující sexuální vykořisťování, jejich algoritmy efektivně slouží jako akviziční kanál pro tyto služby. Problém přesahuje jednotlivé platformy: legislativa v oblasti deepfakes je v USA dosud roztříštěná a vymáhání je obtížné.
Regulátoři v Evropě i USA zvyšují tlak na platformy, aby nesly odpovědnost za obsah, ke kterému algoritmicky odkazují. Případ poukazuje na mezeru mezi psanými pravidly platforem a faktickým fungováním jejich doporučovacích systémů.
Proč vás to zajímá
Pokud máte veřejné fotografie na sociálních sítích, je prakticky snadné se stát obětí těchto nástrojů — a právní ochrana v Česku i EU je zatím omezená.
