Městský prokurátor San Francisca zaslal Applu a Googlu příkazy k zastavení distribuce 13 aplikací, které pomocí AI tvoří sexuální deepfaky z fotografií žen a dívek. Odhady naznačují, že obě firmy vydělaly na poplatcích od těchto aplikací miliony dolarů.
Úřad městského prokurátora San Francisca zahájil přímou regulatorní akci proti Applu a Googlu: zaslal jim dopisy s výzvou k okamžitému odstranění 13 aplikací kategorie face-swap či nudify ze svých obchodů s aplikacemi. Úřad konstatuje, že aplikace jsou převážně používány k tvorbě deepfake nahých fotografií žen a dívek bez jejich souhlasu.
Ars Technica i Wired uvádí, že Google i Apple z těchto aplikací pravděpodobně inkasovaly miliony dolarů v podobě podílu z poplatků. Výzvy nejsou součástí žaloby – jde o předsoudní krok, po jehož ignorování by mohl následovat soudní spor.
Krok San Francisca přichází v době, kdy tlak na platformy kvůli AI-generovanému škodlivému obsahu globálně roste. Patreon ve stejném týdnu přešel od pasivního robots.txt k aktivnímu blokování scrapovacích botů přes Cloudflare – téma ochrany před zneužitím AI dostává nový regulatorní rozměr.
Proč by vás to mělo zajímat
Pokud provozujete aplikaci nebo platformu s uživatelským obsahem, tento případ ukazuje, že od obchodů s aplikacemi se nově aktivně očekává kontrola AI nástrojů ještě před jejich distribucí – a pasivita může stát miliony.
