TikTok spouští opt-in funkci, která skenuje obsah na platformě a hledá AI kopie podoby konkrétních tvůrců — ti pak mohou nahlásit nalezené deepfakes přímo firmě. Testování probíhá zatím s částí amerických tvůrců, jak jako první zachytil konzultant Matt Navarra. Jde o první proaktivní detekční nástroj tohoto druhu na velké video platformě.
TikTok oznámil testování nového opt-in nástroje pro detekci AI likenesses — tedy AI generovaných kopií tváří a hlasů skutečných osob. Podle The Verge funkci jako první zaznamenal konzultant pro sociální sítě Matt Navarra; nástroj je zatím v testování s vybranou skupinou amerických tvůrců.
Princip je jednoduchý: tvůrce se přihlásí do programu, platforma průběžně skenuje obsah a v případě nalezení potenciálního AI deepfake umožní tvůrci incident nahlásit TikToku. Firma tak posouvá ochranu před AI zneužitím od reaktivního řešení stížností k proaktivnímu skenování.
Krok přichází ve chvíli, kdy tlak na platformy kvůli AI deepfakům výrazně roste — San Francisco právě vydalo cease-and-desist dopisy Applu a Googlu kvůli nudify aplikacím a regulátoři po celém světě hledají způsoby, jak zneužití AI podoby legislativně uchopit.
Proč vás to zajímá
Pokud jste tvůrce s publikem na TikToku, brzy budete moci aktivně sledovat, zda někdo nevytvořil AI deepfake vaší podoby — a mít formální kanál, jak to nahlásit.
