Společnost xAI Elona Muska podala žalobu na muže z Jižní Karolíny Terryho Wayna Harwella, který prý využil chatbot Grok k vytváření dětské pornografie (CSAM). Případ přichází jen dny poté, co se ukázalo, že Grok Build nahrával celé repozitáře uživatelů na Google Cloud bez jejich vědomí. xAI se tak jako první velká AI firma rozhodla aktivně žalovat vlastního uživatele za zneužití modelu.
Podle žaloby, o níž jako první informovala agentura Reuters, Terry Wayne Harwell použil chatbot Grok k vygenerování deepfake materiálu sexuálně zneužívajícího děti. xAI v žalobě tvrdí, že Harwell obešel bezpečnostní filtry a jednal v přímém rozporu s podmínkami služby.
Případ je pozoruhodný tím, že AI firma sama iniciuje soudní řízení — dosud šlo zpravidla o situace, kdy AI společnosti stály na straně žalovaných. Odborníci debatují, zda a do jaké míry nesou platformy zodpovědnost za zneužití svých modelů.
Souběžně Wired a další média dokumentují, že YouTube a X fungují jako přístupové brány k nudify aplikacím, kde stojí explicitní deepfake snímek již od 1 dolaru — což ukazuje, jak rozšířený problém zneužívání AI k sexuálnímu obsahu je.
Proč vás to zajímá
Výsledek žaloby nastaví precedent pro to, jak budou AI platformy vymáhat podmínky použití vůči uživatelům — a tím ovlivní i míru ochrany dětí a dospělých před deepfake zneužitím.
