Žena tvrdí, že její nevlastní otec použil AI nástroje, konkrétně Grok od xAI, k přeměně dětské fotografie na explicitní materiál, informuje TechCrunch ze 15. srpna 2026. Případ dokládá, že generativní AI nástroje jsou schopné produkovat materiál sexuálního zneužívání dětí (CSAM) z běžných fotografií. Žena označila tyto nástroje za technologie, které z každodenního života dělají sexuální zneužití.
TechCrunch 15. srpna 2026 popsal případ, kdy má být Grok, AI chatbot od společnosti xAI Elona Muska, použit k transformaci dětské fotografie na explicitní sexuální materiál. Žena, která případ veřejně popsala, označila AI nástroje za technologie, které přeměňují každodenní život v materiál sexuálního zneužívání dětí.
Případ otevírá otázku, jak důsledně AI platformy implementují filtry zabraňující generování CSAM. Grok byl v minulosti kritizován za méně přísné obsahové filtry ve srovnání s konkurencí.
Ochrana dětí před zneužitím prostřednictvím generativní AI se stává regulatorním tématem v několika zemích. Konkrétní opatření ze strany xAI zatím TechCrunch neuvádí.
Proč by vás to mělo zajímat
Tento případ ukazuje, že generativní AI platformy s uvolněnými filtry představují reálné bezpečnostní riziko pro rodiny. Pokud vaše rodina fotografie sdílí online, věnujte zvýšenou pozornost tomu, kde a jak jsou dostupné, a sledujte, zda platforma, na níž je hostujete, tyto scénáře aktivně blokuje.
