Výzkumníci ukázali, že nové modely OpenAI a Googlu lze snadno přimět generovat explicitní obsah včetně nahých osob prostou úpravou promptu, uvádí Ars Technica ze 14. října 2026. Útočná metoda podle výzkumníků odhaluje systematické slabiny v bezpečnostních vrstvách obou firem. Ani jedna firma v době publikace neopravila popsanou zranitelnost.
Ars Technica ze 14. října 2026 popisuje výzkum, při němž se podařilo snadno obejít bezpečnostní filtry u nových modelů od OpenAI i Googlu. Útočná metoda využívá specifické formulace promptu, které modely matou natolik, že produkují obsah, který by jinak odmítly.
Výzkumníci zdůrazňují, že problém není okrajový: metoda funguje opakovaně a u více modelů současně, což naznačuje, že zranitelnost je v přístupu k trénování guardrailů, ne jen v konkrétní verzi modelu.
Oba výrobci byli před publikací informováni. Záplata v době vydání článku nebyla nasazena.
Proč by vás to mělo zajímat
Firmy nasazující modely OpenAI nebo Googlu v prostředích, kde by výstup mohli vidět děti nebo kde hrozí reputační riziko, by měly přidat vlastní filtrační vrstvu nad API. Nespoléhejte výhradně na guardraily poskytovatele modelu.
