Hackeři z různých zemí systematicky obcházejí bezpečnostní zábrany Anthropicova Clauda a dalších agentních AI nástrojů k páchání kybernetické kriminality, zjistil Wired 21. října 2026. Útočníci využívají techniky prompt injection a jailbreaku k tomu, aby modely provedly úkony, které jejich guardraily zakazují. Souběžně OpenAI odhalila kritické zranitelnosti v PHP přes projekt Patch the Planet.
Wired zmapoval, jak organizované skupiny hackerů aktivně testují a obcházejí bezpečnostní zábrany agentních AI nástrojů. Anthropicův Claude figuruje jako nejvíce zmiňovaný nástroj, protože jeho schopnosti v oblasti agentních úloh jsou rozšířené. Útočníci používají prompt injection, podvržené systémové zprávy a řetězené agentní úlohy.
Guardraily selhávají zejména u komplexních agentních scénářů, kde model dostává instrukce z více zdrojů současně. Útočníci záměrně konstruují situace, kde model upřednostní plnění úkolu před bezpečnostními pravidly.
OpenAI mezitím spustila projekt Patch the Planet, který koordinuje bezpečnostní výzkumníky a správce k rychlému záplatování kritických zranitelností v open source. První vlna odhalila závažné chyby v PHP, které podle OpenAI ohrožují přibližně 70 % webů na internetu.
Proč by vás to mělo zajímat
Firmy nasazující agentní AI v prostředí, kde přijímají vstupy z externích zdrojů, by měly auditovat, zda jejich agenti zpracovávají nedůvěryhodný obsah izolovaně. Zvažte sandboxing vstupů a oddělení agentních rolí tak, aby kompromitace jednoho agenta neohrozila celý systém.
