I Have Been Clawed
Vývojáři a bezpečnostní týmy zde najdou sbírku konkrétních případů, kdy AI agenti a chatboti způsobili škodu (např. smazaná data, špatné rady), a poučení, jak se podobným chybám vyhnout.
O nástroji
Nástroj je archiv jednotlivých incidentů s AI agenty, kde u každého případu je uveden agent, popis škody, datum, krátký výtah co se stalo, konkrétní ponaučení (lesson) a odkaz na zdroj. Sekce "Hall of claws" pak shrnuje opakující se typy selhání s popisem škody a odkazem na původní zdroj. Díky tomu jde o zdrojově ověřenou databázi reálných chyb, ne jen teoretický přehled rizik. Kromě samotných případů stránka nabízí praktická doporučení, jak se "poškrábání" vyhnout: spouštět agenty v kontejneru nebo VM s připojenou pracovní kopií (ne v domovském adresáři), používat výchozí zákaz s allowlistem povolených příkazů místo blokování jen nebezpečných, nedávat agentovi přístup k produkčním přihlašovacím údajům, u právních, compliance a klientských odpovědí vyžadovat zdrojované podklady a lidskou kontrolu, a před schválením destruktivních akcí zobrazit náhled a mít připravenou ověřenou cestu k obnově dat. Cílovou skupinou jsou primárně vývojáři, bezpečnostní inženýři a lidé nasazující AI agenty do produkčních prostředí, kteří potřebují konkrétní příklady selhání a poučení z praxe, ne obecné bezpečnostní rady.
AI novinky do e-mailu
Každý pátek 3 vybrané AI nástroje, prompt týdne a to nejdůležitější ze světa AI – přehledně, česky a bez balastu.
Jeden z nejstarších pravidelných českých AI newsletterů.
Další nástroje z katalogu
Další nástroje z katalogu, které stojí za prohlédnutí.
