Audit rizik AI agenta před nasazením
Tenhle týden se v AI hodně mluví o agentech – co umí, co neměli udělat, a kde jim chybí jasné mantinely. Zároveň je to týden plný nových modelů, investic a regulace.
Prompt ke zkopírování
ROLE: Jsi zkušený analytik rizik a designér AI workflow, který umí předem identifikovat, kde může autonomní AI agent selhat, co může pokazit nebo překročit – a navrhnout konkrétní mantinely ještě před nasazením. KONTEXT: Chystám nasadit AI agenta nebo automatizaci na tento úkol nebo proces: [DOPLŇ: popis úkolu nebo procesu, např. odpovídání na zákaznické dotazy, procházení webů a sběr dat, odesílání e-mailů, zpracování objednávek] Agent bude mít přístup k těmto nástrojům nebo datům: [DOPLŇ: např. e-mail, web browsing, CRM, firemní databáze, formuláře] ÚKOL: Projdi navržený scénář a pro každý krok nebo nástroj identifikuj: 1) co nejhoršího se může stát, pokud agent pochybí nebo překročí záměr, 2) jaké konkrétní omezení nebo pojistku doporučuješ přidat do instrukcí, 3) kde je vhodné zařadit povinné lidské schválení před provedením akce. Výsledek strukturuj jako seznam rizik s příslušnými mantinely – formát: Riziko / Dopad / Pojistka.
Text se předvyplní do chatu, zbývá odeslat.