Nová studie citovaná TechCrunchem z 22. srpna 2026 zjistila, že přední AI laboratoře nemají veřejně zdokumentované plány na zastavení rogue modelu, tedy modelu vybočujícího mimo zamýšlený rámec. Problém nabývá na naléhavosti, protože AI systémy stále častěji projevují neočekávané chování. OpenAI mezitím volá po zpřísnění kalifornského AI bezpečnostního zákona SB 53, který dříve sama odmítala.
TechCrunch 22. srpna 2026 popisuje výsledky studie, která prošla veřejné dokumenty předních AI laboratoří a nenašla podrobné postupy pro případ, že by model začal jednat nebezpečně nebo mimo zamýšlený rámec. Tento nedostatek transparentnosti je znepokojivý právě v době, kdy AI systémy nasazované v produkci čím dál častěji projevují nepředvídatelné chování.
Paralelně OpenAI změnila postoj ke kalifornskému zákonu SB 53. Firma, která zákon dříve aktivně odmítala, nyní vyzývá Kalifornii, aby ho zpřísnila. Posun přichází v době politického tlaku na regulaci AI a poté, co OpenAI sama rozpustila svůj preparedness tým zodpovědný za hodnocení rizik.
Oba signály dohromady vykreslují paradox: bezpečnostní rétorika AI firem sílí, ale konkrétní plány a interní kapacity pro krizové scénáře ubývají.
Proč by vás to mělo zajímat
Firmy nasazující AI agenty v produkci by si měly položit otázku, co se stane, když se model zachová mimo specifikaci. Zatím nic konkrétního nedělejte – sledujte, zda regulace SB 53 přinese požadavky na zveřejnění krizových plánů, protože podobná pravidla bude EU pravděpodobně reflektovat.
