Americká armáda se málem pustila do vojenské operace, protože analytik nechal chatbota propojit veřejná data s odposlechy do zprávy o čínských jaderných komponentách. Podle CNN zpráva málem rozpoutala válku. Dokument měl formát prověřeného materiálu, neprošel však ověřením.
Analytik spojil veřejně dostupná data s odposlechy pomocí AI chatbota. Výsledný dokument vizuálně odpovídal standardním zpravodajským materiálům, přesto neprošel standardním ověřovacím procesem. Rozhodnutí o útoku bylo na poslední chvíli zrušeno.
Zdroj CNN označil incident za situaci, která mohla spustit ozbrojený konflikt. Živě.cz, které zprávu přineslo 21. září 2026, upozorňuje, že AI výstup nerozlišuje mezi prověřenou zpravodajskou informací a plausibilní spekulací. Odborníci z GovAI již dříve varovali, že příslušníci ozbrojených sil musí rozumět inherentní nejistotě jazykových modelů.
Proč by vás to mělo zajímat
Pro kohokoli, kdo nasazuje AI do rozhodovacích procesů s reálnými důsledky, je tento případ ostrou připomínkou, že žádný model nesmí být jediným zdrojem pro kritické rozhodnutí. Zaveďte povinný lidský přezkum u každého výstupu, který ovlivňuje reálná opatření.
