Americká armáda se málem pustila do vojenské operace kvůli chybné AI zprávě o čínských jaderných komponentách na lodi, uvádějí TechCrunch a Ars Technica ze 18. září 2026. Výzkumný pracovník GovAI varoval, že příslušníci ozbrojených sil musí rozumět nejistotě inherentní jazykovým modelům. Podle Ars Technica celkové nasazení AI v armádě navzdory incidentu akceleruje.
TechCrunch ze 18. září 2026 popisuje případ, kdy halucinace jazykového modelu málem vedla ke skutečné vojenské operaci. AI systém chybně identifikoval komponenty na čínské lodi jako jaderné, načež se armáda USA začala připravovat na akci. K incidentu nakonec nedošlo.
Research scholar z Government AI institutu (GovAI) varuje: příslušníci ozbrojených sil musí chápat, že výstupy LLM obsahují inherentní nejistotu a nemohou sloužit jako jediný zdroj zpravodajské informace. Ars Technica zároveň poznamenává, že celkové nasazení AI v armádě navzdory incidentu akceleruje.
Proč by vás to mělo zajímat
Pro kohokoli, kdo nasazuje AI do rozhodovacích procesů s reálnými důsledky, je tento případ ostrou připomínkou, že žádný model nesmí být jediným zdrojem pro kritické rozhodnutí. Zaveďte povinný lidský přezkum u každého výstupu, který ovlivňuje reálná opatření.
