Teenageři žalují školu a policii poté, co pytlík od Doritos spustil AI alarm kvůli zbrani. Podle žaloby, která cituje nález marylandského inspektora pro školství, bylo přes 99 procent poplachů systému ve školách okresu falešně pozitivních.
Žaloba popisuje, že systém detekce zbraní založený na AI označil obyčejný pytlík chipsů za zbraň a studenti zažili traumatizující zásah. Žalobci s odkazem na nález marylandského inspektora pro školství tvrdí, že falešné poplachy tvořily přes 99 procent všech hlášení systému ve školách okresu.
Případ ukazuje rizika nasazení AI v prostředí, kde chyba vede k zásahu ozbrojených složek.
Proč by vás to mělo zajímat
Vysoká míra falešných poplachů znamená, že automatizované rozpoznávání hrozeb může způsobit reálné škody. Před nasazením podobného systému požadujte údaje o skutečné míře falešných poplachů.



