Světový specialista na bezpečnost AI v Praze ukázal, že jednoduché zákaznické chatboty lze zneužít jako zdarma placenou AI službu. Pokud mají přístup k interním systémům, mohou být cestou k citlivým firemním datům.
Lupa.cz popisuje přednášku zahraničního experta v Praze, který demonstroval slabiny firemních AI asistentů. Chatboty určené zákazníkům na webu se dají přimět k odpovědím na libovolné dotazy, takže firma platí za cizí využití modelu.
Větší riziko nastává, když bot sahá do interních systémů. Útočník se pak může dostat k citlivým datům. Ukázka navazuje na další bezpečnostní zprávy z posledních dní, třeba o veřejně přístupných serverech s nástrojem Artex.
Proč by vás to mělo zajímat
Chatbot napojený na interní data je nová vstupní brána do firmy a jeho zneužití se projeví na účtu za tokeny. Zkontrolujte, k čemu všemu má váš zákaznický chatbot přístup a jaké dotazy zvládne zodpovědět.
