Přibližně 80 stránek na webu WhatsApp odhalilo interní instrukce určené pro chatbota Mety včetně sekce Co neříkat, uvádí Wired. Meta potvrdila, že šlo o chybu. Incident se děje v době, kdy Meta také upravuje smluvní podmínky ohledně scrapování dat zákazníků na trénink AI.
Na přibližně 80 stránkách nápovědy WhatsAppu se krátce v jejich zdrojovém kódu objevilo přibližně 100 skrytých textových bloků obsahujících podrobné systémové instrukce pro chatbota Mety. Součástí bylo i explicitní vymezení témat, o nichž chatbot mluvit nemá. Meta situaci označila za technickou chybu a stránky stáhla.
Uniknuté instrukce jsou cenné pro výzkumníky i konkurenci, protože odhalují, jak Meta nastavuje bezpečnostní guardraily a chování chatbota. Systémové instrukce bývají zpravidla obchodním tajemstvím.
Incident dobře ilustruje, jak snadné je při nasazení komplexní AI infrastruktury omylem zveřejnit interní dokumentaci. U větších platforem s tisíci help stránkami může takový únik projít dlouho nepozorovaně.
Proč by vás to mělo zajímat
Pokud vyvíjíte nebo nasazujete chatboty, případ WhatsAppu ukazuje, že systémové instrukce se mohou dostat na veřejnost i bez hackingu. Auditujte, které interní dokumenty jsou přístupné z vašeho produkčního prostředí a jestli nejsou připojeny ke stejnému CMS jako veřejné stránky.
