Kanadský zákonodárce 24. července přečetl ve sněmovně text, který obsahoval instrukci LLM „Here's a more natural, flowing version of that section…“ — tedy viditelnou část promptu nebo hlavičky odpovědi. Případ okamžitě virálně obíhal sociálními sítěmi jako jeden z nejviditelnějších dokladů nekritického přebírání výstupů AI bez kontroly.
Jde o jeden z nejviditelnějších veřejných dokladů toho, jak politici nekriticky přebírají výstupy AI modelů bez kontroly. Případ okamžitě virálně obíhal sociálními sítěmi.
Podle Ars Technica se incident odehrál 24. července, kdy zákonodárce při projevu na půdě sněmovny nahlas přečetl i instrukční hlavičku odpovědi jazykového modelu — frázi „Here's a more natural, flowing version of that section…“ — která nebyla určena k veřejnému přednesu, ale zůstala v textu jako součást výstupu LLM.
Případ poukázal na absenci finální lidské kontroly před veřejným vystoupením a rychle se stal virálním příkladem rizik spojených s nekritickým používáním generativní AI v politické praxi.
Proč vás to zajímá
Pokud uvažujete o použití AI pro tvorbu formálních dokumentů nebo veřejných vystoupení, případ ukazuje riziko odeslání textu bez finální lidské kontroly výstupu.
