Šéf Google DeepMind Demis Hassabis prohlásil, že svět potřebuje mezinárodní AI watchdog s reálnými pravomocemi zastavit vývoj, pokud frontierové modely dosáhnou nebezpečné úrovně. Podle Hassabise by takový orgán měl vést USA, protože jsou domovem nejpokročilejších AI systémů.
Demis Hassabis, generální ředitel Google DeepMind, vyzval k vytvoření globálního regulačního orgánu pro umělou inteligenci. Na panelové diskusi uvedl, že takový watchdog musí mít skutečné pravomoci — tedy schopnost zastavit vývoj či nasazení AI systémů, pokud by překročily bezpečnostní prahy. Hassabis zdůraznil, že bez vymahatelných pravidel nestačí dobrovolné závazky průmyslu.
Volání přichází v době, kdy v Ženevě probíhá první globální dialog OSN o řízení AI. Hassabis se přiklonil k vedoucí roli USA s odůvodněním, že tamní laboratoře — Google DeepMind, Anthropic, OpenAI — stojí za nejpokročilejšími modely, a tedy mají i největší odpovědnost.
Návrh je politicky složitý: Čína, Evropská unie a menší státy mají odlišné představy o tom, kdo by takový orgán měl řídit a jaké pravomoci by měl mít. Přesto jde o jeden z nejvýraznějších apelů šéfa přední AI laboratoře na mezinárodní koordinaci.
Proč vás to zajímá
Pokud vaše firma plánuje nasadit frontierové AI modely v regulovaném odvětví, mezinárodní dohled může přinést nové certifikační požadavky nebo omezení přístupu k nejsilnějším modelům.
