Demis Hassabis z Google DeepMind navrhuje vznik nezávislého standardizačního orgánu pro AI, modelovaného po americké finanční regulaci FINRA. Orgán by testoval hranové modely a formuloval standardy pro jejich bezpečné nasazení. Hassabis zdůraznil, že iniciativu by měly vést USA.
Demis Hassabis, generální ředitel Google DeepMind, vyzval k vytvoření globálního regulačního orgánu pro umělou inteligenci. Na panelové diskusi uvedl, že takový watchdog musí mít skutečné pravomoci – tedy schopnost zastavit vývoj či nasazení AI systémů, pokud by překročily bezpečnostní prahy. Hassabis zdůraznil, že bez vymahatelných pravidel nestačí dobrovolné závazky průmyslu.
Volání přichází v době, kdy v Ženevě probíhá první globální dialog OSN o řízení AI. Hassabis se přiklonil k vedoucí roli USA s odůvodněním, že tamní laboratoře – Google DeepMind, Anthropic, OpenAI – stojí za nejpokročilejšími modely, a tedy mají i největší odpovědnost.
Návrh je politicky složitý: Čína, Evropská unie a menší státy mají odlišné představy o tom, kdo by takový orgán měl řídit a jaké pravomoci by měl mít. Přesto jde o jeden z nejvýraznějších apelů šéfa přední AI laboratoře na mezinárodní koordinaci.
Proč by vás to mělo zajímat
Pokud vaše firma plánuje nasadit frontierové AI modely v regulovaném odvětví, mezinárodní dohled může přinést nové certifikační požadavky nebo omezení přístupu k nejsilnějším modelům.