OpenAI 29. října zveřejnila aktualizovaný Model Spec s pěti základními hodnotami, které mají vést schopnější AI k dobrému úsudku, respektu k lidské autonomii a věrnosti záměru lidí. Ve stejný den popsala vrstvené monitorování, jímž hlídá misalignment frontier modelů.
Aktualizovaný Model Spec stanovuje pět klíčových hodnot pro chování stále schopnějších modelů. Důraz je na zdravém úsudku, lidské autonomii a věrnosti záměru uživatele.
Současně OpenAI popsala, jak vrstveným monitorováním detekuje misalignment a neoprávněné chování agentů, aby mohli zasáhnout lidé dřív, než incident eskaluje.
Proč by vás to mělo zajímat
Dokument ukazuje, jaké chování od modelů OpenAI můžete očekávat a podle čeho se řídí. Pokud nasazujete agenty, projděte si Model Spec a porovnejte ho se svými pravidly.
