Zpráva SaferAI zjistila, že open-weight model GLM-5.2 od Z.ai se výkonnostně přibližuje nejlepším frontier modelům, ale postrádá klíčové bezpečnostní mechanismy, které mají uzavřené modely. Srovnání schopností vs. bezpečnosti ukazuje rostoucí propast: výkon roste rychleji než záruky. Trend znepokojuje výzkumníky, kteří varují, že governance nestíhá.
SaferAI zveřejnil analýzu open-weight modelu GLM-5.2 od čínské laboratoře Z.ai. Model podle zprávy dosahuje schopností srovnatelných s předními proprietárními modely, ale postrádá základní bezpečnostní opatření, která jsou u uzavřených modelů standardem.
Problém není v samotném modelu. Problém je systémový. Open-weight modely lze po stažení upravovat bez jakýchkoliv omezení od výrobce, takže jakékoliv bezpečnostní filtry zabudované při tréninku jsou snadno obcházitelné.
Zpráva oživuje debatu, která se vede od vydání prvního DeepSeeku: jak rychle se výkonnostní nůžky mezi otevřenými a uzavřenými modely zavírají a zda se bezpečnostní propast — která se podle SaferAI naopak rozevírá — stahuje dostatečně rychle.
Proč by vás to mělo zajímat
Podniky, které zvažují nasazení open-weight modelu místo API, by měly počítat s tím, že samy přebírají zodpovědnost za bezpečnostní vrstvy, které u komerčních API jsou zahrnuté v ceně.
