Výzkumník Anthropicu zveřejnil 28. srpna 2026 výsledky systému pro samozdokonalující se AI: automatizované modely zlepšily výkon ve všech 10 testovaných benchmarcích zaměřených na nežádoucí chování, aniž by degradovaly celkový výkon. TechCrunch přinesl brzký pohled na to, jak může self-improving AI vypadat v praxi.
Výzkumník z Anthropicu předvedl systém, který automatizovaně vylepšuje vlastní chování modelu. Testování proběhlo na 10 benchmarcích zaměřených na specificky nežádoucí vzorce chování. Výkon se zlepšil ve všech deseti, přičemž celkový výkon modelu zůstal nedotčen.
TechCrunch přinesl brzký pohled na to, jak může self-improving AI vypadat v praxi. Samozdokonalující se systémy jsou považovány za jeden z klíčových a zároveň nejriskantnějších směrů výzkumu.
Proč by vás to mělo zajímat
Samozdokonalování modelů bez lidského zásahu mění dosavadní logiku bezpečnostního testování. Firmy nasazující AI v citlivých oblastech by měly sledovat, kdy a jak Anthropic tyto techniky zahrne do produkčních modelů.
