Anthropic podle TechCrunch upozorňuje, že je velmi blízko schopnosti RSI, tedy rekurzivního sebezlepšování AI. RSI označuje bod, kdy je AI tak dobrá v trénování sama sebe, že dojde k dramatickému zrychlení jejích schopností. Pro kritiky AI jde o scénář bez cesty zpět.
TechCrunch popisuje varování Anthropicu, že se blíží schopnosti RSI. Jde o okamžik, kdy AI natolik zvládne trénovat sama sebe, že se její schopnosti začnou prudce zrychlovat.
Pro skeptiky a takzvané doomery je právě tohle hranice, za kterou není návrat. Fakt, že o ní takto otevřeně mluví firma, která vyvíjí špičkové modely, dodává debatě na váze.
Anthropic se zároveň chystá na burzu a tohle sdělení zapadá do širší diskuse o rizicích. Podrobnosti o tom, jak blízko k RSI skutečně je, podklady neuvádějí.
Proč by vás to mělo zajímat
Kdyby se zrychlení schopností potvrdilo, rychleji by se měnily i nástroje, na které se firmy spoléhají. Sledujte proto, jak se k tomuto varování postaví regulátoři a investoři kolem plánovaného IPO.
