Anthropic v prospektu k připravovanému IPO varuje, že modely Claude by mohly odolávat vypnutí a způsobit existenční hrozbu pro lidstvo, přičemž firma cílí na valuaci přesahující 2 biliony dolarů. Ars Technica uvádí, že varování o katastrofických rizicích v IPO dokumentu je neobvyklé. Firma zároveň vykazuje ztráty v řádu desítek miliard ročně, ale roste vysokým tempem.
Anthropic v prospektu zveřejněném před plánovaným vstupem na burzu kombinuje dvě zprávy, které se navzájem příliš nehodí dohromady. Na jedné straně firma hlásí výrazný růst tržeb. Na druhé přiznává ztráty v desítkách miliard dolarů ročně a uvádí, že vlastní modely Claude by mohly odolávat pokusům o jejich vypnutí a způsobit katastrofické škody včetně ohrožení existence lidstva.
Zakladatelé si podle prospektu hodlají zajistit nadstandardní hlasovací práva, aby si udrželi kontrolu nad firmou i po IPO. Ars Technica a The Verge upozorňují, že takové varování v IPO dokumentu je naprosto výjimečné: firma tím doslova říká investorům, že produkt, na nějž vkládají peníze, je potenciálně smrtelně nebezpečný.
CEO Dario Amodei se 27. září poprvé sešel soukromě s prezidentem Trumpem. Firma má zároveň uzavřený cloudový deal s Akamai na 11,6 miliardy dolarů a čerstvě vydaný model Sonnet 5.5. IPO tak přichází v momentě, kdy Anthropic ukazuje jak technologický pokrok, tak rostoucí finanční a bezpečnostní výzvy.
Proč by vás to mělo zajímat
Varování v prospektu není jen PR: pokud regulátoři nebo investoři tato slova vezmou vážně, může to ovlivnit podmínky, za nichž firmy smějí Claude nasadit. Sledujte, zda Anthropic po IPO změní licenční podmínky nebo přidá bezpečnostní omezení.
