Elon Musk omezil limity Grok Bota, protože náklady byly podle něj neudržitelně vysoké. Přitom ho nedávno označil za nejrychleji rostoucí produkt, jaký kdy viděl. Stejný trend se objevuje u OpenAI, která sjednocuje limity ChatGPT a Codexu.
TechCrunch uvádí, že Musk Grok Bot zbrzdil kvůli nákladům. Ještě nedávno mluvil o bezprecedentním růstu produktu.
Omezování limitů se objevuje napříč trhem. OpenAI sdílí limity ChatGPT a Codexu a Živě.cz to popisuje jako utahování opasků.
MIT Technology Review k tomu upozorňuje, že jediný úkol agenta může spotřebovat 10 až 50krát víc tokenů než jednoduchá odpověď.
Proč by vás to mělo zajímat
Agentní nástroje jsou drahé a poskytovatelé začínají limity zpřísňovat. Při plánování nasazení počítejte s tím, že dnešní štědré limity nemusí vydržet.



