Liquid Inference
Liquid Inference je burza (router) pro volání LLM modelů přes API, kde nabídky různých poskytovatelů soutěží o nejnižší cenu za token, a vy zaplatíte vždy nejlevnější nabídku splňující vaše podmínky. Hodí se vývojářům a firmám, kteří chtějí snížit náklady na AI požadavky bez ruční správy více API klíčů a cen jednotlivých providerů.
O nástroji
Nástroj funguje jako aukce v reálném čase: poskytovatelé modelů nastavují cenu za token pro každý model, který nabízejí, a uživatel definuje požadavky (konkrétní modely, region, rychlost, minimální kvalitu). Vyhrává nejlevnější nabídka, která splňuje zadané podmínky, a cena je předem omezena stropem (cap) ještě před vygenerováním prvního tokenu – takže požadavek nikdy nestojí víc, než je stanovený limit. Integrace je navržena jako téměř drop-in náhrada za OpenAI/Anthropic API (stačí změnit base URL a API klíč). Mezi funkce patří Auto Router (liquid.auto), který sám vybírá model podle poměru publikovaného skóre kvality (dle Artificial Analysis) a odhadované ceny v rámci nastaveného stropu, dále možnost BYOK (napojení vlastního cloudového API klíče providera, kdy burza účtuje jen svůj poplatek), měsíční rezervace kapacity u jednoho poskytovatele za fixní poplatek, a CLI/MCP integrace pro napojení na coding agenty. Nástroj si dle dokumentace neukládá text promptů ani odpovědí (lze nastavit retention policy), a k dispozici je i veřejná tržní data (kniha nabídek, hloubka trhu). Zpoplatnění funguje tak, že k ceně poskytovatele se přičítá poplatek burzy ve výši vyšší z hodnot 5 % z ceny poskytovatele nebo minimální sazby (floor) za milion tokenů (např. 0,01 USD pro input/output tokeny, 0,001 USD pro cache read). Neúspěšný požadavek bez výstupu se neúčtuje. Nástroj je v angličtině a cílí primárně na technicky zdatné uživatele/vývojáře pracující přes API.
Klíčové vlastnosti
- Aukce v reálném čase mezi poskytovateli LLM modelů
- Cenový strop nastavený před vygenerováním prvního tokenu
- Auto Router volí model podle kvality a ceny
- BYOK – napojení vlastního API klíče providera
Časté dotazy
Co Liquid Inference přesně dělá?
Funguje jako burza, kde poskytovatelé LLM modelů soutěží cenou za token o váš požadavek – vyhrává nejlevnější nabídka splňující zadané podmínky (model, region, rychlost, kvalita), a cena je předem omezena stropem.
Kolik to stojí?
Platíte cenu vítězného poskytovatele plus poplatek burzy ve výši vyšší z hodnot 5 % z ceny poskytovatele nebo minimální sazby (např. 0,01 USD za milion tokenů), neúspěšný požadavek bez výstupu se neúčtuje.
Pro koho je nástroj vhodný a jak začít?
Je určen vývojářům a firmám volajícím LLM přes API – stačí v kódu změnit base URL a API klíč. Nový workspace dostane startovní kredit, takže první požadavky lze poslat bez karty.
Kategorie
AI novinky do e-mailu
Každý pátek 3 vybrané AI nástroje, prompt týdne a to nejdůležitější ze světa AI – přehledně, česky a bez balastu.
Jeden z nejstarších pravidelných českých AI newsletterů.
Podobné nástroje
Hledáte alternativu k Liquid Inference? Tady je 6 podobných nástrojů z kategorie Vývojářské nástroje.
Vectorizer AI
FreemiumPřevádí rastrové obrázky PNG, JPG, GIF, BMP a WebP na vektorové formáty SVG, PDF, EPS a DXF pomo...
Stable Diffusion
FreemiumStability AI je platforma pro generování obrázků, videa a dalšího obsahu pomocí generativní AI,...
Whisper
ZdarmaPřevádí mluvenou řeč na text ve více než 90 jazycích. Whisper je open-source model od OpenAI tré...
AI 만화 번역기
Placeno kreditovým systémem – 1 kredit za model Manga/EagleEye, 2 kredity za model Ultra; konkrétní ceník neuveden.Online nástroj pro překlad textových bublin v manga a komiksových obrázcích pomocí AI – podporuj...
Pinecone
FreemiumPinecone je vektorová databáze jako služba, která umožňuje ukládat, spravovat a prohledávat vekt...
Escape
NeuvedenoEscape je AI-powered platforma pro ofenzivní bezpečnost, která automatizuje discovery, pentestin...
Další nástroje v kategorii Vývojářské nástroje
Nezůstávejte jen u nejoblíbenějších – tohle jsou další nástroje z kategorie Vývojářské nástroje, které stojí za prohlédnutí.
