PromptUnit

O nástroji

Nástroj se zapojí mezi vaši aplikaci a AI poskytovatele – stačí v nastavení změnit dvě proměnné (OPENAI_BASE_URL a API klíč), kód, SDK ani formát odpovědí se nemění. PromptUnit klasifikuje každý požadavek podle 10 dimenzí (typ úlohy, složitost promptu, délka kontextu, požadovaný formát výstupu, přítomnost tool calls apod.) a vybere nejlevnější model z vašeho setu, který splní nastavenou kvalitativní laťku. Prahy se každou noc automaticky upravují podle posledních 7 dní provozu – typy požadavků s dobrým skóre a nízkou mírou opakování dostanou nižší laťku, takže levnější modely projdou častěji. Součástí je i cost observability: každý požadavek je volitelně možné otagovat hlavičkou x-promptunit-feature a sledovat tak náklady po jednotlivých funkcích či featurách aplikace, nejen souhrnně jako v OpenAI dashboardu. Cílovka jsou vývojáři a firmy provozující AI produkty s vyšším objemem jednoduchých volání (tagování ticketů, extrakce z e-mailů, krátká shrnutí), kde se vyplatí neposílat vše na vlajkový model typu GPT-4o. Registrace je zdarma bez kreditní karty, prvních 5 USD úspor je k dispozici zdarma, poté se platí 20 % z reálně ušetřené částky – jde tedy o model založený na sdílení úspor, nikoli pevný paušál.

Klíčové vlastnosti

• Automatické přesměrování požadavků na nejlevnější vyhovující model
• Klasifikace dotazu podle 10 signálních dimenzí
• Napojení přes 2 proměnné bez změny kódu
• Sledování nákladů po jednotlivých funkcích přes hlavičku x-promptunit-feature

Časté dotazy

Kategorie

Další nástroje v kategorii Vývojářské nástroje

Nezůstávejte jen u nejoblíbenějších – tohle jsou další nástroje z kategorie Vývojářské nástroje, které stojí za prohlédnutí.

• 
  Pronto

  Freemium
  1 %
• 
  puck

  Open-source editor zdarma (MIT), placená Puck Cloud bez zveřejněného ceníku
  55 %
• 
  pwnagotchi

  Zdarma
  56 %
• 
  pydantic-ai

  Open-source Python framework zdarma k instalaci (uv add pydantic-ai)
  56 %
• 
  QA.tech

  Placené
  36 %