HungryGPU

O nástroji

HungryGPU denně prochází mergnuté pull requesty, vydání modelů s otevřenými vahami, komunitní setupy (recepty) a arXiv papery a každou položku označuje štítkem podle toho, kterým konkrétním strojům pomáhá a které naopak nechává bez podpory. Po výběru vlastního zařízení (lze zvolit i více strojů najednou) uživatel vidí jen to, co se týká jeho konfigurace – včetně „compatibility exclusions“, tedy změn, které jeho hardware explicitně vynechávají. U každého tvrzení o kompatibilitě je uvedený důkaz (konkrétní řádek diffu), odhad paměťových nároků je čistě aritmetický (váhy × bajty × 1.2 při 4bit kvantizaci) a nejasné případy jsou označeny jako „unknown“, nikdy jako kompatibilní nebo nekompatibilní natvrdo. Dále nástroj nabízí srovnávací grafy: velikost modelu vs. naměřená rychlost dekódování (jen reálně odměřené komunitní běhy, ne odhady), přehled používaných enginů (např. vLLM vs. llama.cpp) a technik dle typu stroje, žebříček rekordů v tok/s, i statistiky aktivity přispěvatelů v čase. K dispozici je také API s funkcemi jako can_i_run, find_setups, records, machines, submit_run nebo propose pro automatizované dotazování a přidávání vlastních naměřených výsledků. Nástroj je v angličtině a cílí na lidi, kteří lokálně provozují LLM na specifickém hardwaru a chtějí vědět, co nového je pro ně relevantní, místo aby procházeli obecné changelogy.

Klíčové vlastnosti

• Štítkuje novinky podle konkrétního GPU a hardwaru uživatele
• Zobrazuje compatibility exclusions – co stroj nepodporuje
• U každého tvrzení uvádí důkaz z konkrétního řádku diffu
• Aritmetický odhad paměťových nároků modelu při kvantizaci

Časté dotazy

Kategorie

Další nástroje v kategorii Vývojářské nástroje

Nezůstávejte jen u nejoblíbenějších – tohle jsou další nástroje z kategorie Vývojářské nástroje, které stojí za prohlédnutí.

• 
  Hyperbrowser

  Freemium
  29 %
• 
  ida-pro-mcp

  Zdarma
  51 %
• 
  iii

  „“
  61 %
• 
  Imagera Code

  Placené
  1 %
• 
  IMG2HTML

  Freemium
  43 %