headroom

O nástroji

Headroom je vrstva pro optimalizaci kontextu určená vývojářům pracujícím s LLM aplikacemi a AI agenty. Funguje jako transparentní proxy bez nutnosti úprav kódu, jako Python knihovna (funkce compress()) nebo jako integrace do frameworků LangChain, Agno, Strands, LiteLLM a MCP. Podle dostupných dat dosahuje průměrné redukce tokenů 87 % při zachování 100% přesnosti odpovědí a podporuje přes 100 LLM poskytovatelů (OpenAI, Anthropic, Google, Bedrock). Nástroj obsahuje šest kompresních algoritmů rozdělených podle typu obsahu — SmartCrusher pro JSON, CodeCompressor pro zdrojový kód (AST-aware pomocí tree-sitter), Kompress pro běžný text (na bázi ModernBERT), LogCompressor pro build/test logy, SearchCompressor pro výsledky vyhledávání a DiffCompressor pro git diffy. Součástí je i CacheAligner, který stabilizuje předpony zpráv pro lepší využití KV cache u poskytovatelů jako Claude. Headroom je dostupný jako open-source projekt (chopratejas/headroom) s instalací přes uv nebo npm, nabízí TypeScript i Python SDK a podporuje wrapování nástrojů jako Claude Code, Cursor, Aider nebo Codex CLI. V dodaných podkladech není uvedena žádná informace o ceně nástroje.

Kategorie