gorilla

O nástroji

Gorilla je výzkumný projekt UC Berkeley zaměřený na velké jazykové modely propojené s množstvím API. Model dokáže generovat volání funkcí a API na základě uživatelského dotazu a umožňuje LLM interagovat s externími službami. Součástí projektu je i Berkeley Function-Calling Leaderboard (BFCL), který srovnává schopnosti různých LLM ve volání funkcí na 2000 otázkách v jazycích Python, Java, JavaScript a REST API. K dispozici je model Gorilla OpenFunctions-v2 s 6,91 miliardami parametrů, dostupný na HuggingFace, který podporuje paralelní i vícenásobná volání funkcí. Model je licencován pod Apache 2.0, což umožňuje komerční využití bez omezení. Projekt dále nabízí RAFT (Retriever-Aware FineTuning) pro doladění modelů na RAG úlohy a GoEX, runtime pro spouštění akcí generovaných LLM (kód, API volání) s mechanismy „undo“ a „damage confinement“ pro omezení rizik. Gorilla je dostupná i jako CLI nástroj (instalace přes pip install gorilla-cli) a jako Spotlight Search integrace. Kód a modely jsou volně dostupné na GitHubu a HuggingFace, projekt je plně open-source a vyvíjený komunitou, která může přispívat vlastními API.

Kategorie