Sagify

O nástroji

Sagify je open-source CLI nástroj, který umožňuje trénovat a nasazovat modely strojového učení a velké jazykové modely (LLM) na AWS SageMakeru bez nutnosti psát složitou infrastrukturní konfiguraci. Podporuje klasické ML workflow (inicializace, build Docker image, trénování, nasazení, hyperparametrická optimalizace) i LLM workflow s možností napojení na OpenAI, Anthropic nebo open-source modely prostřednictvím FastAPI LLM Gateway. Nástroj pokrývá celý životní cyklus ML projektu: od lokálního trénování a testování přes push Docker image do AWS ECR, nahrání dat do S3, až po spuštění trénování a nasazení REST endpointu na SageMakeru. Pro LLM scénáře nabízí také batch inference a generování embeddingů. Sagify je určen vývojářům a datovým inženýrům, kteří chtějí rychle nasadit ML nebo LLM řešení do cloudu AWS bez hlubokých znalostí SageMaker API. Díky Docker-based přístupu a CLI rozhraní lze celý pipeline automatizovat a integrovat do CI/CD procesů.

Klíčové vlastnosti

• Trénování vlastních ML modelů na AWS SageMakeru přes CLI příkazy
• Nasazení LLM s podporou OpenAI, Anthropic a open-source modelů
• FastAPI LLM Gateway s Docker deploymentem pro RESTful inference
• Hyperparametrická optimalizace modelů na AWS SageMakeru
• Batch inference a generování embeddingů pro LLM
• Lokální trénování a nasazení pro testování před odesláním do cloudu

Časté dotazy

Kategorie

Štítky

Sociální sítě