ms-swift

O nástroji

ms-swift je open-source vývojový nástroj (dokumentace v čínštině) určený pro předtrénování, fine-tuning (včetně LoRA), slučování LoRA vah, kvantizaci, inferenci a nasazení velkých jazykových a multimodálních modelů. Podporuje širokou škálu modelů a datových sad, integraci s Megatron-SWIFT pro distribuované trénování, Ray pro škálování a různé hardwarové platformy včetně Ascend NPU, Metax a AMD GPU. Nástroj dále nabízí funkce jako GRPO, DPO, RM, PPO, KTO, CPO, ORPO a SimPO pro zarovnání modelů s lidskými preferencemi (human alignment), podporu agentů (Agent) s formátem nástrojů (tools) a loss_scale, evaluaci modelů, výsledné vzorkování s PRM/ORM filtrací a znalostní destilaci (Knowledge Distillation). Dokumentace obsahuje podrobné návody, referenční příklady best practices pro konkrétní modely (např. Qwen3, DeepSeek-V4) a popis parametrů příkazové řádky pro trénování i nasazení. Jde o vývojářský nástroj zaměřený na technické uživatele a výzkumníky v oblasti strojového učení, nikoliv o webovou aplikaci s uživatelským rozhraním. Informace o ceně nebyly v dokumentaci uvedeny, projekt je však součástí open-source ekosystému.

Kategorie