runanywhere-sdks

O nástroji

RunAnywhere je výzkumná laboratoř zaměřená na on-device inferenci, která ručně píše GPU a NPU kernely pro spotřebitelský hardware (Apple Silicon přes engine MetalRT, Qualcomm Hexagon NPU přes QHexRT) a nad nimi staví jednotné C++ jádro runanywhere-core. Toto jádro řeší inferenci, správu modelů, routing i telemetrii a je sdílené napříč všemi platformami. Nad jádrem nabízí šest open-source SDK s tenkými bindingy pro Swift, Kotlin, React Native, Flutter, TypeScript a C++, takže vývojáři mohou spouštět stejné modely se stejným API a výkonem na iOS, Androidu, macOS, Windows, Linuxu, webu i embedded zařízeních. SDK pokrývají generování textu, přepis řeči, syntézu hlasu, detekci řeči i vícejazyčné vision-language modely, přičemž automaticky směrují výpočet na nejvhodnější engine daného zařízení (Core ML, WebGPU, llama.cpp jako fallback, Hexagon NPU). Firma je podpořena Y Combinatorem a nabízí i hostovanou konzoli pro OTA aktualizace modelů a správu flotily zařízení. Ceny za konzoli nebo enterprise podporu nejsou na webu uvedeny, zmíněna je pouze částka 2 dolary v kontextu jednoho z blogových příspěvků, nikoli jako oficiální ceník produktu.

Klíčové vlastnosti

• Ručně psané GPU/NPU kernely pro Apple Silicon a Qualcomm Hexagon
• Jednotné C++ jádro pro inferenci, správu modelů a routing
• Šest open-source SDK: Swift, Kotlin, React Native, Flutter, TypeScript, C++
• Podpora generování textu, přepisu řeči, syntézy hlasu i vision-language modelů
• Automatické směrování výpočtu na nejvhodnější engine zařízení
• Hostovaná konzole pro OTA aktualizace modelů a správu flotily zařízení

Časté dotazy

Kategorie