Mirai

O nástroji

Mirai Labs vyvíjí uzu, Rust inference engine pro iPhone, iPad a Mac, spolu s 4bitovými a 8bitovými modely (Qwen, LFM, Muse-Glimmer, d3-flash), které firma benchmarkuje proti MLX a llama.cpp. Cílem je spouštět AI přímo na zařízení s minimální latencí, plnou ochranou dat uživatele a bez nákladů na cloudovou inferenci. Součástí nabídky je i lalamo, sada nástrojů pro optimalizaci a konverzi modelů pro on-device nasazení, a cli pro chatování s modely a jejich servírování jako lokální API. Vývojáři mohou nástroj integrovat pomocí Python, Swift, TypeScript nebo Rust snippetů, aniž by potřebovali vlastní ML tým – podle výrobce stačí jednomu vývojáři pár minut na rozjezd. Knihovny uzu a lalamo jsou open source pod MIT licencí a zdarma k použití, podporovaná jsou aktuálně pouze zařízení s Apple Silicon. Na Hugging Face mají modely přes 65 tisíc stažení a uzu na GitHubu přes 3,3 tisíce hvězd. Firmu založili v roce 2024 v Londýně zakladatelé Reface a Prisma, Mirai získala 10 milionů dolarů seed investice vedené Uncork Capital.

Klíčové vlastnosti

• Inference modelů přímo na iPhonu, iPadu a Macu
• 4bitové a 8bitové modely Qwen, LFM, Muse-Glimmer, d3-flash
• Rust engine uzu benchmarkovaný proti MLX a llama.cpp
• Sada lalamo pro konverzi a optimalizaci modelů

Časté dotazy

Kategorie

Další nástroje v kategorii Vývojářské nástroje

Nezůstávejte jen u nejoblíbenějších – tohle jsou další nástroje z kategorie Vývojářské nástroje, které stojí za prohlédnutí.

• 
  Mirrors

  Cena na vyžádání
  1 %
• 
  Mistral AI

  Freemium
  37 %
• 
  mistral-inference

  Neuvedeno
  54 %
• 
  Mixo.io

  Freemium
  92 %
• 
  MixPeek

  Freemium
  77 %