Google AI Edge
Sada nástrojů a SDK od Googlu pro vývojáře, kteří chtějí spouštět AI modely (vč. LLM) přímo v aplikaci na zařízení – mobil, web nebo embedded – bez nutnosti volat server.
O nástroji
Google AI Edge je vývojářská platforma pro nasazení strojového učení a generativní AI přímo na zařízení (on-device), místo spouštění modelů v cloudu. Skládá se z několika částí: MediaPipe nabízí předpřipravené task API pro 22 úloh (rozpoznávání objektů, rukou, pózy, obličeje, klasifikace zvuku, přepis řeči, text-to-speech, detekce jazyka, embedding, sumarizace textu aj.) s podporou Web, Android, iOS, Python a Flutter a akcelerací na CPU/GPU. LiteRT-LM umožňuje spouštět stejný LLM napříč Android, iOS, webem a embedded zařízeními. LiteRT pak slouží k převodu a nasazení vlastních modelů z PyTorch, JAX, TensorFlow nebo Keras s hardwarovou akcelerací na CPU, GPU i NPU. Doplňkové nástroje zahrnují Google AI Edge Portal pro benchmarkování na reálných Android zařízeních, Model Explorer pro vizualizaci a debugování architektury modelů, LiteRT Quantizer pro kvantizaci modelů a aplikaci AI Edge Gallery pro interaktivní vyzkoušení on-device GenAI use-casů (dostupnou i na Google Play). Nástroj je určen primárně vývojářům aplikací, kteří chtějí snížit latenci, umožnit offline fungování a zpracovávat data lokálně bez odesílání na server – stejná technologie pohání např. živý překlad na Pixelu, dynamická pozadí v Google Meet nebo efekty v YouTube Shorts. Dokumentace a rozhraní jsou výhradně v angličtině, SDK se instaluje přes npm, Maven Central, Swift Package Manager, PyPI nebo pub.dev. Jde o open-source technický stack určený pro vývojáře a integraci do vlastních aplikací, nikoliv hotovou koncovou aplikaci pro běžné uživatele.
Klíčové vlastnosti
- 22 task API pro vision, audio a text (MediaPipe)
- Spouštění LLM on-device napříč Android, iOS, webem (LiteRT-LM)
- Převod vlastních modelů z PyTorch, JAX, TensorFlow, Keras
- Hardwarová akcelerace na CPU, GPU i NPU
Časté dotazy
Co přesně Google AI Edge umožňuje?
Umožňuje vývojářům spouštět AI a ML modely, včetně LLM, přímo na zařízení (mobil, web, embedded) bez nutnosti volat server – od předpřipravených úloh jako rozpoznávání objektů až po vlastní modely z PyTorch či TensorFlow.
Kolik stojí používání Google AI Edge?
Jde o open-source SDK a sadu nástrojů, kterou si vývojář zdarma nainstaluje přes npm, Maven Central, Swift Package Manager, PyPI nebo pub.dev.
Pro koho je Google AI Edge určený a jak začít?
Je určen vývojářům aplikací, kteří chtějí snížit latenci a zpracovávat data lokálně – začít lze instalací SDK podle platformy nebo vyzkoušením use-casů v aplikaci AI Edge Gallery na Google Play.
Kategorie
AI novinky do e-mailu
Každý pátek 3 vybrané AI nástroje, prompt týdne a to nejdůležitější ze světa AI – přehledně, česky a bez balastu.
Jeden z nejstarších pravidelných českých AI newsletterů.
Podobné nástroje
Hledáte alternativu k Google AI Edge? Tady je 6 podobných nástrojů z kategorie Vývojářské nástroje.
Vectorizer AI
FreemiumPřevádí rastrové obrázky PNG, JPG, GIF, BMP a WebP na vektorové formáty SVG, PDF, EPS a DXF pomo...
Stable Diffusion
FreemiumStability AI je platforma pro generování obrázků, videa a dalšího obsahu pomocí generativní AI,...
Whisper
ZdarmaPřevádí mluvenou řeč na text ve více než 90 jazycích. Whisper je open-source model od OpenAI tré...
AI 만화 번역기
Placeno kreditovým systémem – 1 kredit za model Manga/EagleEye, 2 kredity za model Ultra; konkrétní ceník neuveden.Online nástroj pro překlad textových bublin v manga a komiksových obrázcích pomocí AI – podporuj...
Pinecone
FreemiumPinecone je vektorová databáze jako služba, která umožňuje ukládat, spravovat a prohledávat vekt...
Escape
NeuvedenoEscape je AI-powered platforma pro ofenzivní bezpečnost, která automatizuje discovery, pentestin...
Další nástroje v kategorii Vývojářské nástroje
Nezůstávejte jen u nejoblíbenějších – tohle jsou další nástroje z kategorie Vývojářské nástroje, které stojí za prohlédnutí.
