agents

O nástroji

LiveKit Agents umožňuje vývojářům stavět programovatelné, multimodální AI agenty, kteří orchestrují LLM a další AI modely pro splnění úkolů – od hlasových asistentů přes call centra a telemedicínu až po real-time překlad, NPC ve hrách nebo robotiku. Agenti běží jako stateful, dlouhotrvající procesy a připojují se k LiveKit síti přes WebRTC, což zajišťuje nízkou latenci při přenosu médií a dat s frontend aplikacemi. Framework podporuje pluginy pro LLM, STT, TTS a VAD, obsahuje zabudované plánování úloh, load balancing a telefonní integraci přes LiveKit SIP, díky které mohou agenti volat i přijímat hovory. Instalace probíhá přes pip (`pip install livekit-agents`) s dodatečnými pluginy podle potřeby, například `pip install livekit-plugins-deepgram`. Samotný framework a LiveKit media server jsou open source (Apache 2.0) a lze je provozovat na vlastní infrastruktuře zdarma. LiveKit Cloud pak nabízí placené tarify (Build, Ship, Scale, Enterprise) s účtováním podle minut agent-session, konkrétně $0,01 za minutu, nezávisle na použitém LLM/STT/TTS modelu.

Klíčové vlastnosti

• Pluginy pro LLM, STT, TTS a VAD
• Telefonní integrace přes LiveKit SIP pro volání a příjem hovorů
• Nízká latence díky přenosu přes WebRTC
• Zabudované plánování úloh a load balancing
• Stateful dlouhotrvající agent procesy
• Podpora Pythonu i Node.js

Časté dotazy

Kategorie