PromptGuard
Bezpečnostní firewall pro LLM aplikace a firemní AI provoz, který v reálném čase blokuje prompt injection, jailbreaky, únik PII a citlivých dat (API klíčů, secrets) ještě před tím, než se dostanou k modelu. Hodí se vývojářům nasazujícím AI produkty i firmám, které potřebují hlídat, co zaměstnanci posílají do ChatGPT a dalších nástrojů.
O nástroji
PromptGuard funguje jako bezpečnostní vrstva před LLM – analyzuje požadavky pomocí 15 detektorů napříč 6 vrstvami detekce (10 vždy zapnutých, 5 volitelných), založených na přibližně 1000+ vzorech útoků: prompt injection, jailbreaky (např. styl „DAN“), vyhledávání PII a jejich redakce (46 typů dat včetně finančních a zdravotnických identifikátorů s reverzibilní tokenizací), únik dat, toxicita, podvody, únik API klíčů a secrets, malware, filtrování URL a validace tool-call volání u AI agentů. Umí odhalit i obfuskační triky typu záměny latinky za cyrilici/řečtinu nebo vkládání neviditelných znaků (zero-width space/joiner) do slov, aby obešly běžné signature-based filtry. Nasadit lze jako API/proxy (OpenAI-kompatibilní gateway), formou self-hosted nasazení ve vlastním VPC, nebo zcela air-gapped bez připojení k síti – vhodné i pro přísně regulovaná prostředí. Pro ochranu koncových zaměstnanců nabízí browser extension a agenta pro macOS/Windows s on-device blokováním secrets a redakcí PII, včetně MDM a fleet enrollmentu. Cenově start je zdarma s $5 kreditu měsíčně bez nutnosti platební karty, Developer plán stojí $20/měsíc (s $20 kreditu, dál se platí dle spotřeby), Team plán $24/seat/měsíc ($8 kreditu na seat), Enterprise od $50/seat/měsíc ročně (min. 25 seatů) s plně air-gapped nasazením a vlastní podporou. Rozhraní stránky i celý produkt je pouze v angličtině.
Klíčové vlastnosti
- 15 detektorů napříč 6 vrstvami ochrany
- blokace prompt injection a jailbreaků typu DAN
- redakce 46 typů PII vč. finančních a zdravotnických dat
- detekce homoglyfů a zero-width znaků v textu
Časté dotazy
Co přesně PromptGuard umí zachytit?
Analyzuje požadavky 15 detektory a blokuje prompt injection, jailbreaky, únik PII a firemních dat, API klíčů i malware, včetně obfuskace pomocí záměny písmen za cyrilici nebo neviditelných znaků.
Kolik PromptGuard stojí?
Start je zdarma s $5 kreditu měsíčně bez karty, Developer plán $20/měsíc, Team $24/seat/měsíc, Enterprise od $50/seat/měsíc ročně s plně air-gapped nasazením.
Pro koho je PromptGuard určený a jak začít?
Hodí se vývojářům nasazujícím AI produkty i firmám kontrolujícím, co zaměstnanci posílají do ChatGPT a podobných nástrojů. Stačí se zaregistrovat zdarma a nasadit lze během pár minut jako API gateway nebo rozšíření prohlížeče.
Kategorie
AI novinky do e-mailu
Každý pátek 3 vybrané AI nástroje, prompt týdne a to nejdůležitější ze světa AI – přehledně, česky a bez balastu.
Jeden z nejstarších pravidelných českých AI newsletterů.
Podobné nástroje
Hledáte alternativu k PromptGuard? Tady je 6 podobných nástrojů z kategorie Vývojářské nástroje.
Vectorizer AI
FreemiumPřevádí rastrové obrázky PNG, JPG, GIF, BMP a WebP na vektorové formáty SVG, PDF, EPS a DXF pomo...
Stable Diffusion
FreemiumStability AI je platforma pro generování obrázků, videa a dalšího obsahu pomocí generativní AI,...
Whisper
ZdarmaPřevádí mluvenou řeč na text ve více než 90 jazycích. Whisper je open-source model od OpenAI tré...
AI 만화 번역기
Placeno kreditovým systémem – 1 kredit za model Manga/EagleEye, 2 kredity za model Ultra; konkrétní ceník neuveden.Online nástroj pro překlad textových bublin v manga a komiksových obrázcích pomocí AI – podporuj...
Pinecone
FreemiumPinecone je vektorová databáze jako služba, která umožňuje ukládat, spravovat a prohledávat vekt...
Escape
NeuvedenoEscape je AI-powered platforma pro ofenzivní bezpečnost, která automatizuje discovery, pentestin...
Další nástroje v kategorii Vývojářské nástroje
Nezůstávejte jen u nejoblíbenějších – tohle jsou další nástroje z kategorie Vývojářské nástroje, které stojí za prohlédnutí.
