promptfoo
Nástroj pro automatizované bezpečnostní testování AI aplikací, který odhaluje zranitelnosti jako prompt injection nebo únik dat už ve vývoji.
O nástroji
Promptfoo je platforma pro testování bezpečnosti AI aplikací, agentů a RAG systémů. Simuluje reálné útoky – prompt injection, jailbreaky, únik citlivých dat (PII) či zneužití nástrojů v agentech – a integruje se do CI/CD pipeline (GitHub, GitLab, Jenkins) i vývojářského workflow. Výsledky testů a doporučení k opravě dostávají vývojáři přímo v pull requestech. Nástroj využívá přes 300 000 vývojářů a nasadilo ho 156 firem ze žebříčku Fortune 500, mimo jiné z oblasti maloobchodu, telekomunikací, zdravotnictví a pojišťovnictví. Existuje open source verze dostupná přes příkazovou řádku, k dispozici je i placené enterprise řešení s hlubší automatizací a podporou pro velké organizace. Promptfoo pokrývá více než 50 typů zranitelností a čerpá z threat intelligence komunity přispěvatelů z firem jako OpenAI, Google, Microsoft nebo Amazon. Konkrétní ceny enterprise verze nejsou na webu uvedeny, zájemci si mohou domluvit demo.
Kategorie
AI novinky do e-mailu
Každý pátek 3 vybrané AI nástroje, prompt týdne a to nejdůležitější ze světa AI — přehledně, česky a bez balastu.
Jeden z nejstarších pravidelných českých AI newsletterů.
Podobné nástroje
Hledáte alternativu k promptfoo? Tady je 6 podobných nástrojů z kategorie Vývojářské nástroje.
Vectorizer AI
FreemiumPřevádí rastrové obrázky PNG, JPG, GIF, BMP a WebP na vektorové formáty SVG, PDF, EPS a DXF pomo...
Stable Diffusion
FreemiumStability AI je platforma pro generování obrázků, videa a dalšího obsahu pomocí generativní AI,...
Whisper
ZdarmaPřevádí mluvenou řeč na text ve více než 90 jazycích. Whisper je open-source model od OpenAI tré...
Escape
NeuvedenoEscape je AI-powered platforma pro ofenzivní bezpečnost, která automatizuje discovery, pentestin...
Pinecone
FreemiumPinecone je vektorová databáze jako služba, která umožňuje ukládat, spravovat a prohledávat vekt...
MarsAi
ZdarmaMarsX je vývojářská platforma, která kombinuje AI, NoCode, kód a MicroApps pro rychlé budování S...