promptfoo

FreemiumOpen sourceVývojářské nástroje

Nástroj pro automatizované bezpečnostní testování AI aplikací, který odhaluje zranitelnosti jako prompt injection nebo únik dat už ve vývoji.

O nástroji

Promptfoo je platforma pro testování bezpečnosti AI aplikací, agentů a RAG systémů. Simuluje reálné útoky – prompt injection, jailbreaky, únik citlivých dat (PII) či zneužití nástrojů v agentech – a integruje se do CI/CD pipeline (GitHub, GitLab, Jenkins) i vývojářského workflow. Výsledky testů a doporučení k opravě dostávají vývojáři přímo v pull requestech. Nástroj využívá přes 300 000 vývojářů a nasadilo ho 156 firem ze žebříčku Fortune 500, mimo jiné z oblasti maloobchodu, telekomunikací, zdravotnictví a pojišťovnictví. Existuje open source verze dostupná přes příkazovou řádku, k dispozici je i placené enterprise řešení s hlubší automatizací a podporou pro velké organizace. Promptfoo pokrývá více než 50 typů zranitelností a čerpá z threat intelligence komunity přispěvatelů z firem jako OpenAI, Google, Microsoft nebo Amazon. Konkrétní ceny enterprise verze nejsou na webu uvedeny, zájemci si mohou domluvit demo.

Klíčové vlastnosti

Automatizovaný red teaming pro AI agenty a RAG systémy
Simulace prompt injection, jailbreaků a úniku PII
Integrace do CI/CD (GitHub, GitLab, Jenkins)
Pokrytí přes 50 typů zranitelností
Doporučení k opravě přímo v pull requestech
Threat intelligence z komunity 300 000+ uživatelů

Časté dotazy

Co přesně promptfoo testuje?

Simuluje reálné útoky na AI aplikace, agenty a RAG systémy – prompt injection, jailbreaky, únik citlivých dat (PII) i zneužití nástrojů v agentech. Pokrývá přes 50 typů zranitelností a výsledky s doporučením k opravě dostávají vývojáři přímo v pull requestech.

Kolik promptfoo stojí?

Existuje bezplatná open source verze ovládaná přes příkazovou řádku. Placené enterprise řešení nabízí hlubší automatizaci a podporu pro velké organizace, ceny nejsou zveřejněné a je třeba domluvit demo.

Pro koho je promptfoo vhodný a jak začít?

Nástroj využívá přes 300 000 vývojářů a nasadilo ho 156 firem ze žebříčku Fortune 500, například z maloobchodu, telekomunikací, zdravotnictví a pojišťovnictví. Začít lze rovnou příkazem npx promptfoo@latest redteam setup nebo si domluvit demo enterprise verze.

Kategorie

Vývojářské nástroje

AI novinky do e-mailu

Každý pátek 3 vybrané AI nástroje, prompt týdne a to nejdůležitější ze světa AI – přehledně, česky a bez balastu.

Jeden z nejstarších pravidelných českých AI newsletterů.

Podobné nástroje

Hledáte alternativu k promptfoo? Tady je 6 podobných nástrojů z kategorie Vývojářské nástroje.

Vectorizer AI

Freemium

Převádí rastrové obrázky PNG, JPG, GIF, BMP a WebP na vektorové formáty SVG, PDF, EPS a DXF pomo...

Otevřít detail99 %

Stable Diffusion

Freemium

Stability AI je platforma pro generování obrázků, videa a dalšího obsahu pomocí generativní AI,...

API

Otevřít detail99 %

Whisper

Zdarma

Převádí mluvenou řeč na text ve více než 90 jazycích. Whisper je open-source model od OpenAI tré...

API

Otevřít detail99 %

ai

Freemium

Open-source TypeScript SDK od Vercelu pro vývojáře stavějící AI aplikace a agenty s React, Next....

Open sourceAPI

Otevřít detail99 %

Pinecone

Freemium

Pinecone je vektorová databáze jako služba, která umožňuje ukládat, spravovat a prohledávat vekt...

Otevřít detail98 %

Escape

Neuvedeno

Escape je AI-powered platforma pro ofenzivní bezpečnost, která automatizuje discovery, pentestin...

Otevřít detail98 %

Zobrazit všechny alternativy v kategorii Vývojářské nástroje

Další nástroje v kategorii Vývojářské nástroje

Nezůstávejte jen u nejoblíbenějších – tohle jsou další nástroje z kategorie Vývojářské nástroje, které stojí za prohlédnutí.