Běžný chatbot odpovídá z toho, co se naučil při trénování. Když se ho zeptáte na vnitřní směrnici firmy, aktuální ceník nebo obsah manuálu k vašemu produktu, nemá šanci – tahle data prostě nezná. Řešením je chatbot, který si místo obecných znalostí bere odpovědi z dokumentů, které mu sami dáte: PDF, webové stránky, interní wiki.
Jak chatbot s vlastními zdroji vlastně funguje
Technika, která za tím stojí, se jmenuje RAG – retrieval-augmented generation. Princip je jednoduchý: dokumenty se nejdřív rozsekají na menší kusy (chunky), ty se převedou do vektorové podoby a uloží do databáze. Když pak položíte dotaz, systém najde pasáže, které se tématem nejvíc blíží, a teprve ty spolu s vaší otázkou pošle jazykovému modelu k sestavení odpovědi, jak popisuje dokumentace Quarkus LangChain4j.
Výhoda je zřejmá. Model nemusí nic znát předem – stačí mu dodat správný kontext v okamžiku dotazu. Podle DX Heroes to znamená, že odpovědi jsou aktuálnější, přesnější a míň náchylné k vymýšlení si faktů, protože model pracuje s konkrétním, kurátorovaným textem místo s rozmazanou pamětí z trénování. Prakticky to pro vás znamená, že nemusíte nic programovat na vektorové databázi sami. Nástroje popsané níž tohle dělají automaticky, vy jen nahrajete soubory nebo zadáte adresu webu.
Jak nahrát PDF do chatbota
Nejrychlejší cesta vede přes vlastní GPT v ChatGPT. V konfiguraci GPT najdete sekci „Knowledge“ na stránce Configure a tlačítko „Upload files“ – nahrajete tam PDF, Word, prostý text, Markdown, PowerPoint nebo tabulky, podle návodu cu-2.com. Ke GPT jde jako znalost přiložit až dvacet souborů, s omezením velikosti jednotlivého souboru i limity pro uživatele a organizaci, jak upřesňuje nápověda OpenAI.
Do pasti padne skoro každý: skenované PDF jsou z pohledu modelu obrázek, ne text. Model z nich nedokáže spolehlivě číst stejně jako z textového PDF, upozorňuje cu-2.com. Pokud máte naskenované smlouvy nebo staré dokumenty, převeďte je napřed na text pomocí OCR.
Pokud se obsah dokumentů mění často – třeba aktuální ceník nebo stav skladu – nahrávání souboru není ideální řešení. Diskuze na fóru OpenAI doporučuje v takovém případě místo přímého nahrání souboru napojit GPT přes Action na externí zdroj, odkud si aktuální data stahuje za běhu. Pro statickou dokumentaci přímé nahrání do Knowledge stačí a je rychlejší na vyhledávání. Obsah se jen vyplatí rozdělit do menších souborů, ne do jednoho obřího PDF.
NotebookLM a Claude Projects: alternativy k vlastnímu GPT
Pokud nechcete stavět vlastního GPT a stačí vám nástroj na práci s dokumenty, podívejte se na Google NotebookLM. Místo obecného chatování se ptáte přímo nad materiály, které sami vložíte – PDF, dokumenty, weby nebo videa, jak popisuje testnuto.cz. Bezplatná verze umožňuje nahrát do jednoho sešitu až 50 zdrojů, každý s limitem do 500 000 slov nebo 200 MB u lokálních souborů, podle stejného zdroje. Zajímavá vlastnost navíc je, že NotebookLM u odpovědí uvádí přesné citace, odkud informaci vzal – jakselepeucit.cz to označuje za hlavní rozdíl oproti běžným chatbotům. Ačkoliv NotebookLM umí přijmout web přímo přes URL, u PDF to podle ucimsai.cz nefunguje vždycky spolehlivě. Jistější je PDF nejdřív stáhnout do počítače a nahrát ručně.
Claude nabízí podobnou funkci pod názvem Projects. Do projektu nahrajete dokumenty – PDF, DOCX, CSV, TXT, HTML – a Claude je zohledňuje při každé konverzaci v rámci daného projektu, vysvětluje Claude Academy. U větších znalostních bází přepíná automaticky na RAG, aby zvládl pracovat s větším množstvím kontextu. Drobný, ale užitečný tip: Claude při vyhledávání využívá i název souboru, takže popisný „Q4-2024-Brand-Guidelines.pdf“ najde relevantnější pasáže než anonymní „document1.pdf“, radí note.com. Projects jsou dostupné i na bezplatném účtu, byť s omezením na pět projektů podle nápovědy Claude.
Chatbot pro návštěvníky webu: PDF i obsah stránek dohromady
Jiná situace nastává, když chcete chatbota přímo na firemním webu, aby odpovídal zákazníkům na otázky k produktům, dodacím lhůtám nebo reklamacím. Tady už nejde jen o vlastní práci s dokumenty, ale o nasazení widgetu, který bude bez návodu používat někdo jiný.
Platformy jako Chatbase umožňují vytvořit takového bota bez programování: nahrajete dokumenty, vložíte URL webu, nebo ho propojíte s Notion či Zendeskem, popisuje recenze na Botpress blogu. Podporuje desítky jazykových modelů a nasazuje se nejen na web, ale i na WhatsApp, Messenger, Instagram nebo Slack. Obsah může mít formu PDF, Word dokumentu, webové stránky i čistého textu, doplňuje herothemes.com.
Z katalogu ejaj.cz se podobnému zadání blíží Chatsimple a jeho odnož zaměřená na firmy Expertise AI – obě staví na principu nahrání vlastního obsahu a nasazení widgetu na web.
Pro přímočařejší správu znalostní báze a konverzací se hodí Chatbotkit. Pokud řešíte spíš technickou implementaci nad PDF dokumenty s vlastním kódem, podívejte se na AI PDF Chatbot LangChain – ukazuje, jak RAG postavit od základu.
Kdo má vlastní vývojářský tým a chce maximální kontrolu nad daty, může sáhnout po open-source řešení jako Botpress. Lze ho self-hostovat na vlastním serveru, takže dokumenty nikdy neopustí firemní infrastrukturu, a napojuje se na strukturované zdroje typu weby nebo dokumenty pro kontextově přesné odpovědi, popisuje unite.ai. Podporuje i nasazení napříč kanály – WhatsApp, Slack, Instagram, web.
Jak otestovat, že chatbot odpovídá správně
Nahrát dokumenty je jen polovina práce. Druhá polovina je ověřit, že bot skutečně čerpá z nich, a ne si odpovědi domýšlí. Nejspolehlivější metoda je sestavit sadu „known-answer“ otázek – takových, u kterých přesně víte, co je ve zdrojovém dokumentu napsáno. Položíte je botovi a porovnáte odpověď se zdrojem. Cokoliv, co bot tvrdí a co v dokumentu není, je halucinace, shrnuje ContextQA.
Stejný zdroj doporučuje sledovat čtyři konkrétní ukazatele: přesnost rozpoznání záměru dotazu, podíl případů vyřešených bez nutnosti předat konverzaci člověku, míru halucinací u ukotvených otázek a úspěšnost fallbacku, tedy jak bot reaguje, když odpověď nezná. Místo vanitních metrik typu počet konverzací dávají tahle čísla skutečný obraz toho, kde bot selhává.
Testovací sadu se vyplatí rozdělit do tří skupin. První jsou přímé faktické dotazy se zjistitelnou odpovědí. Druhá jsou otázky mimo znalostní bázi, kde ověřujete, jestli bot přizná, že neví, místo aby si vymyslel odpověď. Třetí jsou víceotázkové konverzace, kde se téma mění v průběhu – reální uživatelé totiž píšou věci, které žádný scénář nepředpokládal, a to se pozná až v produkčním provozu, připomíná ContextQA.
Než bota pustíte na ostrý provoz, vyzkoušejte si s ním sami běžnou komunikaci a sledujte, jak reaguje na různé formulace stejného dotazu, radí i Wingbot. Pokud plánujete A/B test dvou verzí bota, neměřte jen to, kolik lidí chat použilo. Chatreact doporučuje sledovat podíl doložitelných odpovědí, úspěšnost na pevné sadě testovacích otázek (takzvaný Golden Set) a to, jak často bot bezpečně přizná mezeru ve znalostech místo vymýšlení.
Nejčastější chyby při stavbě vlastního chatbota
Jedna obří PDF místo deseti menších. Čím větší jeden soubor, tím hůř se v něm hledají relevantní pasáže – rozdělení obsahu do menších, tematicky uzavřených dokumentů zlepšuje přesnost vyhledávání, zmiňuje diskuze na fóru OpenAI. Druhá chyba je nahrát skenované dokumenty bez OCR a čekat, že z nich bot umí číst. Třetí, a možná nejčastější: nasadit bota na web bez jediného testu a nechat první testování na reálných zákaznících.
Chatbot nad vlastními daty se hodí i jako interní nástroj pro zaměstnance, kteří se ptají na směrnice, místo aby hledali v desítkách PDF na sdíleném disku. Princip je stejný, jen cílová skupina je jiná. Pro firmy řešící podporu zákazníků dává smysl zkombinovat takového bota s přehledem nástrojů v kategorii zákaznická podpora. A pokud vás zajímá obecnější práce s AI nástroji pro vyhledávání odpovědí, podívejte se do kategorie dotazy do AI.
Musím umět programovat, abych chatbota s PDF nastavil?
Ne. Nástroje jako vlastní GPT v ChatGPT, NotebookLM, Claude Projects nebo Chatsimple fungují na principu nahrání souboru přes formulář. Programování potřebujete jen u řešení typu LangChain, kde stavíte RAG od základu, nebo u self-hostovaného Botpressu.
Proč chatbot ignoruje část mého PDF?
Nejčastěji jde o skenovaný dokument bez rozpoznatelného textu, nebo o příliš velký soubor, kde vyhledávání najde jen část relevantních pasáží. Zkuste dokument rozdělit na menší celky a ověřit, že obsahuje skutečný text, ne jen obrázek stránky.
Jak poznám, že bot halucinuje, a ne jen odpovídá volněji?
Položte mu otázku, na kterou přesně znáte odpověď ze zdrojového dokumentu, a porovnejte. Pokud tvrdí něco, co ve zdroji není, je to halucinace.
Dá se chatbot napojit na web, který se denně mění?
Přímé nahrání obsahu stránky jako statického souboru se pro často měněný obsah nehodí. Řešením je napojení přes API nebo pravidelné obnovení zdroje, u Chatbase a podobných platforem jde o standardní funkci.
Kolik testovacích otázek na chatbota vlastně potřebuju?
Záleží na rozsahu znalostní báze, ale základ tvoří tři skupiny otázek: faktické dotazy se známou odpovědí, dotazy mimo znalostní bázi (test fallbacku) a víceotázkové konverzace. Čím víc otázek z reálného provozu do sady časem přidáte, tím spolehlivější obrázek o kvalitě bota získáte.
Jde chatbota napojit na Google Drive nebo jiné úložiště místo ručního nahrávání?
U Claude Projects ano – lze se propojit s Google Drive a odkazovat na dokumenty přímo odtud, bez ručního uploadu. U jiných nástrojů se propojení liší podle konkrétní platformy, u Chatbase jde napojit třeba Notion nebo Zendesk.