langchain4j

O nástroji

LangChain4j je idiomatická open-source knihovna pro Java/JVM vývojáře, kteří chtějí do svých aplikací integrovat jazykové modely. Nabízí jednotné API nad více než dvaceti populárními LLM poskytovateli a přes třicítkou embedding stores, takže vývojáři nejsou vázáni na jednoho konkrétního poskytovatele. Integruje se s běžnými Java frameworky jako Quarkus, Spring Boot, Helidon a Micronaut. Nástroj funguje na dvou úrovních abstrakce – nízkoúrovňové primitivy (ChatModel, EmbeddingStore a další) pro detailní kontrolu a vysokoúrovňové AI Services, které skrývají komplexitu implementace. Toolbox obsahuje prompt templating, správu chat memory, function calling i vzory jako Agents a RAG (Retrieval-Augmented Generation). K dispozici je také MCP klient (langchain4j-mcp) pro připojení k MCP serverům a podpora importu dokumentů (TXT, PDF, DOC, PPT, XLS) z různých zdrojů, například souborového systému, GitHub, Azure Blob Storage nebo Amazon S3. Knihovna je licencována pod Apache 2.0 a je dostupná zdarma přes Maven Central (dev.langchain4j:langchain4j). Podporuje i lokální modely přes Ollama a JLama, takže lze pracovat i bez placených cloudových API. Náklady mohou vzniknout pouze při použití připojených komerčních LLM poskytovatelů, jako je OpenAI nebo Google Vertex AI.

Klíčové vlastnosti

• Jednotné API nad více než 20 LLM poskytovateli
• Přes 30 podporovaných embedding stores
• Integrace s Quarkus, Spring Boot, Helidon a Micronaut
• AI Services pro vysokoúrovňové skrytí komplexity
• Podpora RAG, function calling a chat memory
• MCP klient pro připojení k MCP serverům

Časté dotazy

Kategorie