InternLM

O nástroji

InternLM je řada open-source velkých jazykových modelů (LLM) vyvíjená komunitou InternLM, zahrnující generace InternLM, InternLM2, InternLM2.5 a nejnovější InternLM3. Nejnovější model InternLM3-8B-Instruct má 8 miliard parametrů a je určen pro obecné použití i pokročilé uvažování, přičemž podle dostupných údajů dosahuje lepších výsledků na úkolech zaměřených na uvažování a znalosti než modely Llama3.1-8B a Qwen2.5-7B. Model byl přitom natrénován pouze na 4 bilionech vysoce kvalitních tokenů, což podle informací z dokumentace šetří přes 75 % nákladů na trénink oproti podobně velkým modelům. Nástroj je určen vývojářům a výzkumníkům, kteří potřebují jazykové modely pro chatboty, agenty a další aplikace vyžadující porozumění textu a schopnost uvažování. InternLM3 podporuje jak režim hlubokého uvažování pomocí dlouhého řetězce myšlenek (chain-of-thought), tak běžný režim pro plynulou konverzaci. Modely jsou dostupné v různých velikostech (např. 7B, 20B v generaci InternLM2) a hodnoceny pomocí open-source evaluačního nástroje OpenCompass napříč pěti dimenzemi schopností. Model i kód jsou veřejně dostupné na GitHubu a HuggingFace, takže se jedná o open-source projekt. Nasazení je podporováno přes nástroj LMDeploy, který slouží ke kompresi, nasazení a servírování LLM modelů a nabízí kompatibilitu s OpenAI-style API. Informace o cenách nejsou v dokumentaci uvedeny, dostupnost bezplatné verze rovněž není specifikována.

Klíčové vlastnosti

• Model InternLM3-8B-Instruct s 8 miliardami parametrů
• Podpora hlubokého uvažování pomocí chain-of-thought i běžné konverzace
• Trénink na 4 bilionech vysoce kvalitních tokenů
• Open-source kód a modely na GitHubu a HuggingFace
• Nasazení přes LMDeploy s OpenAI-style API
• Hodnocení výkonu pomocí OpenCompass napříč pěti dimenzemi

Časté dotazy

Kategorie