默认上下文长度是4K tokens。该框架支撑中文、法语等11种言语，公司能够正在 LLMs 之前摆设该层，，支撑苹果电脑跑当地大模子。