主权模型
以工程能力决定专业度
端侧可承载的参数规模有限，专业度依靠工程方法实现：向下对主流基座做 Day0+ 适配（新版本发布当日即可接入），向上面向岗位任务微调专项小模型，以投机解码提升端侧推理速度，再由场景选型确定每项任务的模型与运行位置。模型在企业自身设备上运行，专业能力作为企业资产积累。
模型适配优化
- Day0+
多基座快速适配支持 Qwen、DeepSeek、GLM 等主流基座，不绑定单一基座，基座更新可及时接入专业链路。
- SFT
垂域微调与 LoRA 高效适配以法税财专项语料与专家标注做领域微调，派生岗位专项小模型；LoRA（低秩适配）降低微调的算力成本。
- 4/8bit
量化部署以 4bit / 8bit 精度压缩模型体积，在端侧算力与内存预算内完成专业推理。
- SPEC
投机解码加速支持 MTP、DFlash、DSpark：草稿机制一次提出多个候选词元，主模型并行验证，输出一致、速度成倍提升。
- RAG
私域增强与长期记忆私域语料清洗注入（RAG，检索增强生成），以 MCP（模型上下文协议）接入业务系统，项目上下文沉淀为长期记忆。
场景选型
选型的四项依据数据敏感度时延要求模型规模成本
三类投机解码技术的支持
端侧解码受内存带宽限制：模型逐个词元生成，每一步都要读取全部权重。投机解码（Speculative Decoding）先由轻量草稿机制一次提出多个候选词元，再由主模型一次并行验证，只保留与主模型一致的部分；输出不变，速度可获数倍提升。罗拉模型体系支持三类主流方案。
MTP多令牌预测Multi-Token Prediction
以与主模型联合训练的预测头，基于当前隐藏状态提前起草后续词元；预测头随权重内置时几乎不增加显存占用。
适用：内置 MTP 头的基座 · 显存紧张的端侧设备
DFlash块扩散草稿Block Diffusion Drafting
轻量块扩散草稿模型以主模型上下文特征为条件，一次前向并行生成整块草稿；草稿模型可针对不同目标模型分别训练。
适用：多种基座与推理框架 · 长文本生成
DSpark置信度调度投机解码Confidence-Scheduled · Semi-Autoregressive
半自回归草稿器保持块内词元依赖；验证阶段按每个请求的置信度动态决定验证长度，及早终止低质量草稿。
适用：高并发服务 · 部门级与机构级节点
三者均为无损加速，最终输出由主模型验证决定；LoLR.AI OS 依据基座特性、部署框架与节点并发自动选用。
