公司研发，定位为“认知智能引擎”。简单来说，它是一个能像人类一样思考、学习和解 决问题的超级 AI 工具。 核心能力： ⚫ 复杂推理：像学霸解数学题一样处理逻辑难题（R1 模型） ⚫ 多模态融合：能理解文字、图片、文件等多种信息（未来还将支持语音和视频） ⚫ 超长上下文：一口气读完 3-4 万字的长文档（64Ktoken 容量） 技术架构： ⚫ MLA 多头潜在注意力：像多线程处理信息，显存占用降低 学术研究：自动标注论文参考文献，检测实验数据矛盾点 模块 3：联网搜索——实时情报局 数据引擎： ⚫ 抓取最新政策文件（如半小时前发布的医保新规） ⚫ 追踪社交媒体热点（分析微博热搜背后的情绪图谱） 创新用法： ⚫ 竞品监控：自动生成友商产品功能对比表 ⚫ 风险预警：识别企业年报中的 34 种财务异常信号 ⚫ 生活助手：比价全网购物平台，推荐性价比最高商品 2.手机端运行：1.5B 压缩版模型在千元机上流畅运行，山区医生可用 AI 辅助诊断 三、安装与使用全攻略 1.多端部署指南：全平台无障碍接入 DeepSeek 提供网页版、APP、微信小程序、电脑版四大入口，满足不同场景需求： ①网页版（零门槛即用） 访问方式：浏览器输入`https://chat.deepseek.com` 特点： ⚫ 无需下载，支持文件上传（PDF/Word/图片）

） 、 DeepSeek 、文心一言 （百度）等 多模态大模型 是指能够处理多种不同类型数据的大模型，例如 文本 、 图像 、音频等多模态数据 。这类模型结 合 了 NLP 和 CV 的能力， 以实现对多模态信息 的综合 理解和分析，从而能够更全面地理解和 处理复杂 的数据 。代表性产品包括 DingoDB 多模向量数据 库（九章云极 DataCanvas ） 海量的开放数据与具有巨量参 数的 深度学习算法，在大规模无 标注数 据上进行训练， 以寻找特 征并发现 规律 ，进而形成可“举一 反三” 的强 大泛化能力 ，可在不 进行微调或少 量微调的情况下完 成多场景任务 ， 相当于 AI 完成 了“通识教育” 行业大模型 L1 是指那些针对特定行业或领域的大 模型 。 它们通常使用行业相关的 数 据进行预训练或微调， 以提高 在该 领域的性能和准确度，相当 n Gemini Gemini 是谷歌发布的大模型 ， 它能够同时处理多种类型的数据和任务 ， 覆盖文本、 图像、 音频、 视频等多个领域。 Gemini 采用了全新的架构 ，将多模态编码器和多模态解码器两个主要组件结合在一起 ， 以提供最佳结果 Gemini 包括三种不同规模的模型： Gemini Ultra 、 Gemini Pro 和 Gemini Nano ， 适用于不同任务和设备。

Model），是指具有大量参数和复杂结构的机器学习模型，能够处 理海量数据、完成各种复杂的任务，如自然语言处理、计算机视觉、语音识别等。大模型通常包括大语言模型 (LLM)、视觉 大模型 (CV)、多模态大模型等各种类型。 大模型通过训练海量数据来学习复杂的模式和特征，具有更强大的泛化能力，可以对未见过的数据做出准确的预测，能够处 理更加复杂的任务和数据。 展开来讲，大模型技术有以下几项基本特征： 个方向，是目前应用探索最多的领域。工业大模型经过一年多的发展，目前 总体处于小规模商业应用落地阶段。 工业大模型凭借其卓越的理解、生成和泛化能力，通过与工业领域的深度融合，有望为工业领域带来 “基础模型 + 各类应用” 的新范式。因此，工业大模型的成功落地，离不开针对特定行业的丰富现场经验和深厚的行业 know-how 能力。 第四，多模态分析能力，由传统单一格式的工业数据 处理，转化为多格式数据综合转换分析。 成像技术，与机器人手臂协同作业，能够在线采集整车漆面数据进行并行计算，实现车身 漆面缺陷的精准检测与定位，缺陷测量精度需达 0.15mm，检出率高达 99%，缺陷分类准确率＞85%，需能够实 现每车 60s 的检测节拍。还能支持多颜色、多车型在线混检，支持超过 20 余种漆面缺陷，实现多角度在线检测。 AI 赋能的方案，大幅提升了车身漆面缺陷的检出率和检测效率，满足生产线的快速节拍需求。 汽车零部件和整车的性能，不仅关乎驾驶性

(DS-R1 \ Kimi-1.5 \ o-series) ➢ 蒸馏 vs. 强化学习驱动：国内外现有各家技术路线对比分析及Takeaways ➢ PRM & MCTS 的作用 ➢ 从文本模态到多模态 ➢ 其他讨论：Over-Thinking 过度思考等 ➢ 未来方向分析探讨 ➢ 模态穿透赋能推理边界拓展：Align-DS-V ➢ 合成数据及Test-Time Scaling: 突破数据再生产陷阱 的潜力并确保训练稳定性，DeepSeek R1 的训练中采用了四阶段的交替迭代 流程：“监督微调（SFT）→ 强化学习（RL）→ 再次 SFT → 再次 RL”，有效解决了传统强化学 习模型在冷启动、收敛效率和多场景适应性方面的瓶颈。 ➢ 强大的自验证和长链推理能力：并非预先设定好的，而是在RL训练中自主涌现出来的 ➢ 自验证是指模型在生成最终答案之前，会先主动地验证自己的中间推理步骤是否正确。这就 像 Open Questions: ➢ Long-COT 指令数据扩展是否有助于慢思考推理能力？ ➢ 哪种 Long-COT 数据构造方式具有最佳样本效率？ ➢ Long-COT 及其扩展是否有助于多模态任务？ ➢ Takeaways from RedStar [1]: ➢ Long-COT 在有限数据下增强推理能力：小规模数据集（如 1.3k 个问题）可以显著提升推理性能，尤其是在数学任务中，

对具身智能学术 研究前沿的影响 : 本文为多任务机器人模仿学习提 供 了轻量化的 MOE 融合方案 , 验证了稀疏专家激活机制在缓解多任务干 扰 上的有效性 , 其 FiLM 语言调制与多尺度注意力设计 , 可为后续 ACT 类策 略的多任务优化提供可复用的技术路径 , 同时也为双臂操作场景的轻量 化 多任务学习研究提供了新的实证参考。 2: 对具身智能产业界发展的参考意义 编 码 器 , 通 过 自 适 应 专 家 激 活 实 现 多 任 务 动 作 分 布 解耦 , 有效缓解多任务学习中的任务干扰与负迁移问题。 2: 设计任务条件化 FiLM 调制机制 : 基于语言指令嵌入动态调整动作令 牌 , 保障动作生成与任务指令的一致性 , 强化模型对不同任务的适配能力。 3: 引入多尺度交叉注意力模块 : 融合高低层级视觉特征 , 为操作控制提 通过自适应激活 , 在隐空间中自然实现多任务动作分布的解耦。 在解码阶段 , 我们通过逐特征线性调制 (FiLM) 对动作令牌进行 动态调整 , 提升动作生成与任务指令的一致性 ; 同时引入多尺度 交叉注意力 , 使策略能够同时聚焦低层与高层语义特征 , 为机器 人操作提供丰富的视觉信息。我们进一步融入文本信息 , 将框架从 纯视觉模型升级为以视觉为核心、语言条件化的动作生成系统。仿

RL DeepSeek 应用场 景 DeepSeek 的能力层级 • 1. 基础能力层 多模态数据融合与结构化理解 ，包括跨模态语义对齐（文本、 图像、 音频、 视频、 代 码、传感器数据统一语义） 和动态数据治理（解决数据缺失、 噪音干扰、 概念飘逸等） ， 支持 200 多 种数据格式自动解析。 • 2. 中级能力层 领域问题建模与复杂推理 ，包括领域自适应学习（建立医、 因果推理引擎（建立因果图模型） 和多目标优化决策（求解帕 累托最有解） 。 • 3. 高级能力层 复杂系统建模与自主决策 ，包括数字孪生仿真系统（构建物理于数字融合虚拟环境 模拟天气等） 、 多智能体协同优化（将每个个体作为智能体通过联邦学习模拟群体行为） 和元认 知调 控机制（实施监控自身决策、 动态分配资源、 自动触发行为） 。 • 4. 终极能力层 自主进化与创造性突破 ， 1. 内容生成类 ：文本生成、代码生成、创 意生成和数据模拟。 • 2. 信息处理类 ：文本摘要、信息抽取、 情感分析和多语言翻译。 • 3. 对话交互类 ：角色扮演、多轮对话、 反问引导。 • 4. 技能应用类 ：数学计算、代码解释、 逻辑推理。 • 5. 个性化定制类 ：风格迁移、知识库绑 定、偏好记忆。 • 6.

，强化训练信号 • 优化模型表达能力 ，提升 next-token 的预测效果 • 可参考投机采样改造 MTP 模块 ，加速推理效率 MTP ： Multi-Token Prediction 多 token 预测提升模 型效果 • MTP 模块仅在训练中使用，提升模型训练效果，推理阶段可以不使用 MTP 模块，基础模型能够独立完成正常推 理 • 参考投机采样， MTP 模块也可以被重新配置用于 FP16/BF16 1 前 1 后单流水 需要裁判模型评估 1 次 1token 预测 MHA/GQA 分组共享减少缓存 GPT4 16 专家选 2 FP8 混合精度 双向流水并行 新老策略组队评估 1 次多 Token 预 测 MLA 低秩压缩减少缓存 DeepSeekMoE 更稀疏 256 选 8+1 训练精度 PP 并行算法 强化学习 Attention MOE Token 预测 业界 128K 集群规模组网，千卡到万卡平滑 演进 千亿稠密 / 万亿稀疏 多模态 更大数据量存储和读写 ( 模型参数、 CheckPoint …) 更复杂的模型及数据切分 更大规模 / 更复杂的组 网 网络控制器 18 Huawei Proprietary

有效联接和利用学习 社群进行沟通和交流 提供支持 无缝切换 无缝切换 联接社群 系统集成 虚实融合 多终端访问 系统集成 遵循技术标准，跨级、跨 域教育服务平台之间实现 数据共享、系统集成 虚实融合 通过增强现实等技术 实现物理环境与虚拟 环境的无缝融合 多终端访问 支持任何常用终端设备无缝 连接到各种教育信息系统， 无缝获取学习资源与服务 联接社群 学习者的多个学习终 云学习环境 • 保证学习数据的永 不丢失，为学习分 析提供数据支持 存储学习过程 数据 28 泛在网 络 泛在网络是通信网、互联 网、物联网的高度协同和 融合，将实现跨网络、跨 行业、跨应用、异构多技 术的融合和协同。 29 泛在网 络 创 新 学习、生活与工作的连通 学校教育、家庭教育和社会教育的 连通； 手机、平板、 PC 、学习机、电视 等各种终端设备的连通。 三 方 连