计算与通信优化，性能提升 30% GRPO ：群体进化的智慧筛选器 自我验证机制： AI 的 " 错题本系 统 " 混合专家模型的 " 智能路由器“ 多头潜在注意力 MLA ：空间压缩术 训练框架加速： 16 到 3 的量化压 缩， 通信降低 89% 推理加速：预加载，动态批处理等 模型、数据、工具链、部署全开源 蒸馏技术使能第三方模型性能 DeepSeek V3 ：实现极致性能，稀疏 MOE 提质 双向管道训练 ，需要存两份参数来进行训练（ Parameter 2x ） • 模型总参数量 671B ，每个卡上 4 个 routed expert 对应 26.8B ， 同时 考虑到 PP-16 和 FP8 量化 ，每个卡上显存占用为 1.675GB 参考 DualPipe 技术，基于 MindSpeed 训练加速框架以及昇腾硬件特性，针 对 性地设计高效率流水并行技术，提升整体训练性能 降低学习复杂度 简化强化学习流程 降低后训练复杂度 推理优化 单次推理效率倍级提升 一次预测多个 token 推理倍级提升 FP16/BF16 1 前 1 后单流水 需要裁判模型评估 1 次 1token 预测 MHA/GQA 分组共享减少缓存 GPT4 16 专家选 2 FP8 混合精度 双向流水并行 新老策略组队评估 1 次多 Token 预 测 MLA 低秩压缩减少缓存 DeepSeekMoE

5。近年来，相关市场融资总量亦达数百 亿元，涵盖了 K12 阶段教育、职业培训、学前教育等不同的 教育细分领域 6。 1《教育信息化 2.0 行动计划》http://www.moe.gov.cn/srcsite/A16/s3342/201804/t20180425_334188.html 2 坚持以建设高质量教育体系为统领 谋划推动 “十四五” 时期教育发展， http://www.scio.gov.cn/x 数据援引自工业与信息化部人才交流中心发布的《人工智能产业人才发展报告（2019-2020 年版）》一文 产业 分析 课程 建设 就业 认证 综合 实训 算法领域 技术领域 应用领域 感性引导 兴趣实践 创新应用 17 16 实 战 篇 实 战 篇 英 特 尔 中 国 教 育 行 业 AI 实 战 手 册 英 特 尔 中 国 教 育 行 业 AI 实 战 手 册 图 2-1-3 人工智能教育的不同阶段 图 1 2 24 … 25 26 6 48 … Intel® UPI 4x16 PCIe 4x16 PCIe DMIx4 DMIx4 模型训练 模型训练 模型训练 模型训练 模型训练 模型训练 模型训练 DMIx4 DMIx4 Intel® UPI 4x16 PCIe 4x16 PCIe 英特尔® C620 系列芯片组 英特尔® 至强® 可扩展处理器 CPU0

• GRPO ：群体进化的智慧筛选器 • 自我验证机制： AI 的 " 错题本系 统 " • 混合专家模型的 " 智能路由器“ • 多头潜在注意力 MLA ：空间压缩 术 • 训练框架加速： 16 到 3 的量化压 缩， 通信降低 89% • 推理加速：预加载，动态批处理 等 • 模型、数据、工具链、部署全开 源 • 蒸馏技术使能第三方模型性能 DeepSeek 大模型解读： 通过系统优化实现极致性能， 起步，根据推理并发量配置 DeepSeek-R1-Distill-Qwen-1.5B ： 4u4g Flexus X 实例 DeepSeek-R1-Distill-Qwen-7B&Llama-8B ： 16u16g Flexus X 实例 更大尺寸模型： Nvidia GPU 实例（需开白名单） 相关链接 https://console.huaweicloud.com/modelarts/?loc 、 8B 方案 1 X 实例 x1.16u.16g 1 676 1.3888 11 方案 2 GPU-G5R 16U32GB 显卡 1*16G 1 3905.8 13.32 60 方案 3 GPU-pi5 16U64GB 显卡 1 * 24G `1 4018 8.2 43 14B 方案 1 GPU-G5R 16U32GB 显卡 1*16G 100 1 3,947.80 13.377

...................................................................................................16 2.1.3 英特尔® 至强® Max 系列 & 英特尔® 至强® 6 处理器 ........................................................ 发 行版 OpenVINO™ 工具套件，加速 AI 推理工作负载 管理与安全 • 英特尔® vPro 平台适用于特定 SKU • 英特尔® 融合安全管理引擎 (Intel® CSME) 版本 16 操作系统支持 • Windows 10 IoT 企业版 2021 长期服务频道 (LTSC) • 支持 EFLOW • Linux 内核覆盖，可轻松采用物联网功能 • Celadon (Android)（社区支持） 英特尔® vPro® Enterprise B ME16 ME16 英特尔® 酷睿™ i7- 12800HE 处理器 14 6 8 20 24 MB 高达 4.6 高达 3.5 2.4 (@45W) 1.6 (@35W) 1.8 1.35 是 企业 消费者 英特尔 锐炬® X e 显卡 D 96 2 16 (CPU) 12 (PCH) DDR5- 4800

...........12 2.2 ZRx 相干光技术.......................................................................16 2.3 IP+光融合技术.........................................................................27 三、 光电融合网络技术发展趋势 功能，以此提升网络灵活性与可扩展性的设计方案陆续涌现。 2.2 ZRx 相干光技术 2.2.1 技术概述 光电融合网络技术的发展，得益于相干光通信技术的持续突破。 近年来，基于高阶调制（如 QPSK、16QAM、64QAM）、高速 ADC/DAC 芯片、先进 DSP 算法与低功耗封装工艺的进步，使得相干光模块在 速率、距离、集成度和能效方面大幅提升。从最初的 100G CFP 模块， 到如今广泛商用的 相干光技术的发展经历了几个阶段，每个阶段都在性能、效率和 集成度方面有显著提高。每个阶段主要特点： 第 1 阶段相干技术：光纤容量、功率效率和每比特成本迅速提高， 从 QPSK 调制过渡到 16QAM 调制，从摩尔定律中获益匪浅，数字 处理消耗了更多的模块功率，引入业界首创的可插拔模块。 第 2 阶段相干技术：标准化接口，在客户端外形中引入 ZR/ZR+， 实现基于路由器的应用，首次部署概率星座整形解决方案，自适应波

https://moss.fastnlp.top/ 澜舟科技 孟子 3 月 14 日 已发布 https://www.langboat.com/portal/mengzi-model 百度 文心一言 3 月 16 日 企业用户内测 https://yiyan.baidu.com/ 达观数据 曹植 3 月 21 日 可申请使用 http://www.datagrand.com/products/aigc/ May- 16 May- 19 May- 18 May-20 Sep- 16 Sep- 19 Sep- 18 Sep-20 Nov- 16 Nov- 18 Nov- 19 Nov-20 Mar- 16 Mar- 19 Mar- 18 Mar-20 Mar-23 Jan- 16 Jan- 19 Jan- 18 Jan-20 Jan-23 Jul- 16 Jul- Fermi 的升级版，整体架构保持一致性，采用台积电 28nm 制程。 l2014 年的 Maxwell 架构通过优化架构，提供了可观的能耗比提升。 l2016 年， Pascal 架构推出，采用台积电 16nm 制程，支持 DirectX 12 标准，是首个为深度学习而设计 的 GPU 架构。 l2017 年的 Volta 架构专注于提高深度学习的性能，采用台积电 12nm 制程，

龙头沪电股份、全球代工龙头工业富联。6、传输端： 源杰科技、中际旭创、新易盛、华工科技。 ◼ 风险提示： AI 应用推广不及预期；AI 技术发展低于预期导致应用面 狭窄。 -19% -16% -13% -10% -7% -4% -1% 2% 5% 8% 11% 2022/7/12 2022/11/10 2023/3/11 2023/7/10 电子 沪深300 请务必阅读正文之后的免责声明部分 ............................................................................................ 11 图 16： 游戏场景............................................................................................. ......................................... 16 图 32： ChatGPT 可在苹果应用商店下载安装 ................................................................................. 16 图 33： TECNO Camon20 系列 ..................

计 价 相 同 。 请务必阅读正文之后的免责声明及其项下所有内容 采用硬盘缓存技术大幅降低延迟和成本 图：数据分析场景，后续具有相同前缀的请求会 命中上下文缓存 DeepSeek -R1 16 元 32K 64K 4 元 1 元 8K 图： DeepSeek-R1 等模型输入输出价格对比 百万 tokens 百万 tokens 输 入 价 格 输 入 价 格 市场预计将达到 33 亿美元，预计到 2028 年将达到 135 亿美元， 2024-2028 年 复合增长 率将达 33.4% ，同时生成式 AI 市场规模占到整体 AI 市场规模的比例将由 16% 上升到 29% 。对于企业来讲，对于生成式 AI 的支出亦将经历不同阶段的 重点，例如 2024- 2025 年，支出主要集中在生成式 AI 基础设施建设； 2025-2026 年，支出重点用于推进生成式 20,000 15,000 10,000 5,000 0 中国 IT 支出（亿元） YoY 2020 2021 2022 2023 2024 16% 14% 12% 10% 8% 6% 4% 2% 0% 52,000 50,000 48,000 46,000 44,000 42,000 40,000 38,000