工作的通知》（工规函〔2025〕524 号） ........... 36 6.《关于开展 2025 年度智能工厂梯度培育行动的通知》 （工信厅联通装函〔2025〕251 号） ............... 41 7.《智能工厂梯度培育要素条件（2025 年度）》 .... 48 8.《智能工厂梯度培育行动实施方案》 ............ 57 9.《关于印发<智能制造典型场景参考指引（2025 120 15.《江苏省智能工厂梯度建设要素条件（2025 年版）》 ............................................. 134 16.《江苏省企业数字化转型通用评估指标体系（2025 年 版）》 ....................................... 140 17.《江苏省智能工厂梯度建设典型场景企业自评价参考 （2025 文件命名：案例类别-案例名称。 第 41 页 共 162 页 6. 《关于开展 2025 年度智能工厂梯度培育行动的通知》 （工信厅联通装函〔2025〕251 号） 工业和信息化部办公厅国家发展改革委办公 厅财政部办公厅国务院国资委办公厅市场监 管总局办公厅国家数据局综合司关于开展 2025 年度智能工厂梯度培育行动的通知 各省、自治区、直辖市及计划单列市、新疆生产建设兵团 工业和信息化、发展改革、财政、国资、市场监管、数据

本地完成一部分的训练，然后把训练的梯度传到谷歌的云端，这样谷歌只看见一 个梯度，它并没有获得这个用户的设备以前的聊天内容，这样在设计上有一种 privacy by design 的设计优点。有很多这样的安卓设备，比如：Parameter Server 设备是谷歌的云端服务器，它开始会有一个全局的初始化模型，云端服务器会把 模型推到各个设备上，然后各个设备基于本地的数据来优化模型，得到一个更新 的梯度，把这个更新 的梯度，把这个更新的梯度发给服务器，服务器收到这么多梯度之后，会更新全 局模型，然后发到这些设备上，这些设备又迭代，直到这个模型在某种程度上收 敛为止，这就是联邦学习最开始的一个雏形。 3. 国内联邦学习与谷歌联邦学习的区别 区别一： DataFunTalk 成就百万数据科学家！ 39 大概在 2018 年左右，国内开始引入联邦学习概念，与谷歌的联邦学习相比有了 一些发展和改变。两者主要的区别是谷歌的联邦学习主要是面向海量移动设备的 首先是原版横向跨设备的联邦学习。因为它设计上只传梯度，梯度本质是一个函 数，它是根据初始的模型以及本地的数据算出来的一个函数，那么这个函数可能 是跟原数据是相关的，不能说有梯度就算不出原数据了，那多大程度上相关呢？ 其实算出来是有一定的难度，但是有一些学者也能算出来，比如说假设我们训练 的模型是一个简单模型，比如逻辑回归，我们有了一堆梯度跟原始数据的这种关 系 ， 可 以 通 过 解 方

...................................... 20 （一）营商环境优化，进一步保障中小企业健康经营......................... 20 （二）梯度培育加速，进一步推动中小企业提质增效......................... 21 （三）数字技术赋能，进一步助力中小企业转型升级......................... 22 ，对稳住经 济增长大盘、保障社会发展大局发挥重要作用，并呈现出以下发展特点。 一是数量与质量双重提升，中小企业不断增强综合实力。2025 年，工 业和信息化部等有关部门多措并举，通过政策宣贯、梯度培育、“一站式” 服务等手段，推动中小企业高质量发展，取得积极成效。从量的方面看， 中小企业数量平稳增长。企查查数据显示，截至 2025 年 9 月，我国登记在 册的中小企业数量达 6348.7 利用数字化技术与工具实现单一业务数字化管理”。 从互联网大数据看中小企业发展（2025） 20 四、未来展望 中小企业由于规模较小、资金实力有限，往往面临着较大的经营风险。 未来，做好环境优化、梯度培育、技术驱动和扎实服务等保障措施，有助 于缓解中小企业的经营压力，降低其经营风险，为企业的稳定发展提供有 力支持，从而为促进实体经济高质量发展，夯实现代化经济体系建设根基， 推动我国经济持续回升向好提供助力。

网络带宽瓶颈 当前，大模型训练通常依赖数千张 GPU 卡协同工作数周甚至数月， 训练效率瓶颈并不仅仅取决于单 GPU 的算力，也受到 GPU 集群间通 信效率的影响。GPU 间需进行频繁的梯度同步、参数更新、状态同 步等集合通信操作，这些数据传递操作在服务器机内和机间均存在， 且随着模型参数量的逐步提升，所传递的数据量也会不断增加。因此 网络带宽越高，网络通信延迟在训练周期中占据的时间越短，也就能 AllReduce 集合通信数据量可达数百 GB 级别，如此庞大的数据量在 极短的时间内需要完成传输与同步，对网络带宽提出了极高的要求。 下表展示了不同模型规模单次梯度同步数据量的大小。 模型规模 典型 GPU 数 量 单次梯度同步数 据量 通信敏感度 十亿参数 数十卡 10GB 至 50GB 中等 千亿参数 数百至千卡 300GB 至 800GB 高 万亿参数 数千至万卡 大于 将数十至数百个波长解复用到单根输出光纤，而 MEMS 光交换机通 过可旋转镜面结构，以线性成本增加端口，显著降低了扩展难度。超 高端口密度可支持数千 GPU/算力节点互联，避免因端口不足导致的 通信拥塞，保证梯度同步与参数服务器访问的高并发吞吐，为智算需 求提供充足规模。以 400 GbE 为基准，一台 320×320 MEMS 光交换 机能同时提供理论上无限的交换容量与 320 个 400G 端口，而要用

原子码块的故障检测与通告等三大原创技术， 实现从技术标准到商用产品转化，满足超十万卡 GPU 集群组网需求。 12 面向中远期，引入 GSE 通信库优化，利用网络拓扑的天然聚合特性实现梯度 聚合的高效卸载，减少网络通信流量，并通过合理规划梯度分配及聚合功能的放 置加速聚合过程，降低通信延迟。引入光电路交换机（OCS），结合 GSE 技术体 系，优化光电混合组网协同、纳管机制，持续探索光路交换潜力，突破传统电路 2 低精度训练 低精度训练可以显著加速大模型训练性能，但梯度溢出问题严重制约模型收 敛稳定性。针对上述问题，通过算子级优化（重构计算流，结合动态量化技术， 即 FP8/INT8 精度自适应切换）与梯度缩放机制，在确保训练精度的前提下，压 缩计算量，实现算力效率与训练精度的双重突破。 面向近期，完善 FP8 混合精度训练框架，构建梯度异常检测与自动修复机制； 15 推进算子融合技术与混合 推进算子融合技术与混合并行策略的联合优化，构建端到端的分布式训练效能评 估系统；同步研发梯度统计分析与动态缩放工具链，形成低精度训练的标准化解 决方案。 面向中远期，探索 FP4/INT4 超低精度计算架构，建立从算法设计到硬件指 令集的全链路精度保障体系，推动大模型训练迈入“算法-算力-能效”协同进化 的新阶段。 2.5.2.3 故障容错 超大规模集群训练面临硬件、网络和软件故障频发，局部故障易引发级联效

虽规模不大，却在各自的“一米宽”专注领域，构筑起“百米深”的护城河。工信部 数据显示，截至2024年末，我国累计培育省级专精特新中小企业超14.1万家， 专精特新“小巨人”企业1.46万家，科技和创新型中小企业超60万家，梯度培育成 效显著。 1.2 时代坐标： 国家经济转型中的“战略支点” 8 在全球经济格局深度重塑、新一轮科技革命方兴未艾的时代背景下，专精 特新企业的战略地位愈发凸显。它们不仅是市场经济的活力单元，更是承载国 年，北京证券交易所设立，明确服务创新型中小企业。- 2022 年，证监会、工信部联合发文，指导建设区域性股权市场“专精特新” 专板。 - 2022年，工信部印发《优质中小企业梯度培育管理暂行办法》，提 出构建包含创新型中小企业、“专精特新” 中小企业和专精特新“小 巨人”企业3个层次的优质中小企业梯度培育体系。 - 目标：上升为国家战略，形成“中央财政激励+多层次资本市场支持 +地方配套服务”的立体化支持格局。 2024-2025 年 更关注财务回报和短期上市前景， 可能对企业经营干预较多。 5.4 资本市场路径：迈向公众公司的阶梯 进入资本市场，是专精特新企业实现价值最大化、建立长期融资渠道的终极 路径。我国已为之搭建了一个梯度分明、有机衔接的多层次资本市场体系。 （1）起点：区域性股权市场（“专精特新”专板） 18 定位：“孵化器”与“预备队”。 功能：为暂不符合更高层次市场条件的早期企业提供挂牌展示、股权托管、

创新、生产制造、商务生活等配套设施。加强园区与周边地区的 联动合作，探索与社区的协同发展，为园区企业和员工提供医疗、 教育、文化、娱乐、体育等公共服务。 （三）培优园区企业主体 6. 健全企业梯度培育机制。建立园区企业梯度培育库，加 强分类指导，强化精准支持。引导大企业发展成为具有生态主导 力、国际竞争力的领航企业。培育一批科技和创新型中小企业、 高新技术企业、专精特新中小企业、专精特新“小巨人”企业、制

实施一批“智改数转网联”改造项目，推进老旧设备更新和“哑” 7 设备改造，支持企业实施软硬一体化改造，推动生产设备和信 息系统全面互联互通，促进数字化集成应用创新，提升企业数 字化精益管理水平。开展智能工厂梯度培育行动，支持数字化 基础较好的企业围绕数字化研发设计、产线柔性配置、智能仓 储、设备运维、供应链弹性管控等典型场景开展智能化升级， 加快人工智能等数智技术融合应用，探索未来制造模式，推动 为企业转型提供 参考。实施中小企业数字化赋能专项行动，支持企业结合自身 需求实施设备自动化改造、数据采集、上云上平台等投入少、 见效快的数字化“微改造”，夯实数字化基础。 专栏 2 智能工厂梯度培育工程 01 基础级智能工厂 开展数字化网络化基础能力建设，围绕智能制造典型场景部署必要 的智能制造装备、工业软件和系统，实现核心数据实时采集、关键生产 工序自动化、生产与经营管理信息化，开展点状智能化探索。 强化数字化网络化持续优化能力，面向智能制造典型场景体系化部 署智能制造装备、工业软件和系统，实现设计生产经营数据集成贯通、 制造装备智能管控、生产过程在线优化，开展产品全生命周期和供应链 8 专栏 2 智能工厂梯度培育工程 全环节的综合优化，推动多场景系统级智能化应用。 04 领航级智能工厂 推动新一代人工智能等数智技术与制造全过程的深度融合，实现装 备、工艺、软件和系统的研发与应用突破，推动研发范式、生产方式、

资料来源：ChatGPT，Google，国信证券经济研究所整理 大模型训练对硬件的挑战：算力、内存和通信 内存方面，大模型训练的内存可以大致理解为参数、优化器状态、激活、梯度四 部分的和。它们大致分为两类：静态内存和动态内存。参数、优化器状态较为固 定，属于静态内存，激活和梯度等中间变量属于动态内存，是最主要的内存占用 原因，动态内存通常是静态内存的数倍。 图9：静态内存 图10：动态内存 资料来源：知乎，国信证券经济研究所整理 2 个字节，参数和优化器状态合计占用内存 1635G。而动态内存，根据不同的批量大小、并行技术等结果相差较大，通常是静 态内存的数倍。更简洁的估算方法，可以假设典型的 LLM 训练中，优化器状态、 梯度和参数所需的内存为 20N 字节，其中 N 是模型参数数量，则 1750 亿参数的 GPT3 大概需要 3.2TB 内存。 推理所需内存则较小，假设以 FP16 存储，175B 参数的 GPT3 推理大约需要内存 80G A100，如果以 FP32 运算，则需要 10 张。 请务必阅读正文之后的免责声明及其项下所有内容 证券研究报告 9 表2：大语言模型的计算 公式 注释 模型参数 优化器内存 梯度内存 激活重计算 模型训练内存 需求 模型推理内存 需求 资料来源：Eleutherai，国信证券经济研究所整理 图11：模型大小与设备内存的增长示意图 资料来源：NVIDIA，国信证券经济研究所整理

资料来源：ChatGPT，Google，国信证券经济研究所整理 大模型训练对硬件的挑战：算力、内存和通信 内存方面，大模型训练的内存可以大致理解为参数、优化器状态、激活、梯度四 部分的和。它们大致分为两类：静态内存和动态内存。参数、优化器状态较为固 定，属于静态内存，激活和梯度等中间变量属于动态内存，是最主要的内存占用 原因，动态内存通常是静态内存的数倍。 图9：静态内存 图10：动态内存 资料来源：知乎，国信证券经济研究所整理 2 个字节，参数和优化器状态合计占用内存 1635G。而动态内存，根据不同的批量大小、并行技术等结果相差较大，通常是静 态内存的数倍。更简洁的估算方法，可以假设典型的 LLM 训练中，优化器状态、 梯度和参数所需的内存为 20N 字节，其中 N 是模型参数数量，则 1750 亿参数的 GPT3 大概需要 3.2TB 内存。 推理所需内存则较小，假设以 FP16 存储，175B 参数的 GPT3 推理大约需要内存 80G A100，如果以 FP32 运算，则需要 10 张。 请务必阅读正文之后的免责声明及其项下所有内容 证券研究报告 9 表2：大语言模型的计算 公式 注释 模型参数 优化器内存 梯度内存 激活重计算 模型训练内存 需求 模型推理内存 需求 资料来源：Eleutherai，国信证券经济研究所整理 图11：模型大小与设备内存的增长示意图 资料来源：NVIDIA，国信证券经济研究所整理