成为AI算力集群的线性度和稳定性的关键，也面临新的挑战： 一是高性能传输挑战。大模型需要大量的数据进行训练和推 理，千亿模型单次计算迭代内，梯度同步需要的通信量达百GB 量级；MoE稀疏模型下张量并行的卡间互联流量带宽需求达到数 百至上千GBps量级。服务器节点间互联网络会承载数据并行和流 水线并行流量，千亿参数模型如GPT-3并行训练节点间带宽需求 达到13.5GB（108Gbps），如表2所示。万亿模型参数面带宽需求 型参数面带宽需求 增加到200Gbps至400Gbps。AI智算网络需提供更高的带宽来支持 数据快速传输，并且支持算力的横向扩展能力。 表2 千亿稠密模型GPT3千卡PTD训练通信量 注：PDT，P 指 Pipeline 并行，D 指 Date 数据并行，T 指 Tensor 并行 参数：模型 GPT3-175B，h=12288，S=2048，Ndecoder=96，B=1536，D=16，T=8，P=8 也带来了模型参数量增大，数据规模增大，集群算力急剧提升的 需求。网络性能 10%的提升，能够撬动整体性能、投入产出和能 耗效能数倍的提升，因此高算力集群的构建，依赖高性能互联的 网络。 一是使用高带宽网络设备释放算力性能。千亿参数大模型训 练过程中通信占比最大达 50%，且模型越大、通信占比越高。以 GPT3.5为例，当接入带宽提升16倍，通信占比从35%降低至3.7%， All-Reduce 训练周期缩短 14 倍。由此可见网络带宽是构建高集

沿着 “规模定律”不断演进，从预训练扩展到覆盖预训练、后训练、逻辑推理的全流程，其参数与集群 规模实现“双万” 跨越，行业模型落地需求专业化。 传统的服务器集群架构在这场变革中瓶颈愈发明显。千亿级模型一次梯度同步产生的 TB 级数据 让传统以太网带宽难以承受；同时，伴随算力规模扩大，万级处理器带来的故障常态化，对自动化 运维与 RAS 能力提出了更高要求。在这样的背景下，超节点的出现成为了面向大模型未来发展的必 模型为代表的人工智能技术，成为驱动千行百业 颠覆性变革的核心力量。大模型所展现出的涌现能力与通用潜能，正在重构人类对创新的想象边界， 但同时也对底层智算基础设施提出更高要求和挑战：模型参数规模从千亿迈向万亿乃至更高，训练 数据量呈指数级增长，传统松散耦合的集群架构已难以满足高效的计算需求，智算基础设施正开始 新一轮的技术革新。 在此背景下，超节点应运而生。它并非偶然的技术产品迭代，而是智算需求与系统创新深度共振 与生态发展格局，清晰界定了超节点需具备的技术特征与系统属性，为产业界提供了具有前瞻性的 洞见和系统标准参考，助力行业在算力发展中找准技术方向，推动算力从规模堆砌走向效率跃迁。 国家超级计算广州中心主任 卢宇彤 当前，千亿乃至万亿参数的大模型与 MoE 等先进架构的兴起，对计算基础设施提出了前所未有 的苛刻要求。传统的硬件堆叠模式已难以满足其对于算力规模、通信效率及系统稳定性的需求。《超 节点发展报告》深刻阐述了

根据统计口径不同，中国产业带数量在281-1100个之间，有超600万家制造企业，制造业产值占全球的35%，产能出口刚需强。按照 海关总署重点商品统计口径，2024年我国以省域为单位测算货物出口规模超过千亿的产业集群共有35个，合计出口6.35万亿元，占我 国货物出口总量的24.96%。在强烈的出口刚需下，正在萌发多种创新模式，激活产业带工厂出海。 0 500 1000 1500 2000 2024年我国省域千亿产业集群（单位：亿元） 2000亿以上 数据来源：海关总署 统计制图：亿邦智库 注：统计口径未考虑成品油和钢铁两类资源型产品 8 4 2 2 0 1 1 0 1 0 10 6 4 3 2 1 1 1 1 1 12 6 7 3 2 1 1 1 1 1 广东 江苏 浙江 上海 山东 重庆 河南 福建 四川 山西 千亿产业集群分布（单位：个） 千亿产业集群分布（单位：个） 2020 2022 2024 省域千亿产业集群 35 个 制造企业超 600 万 制造业产值占全球比例 35% - 3 - 产业带工厂三大困境：缺品牌、缺渠道、缺感知 重关税背景下，产业带传统代工模式将面临更大的挑战，需要新的模式和路径。亿邦智库调研浙江永康电动工具产业带发现，产业带 工厂散而小，大部分工厂高度依赖大客户代工订单，通常根据客户订单需求采购零部件组织生产，产业带供应链自给率高，以快速响

大模型Ernie3.0 2021.09 全球首个百亿中英对话生 成模型Plato-XL 2021.12 全球最大中文跨模态生成 模型Ernie-viLG 2021.12 全球首个知识增强千亿大模型 鹏程·百度·文心 2023.03.16 文心一言大模型3.0 2023.10 文心一言大模型4.0 2024.06.28 文心一言大模型4.0 Turbo “文心一言” 发展历程 盘古大模型5.0包含不同参数规格的模型，以 适配不同的业务场景。十亿级参数的Pangu E 系列可支撑手机、PC等端侧的智能应用；百 亿级参数的Pangu P系列，适用于低时延、高 效率的推理场景；千亿级参数的Pangu U系列 适用于处理复杂任务；万亿级参数的Pangu S 系列超级大模型能够帮助企业处理更为复杂的 跨领域多任务。 盘古大模型5.0能够更好更精准地理解物理世界， 包括文本、图片、视频、雷达、红外、遥感等更 合作落地（工程师仅需调用华为云提供的API就可以用场景理解大模型来完成给视频 数据分类的工作）。但是大模型的训练成本高昂。GPT-3训练一次的成本可能在12 00万人民币。而华为方面，在训练千亿参数的盘古大模型时，也调用了超过2000块 的昇腾910，进行了超过2个月的训练，成本极高。一方面选择小样本训练，通过自 监督的方法，以更少的标注数据来做训练，以降低成本；另一方面盘古大模型的三层

准、地方定赛道、园区做承载、基金做杠杆、场景做牵引”的系统推 进模式。区域竞争不再是简单的“给钱、给地”，而是围绕“技术闭环 —量产能力—数据回流—商业闭环”展开的全链条竞速，未来 2-3 年 将进入“万台级量产、千亿级集群、场景全面渗透”的关键窗口期。 （一）总体趋势：从“单点突破”到“系统布局” 在国家战略层面，2025 年国务院《政府工作报告》首次将“具身 智能”与“智能机器人”并列纳入未来产业培育清单，标志着其从部委 ”垂 直整合，北京侧重原始创新，广东注重场景牵引，四川、吉林聚焦医 24 工交叉，山东、天津发力“AI+制造”改造；另一方面，“市—区—园” 三级递进，深圳、广州、杭州、成都、苏州等城市将“千亿级产业集 群”拆分为“特色园—孵化器—中试线—场景集”，并配套 100-150 亿元 量级的产业基金。 技术供给层面，部委文件中首次出现“具身大小脑模型”“全身运 动控制”等术语，政策关注点从“大语言模型”延伸到“多模态感知—运 标准、检测底座，实现“全生命周期”治理。 （二）区域特点：北京重创新、长三角强生态、珠三角促出海 京津冀以原始创新为核心定位，成为具身智能产业重要策源地。 北京突出“国家战略科技力量”，计划 2027 年形成“千亿级”产值，致 力于打造“全球具身智能开源高地”；天津依托老工业基地优势，“AI+ 25 制造”特色显著，布局 37 个工厂级场景，并提供 500 万元改造补贴， 目标成为“AI 改造老工业城市样板”。长三角凭借完整产业链与活跃

化等功能。语义识别技术的提升和生成式AI的出现能大幅度降低大型管理软件的使用门 槛，复杂功能最终都将演化成私人AI助理角色。 • 企业加速数字化转型，核心ERP场景市场空间超500亿元，泛ERP市场空间超千亿元。 疫情影响下企业数字化转型的需求更加明确，大型企业信息化基础较为完善，集团财务、 营销、协作、供应链等通用型外部性需求开始放量。业务信息化发展迅速，移动化趋势 明显。 • 央国企进入数字化转 MAjW8VmVyQzRuNyRuMxPaQ8QaQoMmMmOsRjMmMmQlOoPwObRpPuMNZrNrNMYrNqP 当前市场各主要玩家仍具备极大的市场渗透空间，泛ERP市场空 间超千亿元 2 来源：弘则研究整理 企业级管理软件主要玩家 最近一期经营状况 市场空间测算 金蝶国际 2022： 整体收入48.7亿元人民币，同比增长17%； 云业务收入37.1亿元人民币，同比增长35%； 云订阅市场空间200亿 弘则弥道（上海）投资咨询有限公司 01 企业级管理市场国产 化大势所趋 金蝶用友龙头地位显著，中国规模以上工业企业数量近40万，奠 定ERP软件大空间的根基；泛ERP空间超千亿 4 不同规模企业投入估算 中国不同规模工业企业主营收入分布（万亿元） 中国不同规模工业企业数量分布（万家） 主要玩家市场份额 来源：工信部、公司报告、互联网公开资料、弘则研究整理 0.9

为优化教育供给的核心驱动因素。近期高性能、低成本、开源的 DeepseekR1 问世，在技术层面继续助推 AI 教育发展，包括有道、好未来等在内教育企 业陆续接入，叠加政策顶层规划，国内 AI 教育有望迎来加速发展期。 千亿多邻国成长启示录：AI 赋能打造 C 端寓教于乐场景。多邻国是目前全球 最受欢迎的在线教育平台，上市以来单季收入增速同比维持 40%及以上，加 大 AI 渗透后盈利能力持续改善，2024 年前三季度可比净利同比增长 9 政策层面：顶层战略规划引领智慧学习、智慧课堂等场景落地 ...............................10 千亿多邻国成长启示录：AI 赋能打造 C 端寓教于乐场景 .............................12 公司概览：千亿市值在线教育龙头，打造寓教于乐语言学习平台 ............................. 12 收入结构：多层级产品实现流量变现 深化人工智能助推教师队伍建设，打造人工智能教育大模型，建设云 端学校等 资料来源：国务院等各部门，国信证券经济研究所整理 请务必阅读正文之后的免责声明及其项下所有内容 证券研究报告 12 千亿多邻国成长启示录：AI 赋能打造 C 端寓 教于乐场景 公司概览：千亿市值在线教育龙头，打造寓教于乐语言学习平台 多邻国（Duolingo）是由“验证码之父”Luis von Ahn 及其博士生 Severin Hacker 于 2011

还需要不断投入资金进行技术升级和数 据获取，以维持竞争力。从数据上看，高技术制造业的研究与试验发展（R&D）经费投入强度为2.91%， 在规模以上工业企业中，研究与试验发展（R&D）经费投入超过千亿元的行业大类占全部规模以上工业企 业研究与试验发展（R&D）经费的比重为63.2%。由此可见，工业大模型行业技术壁垒的高度，以及对技 术创新的强烈需求，在这一要求下，行业的准入门槛逐渐提高。 2 (600588) 总市值 营收规模 同比增长(%) 毛利率(%) - 126.1亿元 -0.37 40.30 - 552.1亿元 2.46 19.90 - 12.1亿元 16.14 56.03 1.3千亿 14.3亿 1.2600 - - 38.8亿元 0.57 40.76 - 4.1亿元 13.27 55.31 - 31.9亿元 4.75 3.97 4.0亿 1.7亿 6.3000 16.68 法律、法规、国务院决定规定禁止的不得经营；法律、法规、国务院决定规定应当许可（审… 查看更多 竞争优势 华为云的盘古大模型自2021年发布以来，已经发展到3.0版本，并且在多个领域表现优异。盘古大 模型拥有千亿参数，具备强大的泛化能力和小样本学习能力，这使得它能够适应复杂的工业应用场 景。华为在人工智能技术方面具有显著优势，其自研的昇腾AI处理器和全栈AI解决方案为大模型的 开发和部署提供了强大的计算

地区 建设主体 主导产业 试点特色 1 独角兽岛（科 创生态岛）近 零碳排放园区 成都市 四川天府新区 成都科学城管 理委员会 数字经济 致力于打造全国首家千亿级数字经济近零 碳产业园区，规划九大低碳技术体系，秉 持全周期近零碳理念，探索站城一体开发 模式，开展能源绿色低碳高效集中应用， 打造气候适应型绿色低碳建筑群，构建园 区近零碳能源系统，建设“能碳双控”平 推动生产产品由燃油汽车向新能源汽车转 型。 5 四川金堂工业 园近零碳排放 园区 成都市 成都市淮州新 城管理委员会 节 能 环 保、晶硅 光伏、锂 电 聚集以“晶硅光伏、新型锂电”为核心的 千亿级绿色低碳产业集群，建设绿色低碳 智能工厂，推广屋顶分布式光伏，打造绿 色交通体系。 6 攀枝花格里坪 近零碳排放园 区 攀枝花 市 四川攀枝花格 里坪特色产业 园区管理委员 会 源建筑应用和交通运输电动化。 14 宜宾三江新区 东部产业园近 零碳排放园区 宜宾市 宜宾三江新区 管 理 委 员 会 （宜宾临港经 济技术开发区 管理委员会） 动力电池 打造千亿元级低碳产业集群，示范实施 “电动三江”工程，推动能源港建设，推 广智轨交通和换电重卡，发展多式联运绿 色物流，建设碳大脑智慧平台。 32 四川省近零碳排放园区试点建设 2023

认识大模型的局限性：算力消耗大 n 模型训练：算力消耗大  大模型庞大的参数量：通常包含数十亿到数千亿个参数  训练数据：通常包含数万亿到十几万亿token  训练时间：通常几个月 n 模型推理：算力消耗大，实时性差，支持的并发低  大模型庞大的参数量：通常包含数十亿到数千亿个参数  当前神经网络推理方式的特点：大量的矩阵乘法操作  Transformer推理阶段的“按token依次输出”机制：生成每个