新型智算中心:网络成大模型训练瓶颈 ,节点内外多方案并存(24页 PPT)新型智算中心改造系列报告一: 网络成大模型训练瓶颈 ,节点内外多方案并存 证券研究报告 | 2024 年 5 月 5 日 行业研究 · 行业专题 计算机 · 人工智能 投资评级:超配(维持评级) 请务必阅读正文之后的免责声明及其项下所有内容 • A I 大模型训练和推理拉动智能算力需求快速增长。 a )模型迭代和数量增长拉动 A I 算力需求增长:从单个模型来看,模型能力持续提升依赖于 大模型开发各类 A I 应用,随着 A I 应用用户数量爆发, 对应推 理侧算力需求快速增长。 • 智算中心从集群走向超级池化。智算中心是以 GPU 、 A I 加速卡等智能算力为核心,集约化建设的新型数据中心;随着大模型普遍进入万亿规模, 算 力、显存、互联需求再次升级,高速互联的百卡“超级服务器”可能成为新的设备形态,智算中心将走向超 级池化阶段,对设备形态、互联方案、 存储、平台、散热等维度提出新的要求。 的网卡和交换机、连接件、流控机制组成。 InfiniBand 在网络性能、集群规模、运维等方面具备显著优势。 • 投资建议: A I 大模型的参数量和训练数据量的快速增长,对数据中心的计算、存储、网络等提出新的要求,新型智算中心是产业发展趋势; A I 大 模型需要部署在高速互联的多个 A I 芯片上,数据样本和模型结构被切分到多张卡或者节点上,卡间或节点间不仅有训练数据通信,还有模型 梯度 的频繁传递30 积分 | 24 页 | 947.01 KB | 4 月前3
2024年中国新经济企业top500发展报告的融合。 在人工智能的带动下,新经济企业的发展凸显数字化、智能化、绿色环保等特征:现代农林牧渔业 企业借力人工智能,持续提升生产效率和可持续性 ; 先进制造业中高端装备制造业数智化转型加速; 新型能源活动多能互补协调优化,人工智能赋能新能源;节能环保活动企业有效利用再生能源,智 慧节能成为主流;互联网与现代信息技术服务企业数字技术与数据要素双轮驱动,提升服务个性化 和智能化水平,加强产业 和智能化水平,加强产业韧性和辐射带动效果;现代技术服务与创新创业服务企业以“AI+ 共性技 术服务平台”,加速科技创新;现代生产性服务活动企业将人工智能深度融入供应链管理与客户服 务,提高服务效率,降低运营成本;新型生活性服务活动企业利用人工智能技术为消费带来新的增 长点,消费电子也成为人工智能技术应用的重要载体;现代综合管理活动企业用人工智能促进管理 流程优化,深度植入企业资源规划 (ERP)、智能决策系统、智慧城市系统,有效提升决策效率。 或新经济业务营收占比在 60% 以上。 新经济行业根据《新产业新业态新商业模式统计分类(2018)》确定,分为现代农林牧渔业、 先进制造业、新型能源活动、节能环保活动、互联网与现代信息技术服务、现代技术服务与创新创 业服务、现代生产性服务活动、新型生活性服务活动、现代综合管理活动等九大类。 本次评价基于《新经济企业评价准则》(T/CEEAS 001-2022),选取市 / 估值作为新经济企10 积分 | 123 页 | 42.92 MB | 6 月前3
量子信息技术产业发展研究报告(2024年)动前沿科技探索、信息技术演进和数字经济产业发展的重要引擎和 加速器。 图 1 量子信息技术三大领域概况 量子计算以量子比特为基本单元,利用量子叠加和干涉等原理 实现并行计算,可以作为一种新型计算范式带来经典计算无法比拟 量子信息技术产业发展报告(2024 年) 2 的算力飞跃,有望在经济社会发展的多个领域产生颠覆性影响。目 前超导、离子阱、中性原子、光量子、硅半导体等技术路线科研探 量子通信基于量子叠加态或纠缠效应,在经典通信辅助下实现 密钥分发以及信息传输,在理论协议层面具有可证明安全性。基于 量子密钥分发和量子随机数发生器等技术方案的量子保密通信系统 正初步进入实用化阶段,在新型协议研究和实验系统研制等方面持 续取得阶段性成果,样机产品研发和应用探索持续推进,推广大规 模应用仍面临诸多挑战。量子信息网络是重要的远期发展目标之一, 近期在基础研究、关键设备组件和系统原型实验等方面取得一定进 量子精密测量技术突破和产业化,前瞻布局量子芯片、量子算法等 量子计算关键技术,引领新一轮信息革命。福建省《政府工作报告》 中提到24,以更高站位推进新型工业化,前瞻布局量子科技等未来 产业。山东省《政府工作报告》中提到25,加快推进新型工业化, 围绕量子科技等领域,实施前沿技术攻关,推动省级未来产业集群 加快壮大。湖北省在《湖北省加快未来产业发展实施方案(2024— 2026 年)》0 积分 | 57 页 | 2.18 MB | 5 月前3
2025智算中心行业研究:新一轮人工智能浪潮汹涌,算力底座万亿市场可期-20250430-深企投产业研究院-职调查等服务,减少投资过程中的信息不对称,提高投资决策准确率。 在产业研究领域,深企投产业研究院在新质生产力、战略性新兴产业、未来产业研 究上具有深厚积累,每年发布原创深度报告近百份。有关低空经济、商业航天、卫星互 联网、新型储能、人形机器人、生物制造、脑机接口、全球供应链等报告获得广泛传播。 3YmYeWiU9YrV9P9RbRoMqQsQqNlOrRtOlOpPsQaQoMmNxNpNpQxNnNzQ I 目 录 撑大量数据处理和复杂模型训练。智算中心狭义上是智能算力的物理 载体,是“机房+网络+GPU 服务器+算力调度平台”的融合基础设施, 是传统数据中心的增值性延伸。广义的智算中心是融合算力、数据、 算法的新型基础设施,通过数据服务、算法模型服务加速大模型的商 业化应用,推动 AI 产业化和产业 AI 化,是传统云的智能化升级。 智算中心的主要功能包括四个方面:1)数据存储与分析。智算 中心具备大规 出“适度超前建设数字基础设施,加快形成全国一体化算力体系”。工 业和信息化部、国家发展和改革委员会等部门先后出台《新型数据中 心发展三年行动计划(2021-2023 年)》《全国一体化大数据中心协 同创新体系算力枢纽实施方案》 《算力基础设施高质量发展行动计划》 《关于深入实施“东数西算”工程加快构建全国一体化算力网的实施 意见》《关于推动新型信息基础设施协调发展有关事项的通知》等重 要政策文件,提出加快部署、统筹建设高性能智算中心,推动智算中0 积分 | 49 页 | 2.69 MB | 5 月前3
云计算蓝皮书(2024年)-中国信通院-年政府工作报告提 出,适度超前建设数字基础设施,加快形成全国一体化算力体系。 云计算作为数字时代的新型基础设施,是整合科技创新资源,加快 形成新质生产力的关键要素和构建现代化产业体系的底座支撑。深 化推进云计算和实体经济融合升级,是技术革命性突破、生产要素 创新性配置、产业深度转型升级的重要路径,是助力新型工业化发 展、加快中国式现代化进程的催化剂。 过去一年,人工智能产业呈现井喷式发展,充分释放出以云计 69%。此外,中东地区的发展尤其 突出,有望迎来发展热潮,阿联酋计划投资 400 亿美元,加速云计 云计算蓝皮书(2024 年) 5 算在内的先进技术研究,亚马逊云计算服务等头部企业也加码沙特、 埃及等中东地区新型基础设施建设,这些都将持续推动亚洲、非洲 的云计算规模扩大。 来源:Gartner,2024 年 4 月 图 2 2023 年全球各区域云计算市场规模占比 从服务商层面来看,云计算巨头持续领跑全球,第二梯队深耕 经过多年发展,云计算技术已日臻成熟,成为承载各类新技术 创新发展的关键基础设施,并与多个领域融合衍生出新的技术方向。 “云+应用”方面,应用现代化促进技术革新和产业需求相互融 合,推动企业数字化升级转型。云原生作为新型基础设施,其资源 平台建设已日趋成熟,随着新技术栈与平台架构的不断升级,上层 应用生态面临革新,应用现代化应运而生,能够从供给方式、生产 模式、生产工具等方面助力企业提升生产效率和质量。当前,应用0 积分 | 59 页 | 4.51 MB | 5 月前3
2025年整机柜服务器产业研究报告式增长态势,未来智能算力将迎 来更加快速的增长,预计到2025年智能算力占比达到35%。 随着整体算力规模的快速攀升,作为算力核心承载主体的数据中心在单体规模、平均单机架功率方面稳步 提高,新型数据中心逐步向绿色低碳、集约高效、智能运维方向发展: 1) 绿色低碳:随着能源消耗和碳排放问题受到越来越多的关注,更先进的制冷和供电技术被普遍采用,比 如冷板式液冷方案,可降低制冷能耗,支持更 值;同时加大对太阳能、风能、水能等可再生能源的利用,降低数据中心整体碳排放。 2) 集约高效:随着人工智能对算力需求的高速增长,更高的单体算力性能、更高的算力部署密度和更大的 算力集群规模成为新型数据中心的显著特征。大模型的快速迭代加速了更先进的算力芯片模组、更高带宽的大容 量显存和内存、更大规模的高速互连网络的部署,推动了大规模、高密度、高效协同的算力集群部署和发展。 3)智能运维: 1.2 中国算力基础设施产业政策导向 “十四五”时期,我国数字经济转向深化应用、规范发展、普惠共享的新阶段。在国家“碳达峰、碳中和” 战略目标的引领下,新兴产业加速布局,算力基础设施作为新型信息基础设施的重要组成部分,呈现多元泛在、 智能敏捷、安全可靠、绿色低碳等特征,为实现“十四五”规划和2035年远景目标纲要中明确提出的“加快构建 全国一体化大数据中心体系,建设若干国家枢纽节点0 积分 | 63 页 | 4.83 MB | 4 月前3
基于可编程技术的6G用户面技术白皮书2025可编程用户面的需求及应用场景 1.1 研究进展 当前,业界已开启对下一代移动通信技术(6G)的研究探索。面向 2030 年及未来,人类社会 将进入智能化时代,6G 将构建人机物智慧互联、智能体高效互通的新型网络,在大幅提升网络能力 的基础上,具备智慧内生、多维感知、数字孪生、安全内生等新功能面对如此愿景,6G 的网络架构 和功能也会变得越来越复杂。为了使网络适应未来多变的需求,在 6G 网络中应通过引入端到端可 的全场景适应能力。 总之,基于云原生技术的端到端服务化架构是打造网络全场景适应能力的必要技术手段,为了最大 限度提升网络的适应能力,N2 接口服务化的研究是未来网络架构设计的重中之重。 不论是新型数据的引入导致传输协议的变化和多协议可按需共存,还是不同网络多接口服务化 演进都在透露出对可编程的需求,传输协议多样性和接口服务化既是可编程的一部分,也是可编程 最形象的一种具象体现,尤其是网络 需要做出变革,相比于服务化,微服务化架构更强调网络功能间相对独立和低耦合,以达到服务自 治、独立演进,6G RAN 的微服务化技术是实现网络高效弹性、内生设计、开放生态的重要一环。 微服务化 RAN 驱动力 未来 6G 新型应用的涌现对 RAN 性能提出了更高要求,促使无线网络向云原生、AI 内生、智简 可编程等方向演进。当前体系架构难以适应技术发展趋势,主要体现在以下几方面: 移动通信网元软件架构无法支持未来网络0 积分 | 34 页 | 4.53 MB | 5 月前3
中兴-面向智算场景的高性能网络白皮书2025HP-DCN网络的协议逻辑架构如图2所示,各层之间相互支撑,为智算网络提供立体的 高性能保障,各层主要功能如下: 物理层:高速率接口、低延时FEC、故障快速检测; 数据链路层:链路级无损、链路级可靠传输、新型转发机制; 网络层:新型负载均衡、新型组网拓扑、路由协议、telemetry技术; 传输层:拥塞/流控机制、丢包重传、网络多路径控制、选择性乱序重排、在网计算、 传输层安全。 HP-WAN为有损网络,主要元素包含端、网、管,其中: 同任务间进行合理分配,提升整体网络的带宽利用率。 在高性能网络的协同流程中,涉及各要素之间的接口和交互,为了支持通用标准化方案 部署,各物理单元之间解耦是至关重要的架构设计考虑要素。此外,中兴高性能网络架构也 在新型网络拓扑、路由协议优化和安全架构等方向持续探索,为网络高性能提供全方位的技 术支撑。 5 高性能数据中心网络关键技术 5.1 超大规模组网关键技术 5.1.1 大规模组网交换机:硬件基础,容量速率双升 4)多平面:数据中心、尤其是智算中心里,采用多平面的部署方式可以充分利用网络 拓扑特性,提供更高的路径选择灵活性,但对于传统IGP协议而言则很难部署。 5)新型拓扑适配性:在Dragonfly+等新型拓扑的冲击下,传统IGP协议的优势更难体 现。 RIFT RIFT协议是一种新型动态路由协议,专门针对Spine-Leaf架构设计,能很好的适配大 规模智算中心网络。 图 7 RIFT 南北向通告 RIFT协10 积分 | 41 页 | 1.89 MB | 6 月前3
B400G以太网助力智算中心光互联(20页PPT-移动)2022 年 12 月 2022 年中国移动全球合作伙伴大会发 布《新一代智算中心网络技术白皮书》 2023 年 8 月 2023 年中国算力(基础设施)大会发布《中 国 移动 NICC 新型智算中心技术体系白皮 书 2023 年 5 月 2023 云网智联大会发布《面向 AI 大 模型的智算中心网络演进白皮 书》 智算中心将成为支撑和引领数字经济发展的关键信息基础设施,将有效促进 进 AI 产业化、产业 AI 化的进 程 国家发改委:《全国一体化大数据中心 协同创新体系算力枢纽实施方案》 2021 年 5 月 2022 年 7 月 工信部:加速推进高端芯片、新型数据 中心等领域研发突破 2022 年 1 月 国家发改委:我国将布局八大算力网 络国家枢纽节点 加快数字经济发展 2023 年 5 月 中央网信办:以算力、赋能、产业发展 互动 走出数字经济特色化发展道路 GSE 技术体系 --- 核心理 念 中国移动提出全调度以太网( GSE )技术架构,最大限度兼容以太网生态,创新基于报文容器( PKTC )的转发及调度机制, 构建无阻塞、高带宽、低时延的新型智算中心网络,形成标准开放的技术体系,助力 AI 产业发展 创新以太网转发机制,实现三大核心机制转变 从“局部”决策到“全局”调度 从“流”分发到“报文”分发 从盲发 + 被动控制到感知 + 主动控制30 积分 | 20 页 | 1.87 MB | 4 月前3
中国移动:云智算技术白皮书(2025)路的需求,迫切需要构建适应智能时代的云计算新范式。 1.2 云智算的内涵 云智算是通过算网基础设施与人工智能核心技术深度融合,提供一体化算网 资源、全栈式开发环境、一站式模型服务、多样化场景应用的新型云服务模式。 云智算作为云计算的新升级,是以 AI 为核心驱动力的下一代云计算范式,是未 来算网智一体化算力网络的核心载体。 1.3 云智算体系架构 云计算向云和 AI 深度融合的云智算升级,体系架构从 2.2.1 智算文件存储 基于通算理念构建的存储系统在长期演进中形成的标准化协议和产品形态 无法满足智算应用发展对数据访存性能、数据流转效率等新需求,已成为制约智 算产业发展的生产力瓶颈。同时,新型存储介质、高速网络硬件的快速发展也为 存储系统的重塑提供了强大的动力支撑。 目前,大模型对底层存储的性能要求和高速发展的软硬件技术,正在推动存 储系统的革命性升级。基于高性能网络技术栈(如 RDMA、Infiniband)和高性 为例), 实现存储系统与智算应用的端到端协同适配,促进新型存储访存方式的变革,使 应用以更高效的方式使用存储系统,是提升智算业务效能的重要举措。 面向近期,以文件存储为核心的存储系统应聚焦智算场景的关键需求,基于 全新的软硬件融合技术以极简化思维进行系统重构,消除其在数据访存性能、流 转效率等方面对智算应用的制约。 面向中远期,文件存储应推动新型访存协议的标准化,并结合多级推理缓存 等组件形0 积分 | 30 页 | 716.31 KB | 5 月前3
共 38 条
- 1
- 2
- 3
- 4
