新型智算中心改造系列报告一： 网络成大模型训练瓶颈 ，节点内外多方案并存 证券研究报告 | 2024 年 5 月 5 日 行业研究 · 行业专题 计算机 · 人工智能 投资评级：超配（维持评级） 请务必阅读正文之后的免责声明及其项下所有内容 • A I 大模型训练和推理拉动智能算力需求快速增长。 a ）模型迭代和数量增长拉动 A I 算力需求增长：从单个模型来看，模型能力持续提升依赖于 更 大的训练数据量和模型参数量，对应更高的算力需求；从模型的数量来看，模型种类多样化（文生图、文生视频）和各厂商自主模 型的研发， 均 推动算力需求的增长。 b ）未来 A I 应用爆发，推理侧算力需求快速增长：各厂商基于 A I 大模型开发各类 A I 应用，随着 A I 应用用户数量爆发， 对应推 理侧算力需求快速增长。 • 智算中心从集群走向超级池化。智算中心是以 GPU 、 、 A I 加速卡等智能算力为核心，集约化建设的新型数据中心；随着大模型普遍进入万亿规模， 算 力、显存、互联需求再次升级，高速互联的百卡“超级服务器”可能成为新的设备形态，智算中心将走向超 级池化阶段，对设备形态、互联方案、 存储、平台、散热等维度提出新的要求。 • 网络互联：节点内外多方案并存。 1 ）节点内：私有方案以英伟达 NVLink 为代表， NVLink 已经发展至第五代产品，同时支持

2%。以大模型为代表的人工智能相关技术发展，驱动中国整 体云服务市场从“完善综合能力”向“构建融合能力”转型。技术能力革新与商业实践创新成为整体云服务行业关注焦点。 - 技术能力：以模型为核心，实现“云、数、智”深度融合，构建“内外兼顾”的技术能力。对外，云厂商围绕模型发展所需关键 要素，为自研模型、第三方模型提供相关算力、算法、数据产品与服务；对内，云厂商借助自研模型、第三方模型升级传统云产 。 - 商业实践：以落地为目标，推进“模型与行业”深度融合，打造“由点到面”的实践能力。云厂商依托现有行业解决方案，立足 长期客户服务经验，借助行业客户与生态伙伴支持，从行业场景切入，构建行业垂类模型。在商业实践中评估模型效果，探索商 业模式，缩小理论预期与应用效果的差异，缩短技术投入与商业回报的周期。 来源：专家访谈、公开资料整理、结合艾瑞云市场模型、艾瑞咨询研究院自主研究及绘制。 394 iresearch.com.cn 来源：专家访谈、公开资料整理、结合艾瑞云市场模型、艾瑞咨询研究院自主研究及绘 制。 中国基础云服务市场结构 人工智能加速发展，驱动基础云服务市场产品结构变革 - 市场概览： 2023年中国IaaS市场规模为3121亿元，增速为17.1%；PaaS市场规模为750亿元，增速为29.5%。随着以大模型为 代表的相关人工智能技术的发展，有望驱动基础云市场进一步形成“Pa

“索引”对多源异构数据进行时空化治理和融合，并借助知识工程和AI算法进行智能分析、挖掘知 识和辅助决策，可以很好地解决地理规律的复杂性、地理信息表达的多样性以及地理数据的不完备 性等关键问题。 以“模型+知识”智能驱动的AI CITY不是简单地在城市叠加技术元素，而是以AI为核心，融合联 接、计算、云、区块链等新一代信息技术，构建从感知智能到认知智能的全新技术体系，直接通过 由AI驱动的、具备 CITY关键特征 .........................................................................................16 2 概念模型 3.1 参考框架 ........................................................................................ ...........................................................................................19 2. 大模型中心 ................................................................................................

四层架构，推动算网大脑向算网智脑跃迁，构建全链 路可控用智安全，筑牢“供给者、汇聚者、运营者”定位。作为“供 给者”，融合中国移动算力、数据、算法优势，提供全方位能力支持； 作为“汇聚者”，打造 AI 生态平台，广泛汇聚多类型模型、多领域 能力、多场景智能体；作为“运营者”，以算网大脑为核心提供高效 运营服务，深化 AI 赋能。在此基础上，全面激活智能算力与应用普 惠新势能。 本白皮书详细阐述了云智算的发展背景、内涵，深入介绍云智算 ......... 19 2.5.5.3 低代码模型开发 ........................ 19 2.6 模型服务 .......................................... 19 2.6.1 模型汇聚 .................................... 20 2.6.2 模型智能体融合 ................... Infrastructure as a Service 基础设施即服务 2 PaaS Platform as a Service 平台即服务 3 MaaS Model as a Service 模型即服务 4 SaaS Software as a Service 软件即服务 5 AI Artificial Intelligence 人工智能 6 DPU Data Processing Unit

Model (LLM) 大语言模型 Traditional Deep Learning 传统深度学习 技术篇：英特尔 AI 产品组合 英特尔 AI 实战视频课程 英特尔中国 AI 实战资源库 基于英特尔® 架构的 AI 软件工具组合 03 10 15 30 36 37 CONTENT 目录 Large Language Model (LLM) 大语言模型 3 4 阿里云引入第五代至强® 可扩展处理器，实现 ECS g8i 算力再升级，为大模型 AI 推理加速添 新解，更易得、更易用、可扩展性强，满足从小模型到超大模型的各类需求。 • 使用处理器内置的 AI 加速引擎 -- 英特尔® AMX 和英特尔® AVX-512，提升并行计算和浮点运算能力； • 受益于第五代至强® 可扩展处理器显著提升的内存带宽和三级缓存共享容量，化解 AI 大模型吞吐性能挑战； • 利用第五代至强® 可扩展处理器内置的英特尔® 72B 参数级别的大语言模型分布式推理 文生图 创意辅助工具 AI 生成代码 虚拟助手 1.2.3 数据来源于阿里云未公开的内部测试，如欲了解更多详情，请联系阿里云：https://www.aliyun.com 英特尔并不控制或审计第三方数据。请您审查该内容，咨询其他来源，并确认提及数据是否准确。 算力需求激增：视频、数据库 等场景算力需求激增 智能化应用普及：大模型推理 需求爆炸式增长

04 具身智能 05 扩展现实（XR） 06 世界模型 07 空间智能玩家图谱 空间智能是主要基于3D视觉信息进⾏理解、推理、⽣成、交互的AI系统 4 信息来源：量⼦位智库 3D理解 数据 算法 3D⽣成 3D推理 交互 虚拟 世界 物理 世界 空间智能概览 自动驾驶 3D⽣成 具身智能 扩展现实（XR） 世界模型 空间智能概览：3D⽣成、自动驾驶、具身智能是空间智能不同成熟度的 应用领域，XR是空间智能的原⽣交互⽅式 5 信息来源：量⼦位智库 3D⽣成 扩展现实（XR） 自动驾驶 具身智能 物理 世界 虚拟 世界 终局状态 发展成熟度 世界模型 空间智能概览 自动驾驶 3D⽣成 具身智能 扩展现实（XR） 世界模型 • ⾼ • 软件服务可快速 普及应用，3D⽣ 成价格低 从智能三要素、普及便捷度、经济性出发，自动驾驶和3D⽣成是空间智 能最先成熟的领域，具身智能仍处早期，各要素尚未完备 • 汽车⾏驶数据（摄像头及 传感器）达到百亿英里级 • 仿真数据正在快速发展以 弥补真实数据的分布缺失 具身 智能 成熟度 XR 经济性 • ⾼ • 融合感知、规划、控制的 端到端⼤模型已经成为业 界共识 算法成熟度 • ⾼ • 头部玩家达到5万 卡H100 算⼒支撑 • 中 • 安全性和合规要 求⾼ 普及便捷度 • 中 • 有千万级规模的⾼精度3D 资产数据，但仍需要更⼤

9 2.3 趋势3 智算规模增长，算网深入融合，业界持续提升资源利用率 10 2.4 趋势4 大模型赋能运营商数智化转型，加速高阶自智 11 2.5 趋势5 数字孪生加速网络智能化演进，实现以虚映实，以虚控实 智能时代洞察 总结网络演变的六个方面，为理解未来业务和自智网络 提供了重要视角。 中兴通讯AIR Net高阶自智演进方案 通过数据和能力的开放解耦，助力端到端自动化流程 断点的打通；通过大小模型协同、Agent、数字孪生等 关键技术，解决自动化难点，降低网络运营技能门槛 并逐步代替人工实现网络自主闭环；通过价值场景及 成效落实，助力商业成效的闭环。方案采用可组装式 数字星云架构，通过数智引擎，提供各类服务能力，结 数字星云架构，通过数智引擎，提供各类服务能力，结 合场景自智能力，快速编排上线，并具备未来应用范 式演进能力。 自智网络发展趋势 结合当前标准发展和产业实践，从数字人直播、5G-A 等业务发展、云网算智融合的网络演进、以及大模型 /Agent，数字孪生等新技术和应用方面，进行深度洞 察，分析自智网络产业的发展趋势及面临的挑战，并提 出解决策略与建议。 成功案例分享 列举自动化、智能化、能效优化的高阶自智网络实践

创新性配置、产业深度转型升级的重要路径，是助力新型工业化发 展、加快中国式现代化进程的催化剂。 过去一年，人工智能产业呈现井喷式发展，充分释放出以云计 算为中枢构建的数字化智能化实体的竞争力。云计算作为大模型的 底层算力支撑，进入到“人工智能+”的新发展阶段，进一步影响人 类生产生活方式和全球产业格局，并呈现以下新发展特点： 一是各国持续提升云计算战略价值，安全发展成为欧美关注重 点。美国持续加 算投资，推 动本土云服务扩张和智能化发展。我国持续加强云计算基础设施建 设和行业应用，助力产业高质量发展。 二是大模型推动云计算产业开启新一轮增长，我国市场保持较 高活力。2023 年，全球云计算市场规模为 5864 亿美元，同比增长 19.4%，在生成式 AI、大模型的算力与应用需求刺激下，云计算市 场将保持长期稳定增长，预计 2027 年全球云计算市场将突破万亿美 元。2023 年，我国云计算市场规模达 服 务商对外国客户的身份识别和报告义务，拟议规定提供美国“基础 设施即服务”的云服务商、经销商须核验外国人客户身份信息，并 在特定情形下向美国商务部报告外国人客户的详细身份信息和人工 智能大模型训练活动情况。 欧盟发布宣言、计划，将云计算服务的使用率定为提升国家竞 争力的关键绩效指标，确认云计算作为国家科技创新和数字经济时 云计算蓝皮书（2024 年） 2 代的重要支撑。2023

新技能等方面进行一系列前期投资。而重中之重就在于 如何构建信任。 埃森哲调研发现，77% 的受访高管认为，只有以信 任为基础，才能释放 AI 的真正价值。除了负责任地使用 AI 之外，企业领导还需要确保数字生态系统和 AI 模型的 准确性、可预测性、一致性、可追溯性，以赢得客户和 员工的信任。在技术层面以外，人们希望 AI 能够按照我 们的预期公平、无偏见地工作，这一点非常重要。 我们坚信，未来就在脚下。新技术将为我们开启一个 自主宣言 3 目录 目录 01 二进制大爆炸 02 品牌新门面 03 大模型进入实体 04 人机学习循环 概要 AI自主宣言 可能无限，信任惟先 09-21 04-08 22-33 34-46 47-58 在界面趋同中赋予AI个性 人与AI互学共进，双向赋能 推动技术系统的根本性变革 基础大模型重塑机器人 技术展望 2025 | AI 自主宣言 4 概要 AI 自主宣言： 十年，研发人员一直以象棋为试验场，探索计算机是 否具备超越人类智能的潜力，这场胜利不仅引发了关 于 AI 技术未来发展的热烈讨论，兴奋和质疑之声都 不绝于耳。现在，新的角逐已然拉开帷幕。诸多企业 竞相构建最先进的 AI 模型，并将目光瞄准了通用人 工智能（AGI）， 2,3 与过去一样，这场竞赛吸引了企 业领袖、政府乃至全世界的关注。 虽然 AGI 在未来可能具有重大意义，但目前它仍 然遥不可及，许多技术和伦理问题尚未解决。当前企

QAOA 算法测试例 .............................. 30 表 10 用于网络流量预测的量子 Tsmixer 模型性能测试例 .............. 31 表 11 用于无线时空性能预测量子 TTM 模型性能测试例 ............... 32 表 12 量子计算机单系统硬件指标选择建议 ........................ 移动网络面临的算力挑战 移动网络正从移动通信网络向移动信息网络发展，融合了通信、 感知、计算、智能等多项网络功能，引入通信感知一体化、超大规 模 MIMO、去蜂窝网络（cell-free）、基于大模型的网络与空口、数 字孪生网络等新技术，在大规模信号处理、大规模网络优化、大模 型训练推理和网络大数据处理等方面，面临巨大的算法与算力挑战， 如图 3 所示，是典型的高算力需求行业。 图 指标。这是典型的组合优化难题，属于非多项式级复杂度（一般为 指数级），求解最优解将超越经典计算能力。 在人工智能方面，虽然机器学习的引入为移动网络数据处理与 智能化提供了新的解决方案，但大模型的训练与推理成为移动网络 新的算力需求来源。网络智能化任务主要涉及网络状态的预测、异 常检测和网络优化决策等。广义的网络状态预测包括网络流量预测、 用户行为预测、网络性能预测、无线信道状态预测、设备状态预测