2.2 低精度训练 ............................ 14 2.5.2.3 故障容错 .............................. 15 2.5.2.4 异构混训 .............................. 15 2.5.3 推理框架 .....................................16 2.5.3.1 推理并行效能优化 原生等技术实现了资源池化和弹性扩展能力，有效支撑了各行各业数字化转型。 随着千亿参数大模型等 AI 技术的迅猛发展，传统云服务体系面临严峻挑战，云 计算进入深水区：在算力方面，十万卡级超大规模 GPU 集群的异构算力需求已远 超现有资源池化的调度能力；在网络层面，AI 训练中 TB 级参数同步对时延极为 敏感，传统网络架构难以满足低时延、高吞吐的传输要求；在服务形态上，单一 的 IaaS/PaaS 服 1.2 智算超节点 2024 年英伟达发布的 NVL72 超节点支持单机内 72 个 GPU 高速互联，重构全 球智能算力竞争格局，进一步拉大中美算力技术代差。为此，中国移动基于原创 COCA 异构计算架构 [1][2]，联合 GPU 芯片、交换芯片、服务器整机等国产全产业链 伙伴，打造开放式架构大云磐石超节点，为大模型训练和推理提供更高吞吐、更 8 低时延的海量数据处理能力，推动解决国产智算核心“卡脖子”问题。

等提供数据支撑。 3.2 技术实现特点 多源异构数据统一采集存储 • 搭载统一的数据采集工具，以 标准化方式接入多源异构数据； • 采用分布式存储技术，将数据 存储于数据湖内，打破数据孤 岛。 Hetu引擎实现数据协同 • 基于Hetu引擎，实现湖仓内 GaussDB、Hive、HBase、ES、 ClickHouse等海量异构数据的秒 级交互式查询。 DSG+Kafka

 用户面：用于存储和共享不同主体的网络数据，以现有 5G 用户面为基础， 修改现有单元如下  eUPF（UPF+CUM）：支持联盟网络间的数据转发，主体网络内及网络间的 QoS 保障，实现异构网络数据的安全路由与协议转换。  智能面: 提供联盟应用的智能协调及预测功能。其中主要包括  AOM：资源能力智能编排保障，支持应用的全生命周期管理等。  数据面：DMM：数据的管理  通的关键接口，它不仅 负责数据的传输和协议的转换，还具备智能化的数据处理和安全管控能力。 在联盟网络中，不同主体网络可能采用不同的技术标准和协议，智能网关通 过协议转换和数据格式的适配，确保了异构网络之间的无缝对接。例如，在 运营商网络与垂直行业网络的互联中，智能网关可以将运营商的 5G 核心网协 议转换为行业专网能够识别的协议，从而实现数据的顺畅流通。智能网关在 联盟网络中的作用远不 析服务。 3.2.3 多要素编排 多要素编排是在复杂系统或网络环境中，对多种异构资源和能力要素进 行统一调度和管理，以实现资源最优配置和业务高效运行。它整合计算、存 储、网络、安全等资源，通过智能化调度算法和自动化工作流，使系统根据 实时需求动态调整资源分配。多要素编排的实现依赖于集中的编排系统，具 备异构资源集中管控、原子化能力封装、灵活编排策略和开放 API 接口等能 力。编排系

智简网络 针对 6G 时代应用需求的差异化、碎片化及定制化趋势，以及多维能力融合所带来的挑 战，提出了一种基于 6G 通感算智多维能力内生融合的原生基座技术。该技术以云化和虚拟 49 / 87 化的异构硬件平台为基石，将通感算智的多维能力作为核心驱动力，并通过平台化服务网络 实现各组件间的紧密协作与智能调度。在内部架构设计上，采用了一体化理念，确保网络能 够高效地支持通感算智的多维融合能力。对 多维资源的按需、实时且灵活的 配置。 图 2-3-6 AI 异构多维资源置换机制 53 / 87 如图 2-3-6 所示，通、算、数、智资源是强耦合的，AI 准确度与 AI 模型和数据相关， 而不同的数据量会导致传输时延的改变，并且数据量和 AI 模型的不同也会导致计算时延的 变化。因此，在 AI 异构多维资源融合方面，需考虑 AI 资源的多维性和异构性，根据资源 特性来研究分配和置换机制。在控制协 线承载生命周期 的控制方式，研究 AI 异构多维资源承载建立、配置、维护和释放，以及承载的切换机制， 支撑资源的灵活调度和置换，解决复杂情况导致的资源切换问题，例如，根据通信链路情况 （当前或者预测），进行模型资源与计算资源的控制管理，分别应用于模型控制功能（模型 结构设置）与计算控制功能（模型权重、梯度以及激活值的计算精度控制）。在 AI 异构多 维资源承载功能方面，涉及跨资源维度和跨

关于关键技术，白皮书强调了四个关键方向： 1、在网络计算中：通过将计算能力深度嵌入用户平面，实现了近边缘数据处理和实时响应。 2、 动态协议可编程性：支持按需定制和动态加载协议栈，以满足垂直行业的异构需求。 3、 功能服务化：通过基于微服务的架构将用户平面功能解耦，增强部署灵活性和资源利用率。 4、 路径可编程性：利用意图驱动和基于人工智能的动态路径优化来确保端到端的传输性能。 此外，本文 需求的角度出发，需要增强在数 据转发方面的细粒度的配置能力，实现可定制，才能更好的满足不同的需求。 分布式的算力 为了满足高可靠、低时延等 QoS 需求和感知、智能等应用场景的需求，6G 需要在网络内提供 丰富的异构算力。而基于通信网络的点多面广的特点，其算力资源也将是分布式部署的。分布的算 力对数据转发的需求不同于传统的通信网络，数据通路将不只是从终端设备到核心网用户面节点的 一对一的方式，还需要实现终端 新型应用的涌现对 RAN 性能提出了更高要求，促使无线网络向云原生、AI 内生、智简 可编程等方向演进。当前体系架构难以适应技术发展趋势，主要体现在以下几方面： 移动通信网元软件架构无法支持未来网络异构化及服务多样化：电信网元自身的软件架构变革 程度不高，未能充分利用缓存、消息队列、数据库、编排自动化等中间件能力，无法支持灵活快速 部署、弹性伸缩和高效管理，限制了无线网络提供差异化、高性能业务的能力；

调度操作系统基于算力标识自动注册上报，汇聚算力资源信息，实 现算力的描述、定位及寻址。例如，中国移动“百川”系统基于算 力标识已接入超过 1.9EFLOPS 的社会算力，和自有算力形成互补。 调度层面，操作系统屏蔽底层异构，提供智算等场景下的任务封装， 支持跨域调度，提供丰富的调度策略。算网云调度操作系统提供基 于任务封装的增删改查、数据卷挂载等能力，提供跨域、跨服务商 的任务调度能力，提供 GPU 独占和共享调度等丰富的调度策略。例 云计算蓝皮书（2024 年） 35 点布局的关键赛道。随着智能算力逐渐成为算力结构的主要组成， 传统的通用云计算正加速与智算融合，升级成为可服务于人工智能 技术和应用发展的智能云。智能云通过对大规模异构智算资源的融 合与调度，能够屏蔽各种底层复杂的计算资源、兼容多种芯片架构 和开源框架，提供丰富的云计算工具，提高算力资源利用率，保障 各种 AI 模型算法在智能云平台上实现高效便捷地运行。从体系架构 配和优化资源调度，实现提高整个系统工作效率的目标。二是基础 软件创新优化智能云调度管理能力。GPU 作为智能云的核心计算资 源，在对外提供云服务时仍存在异构化的特点，为满足用户的不同 云计算蓝皮书（2024 年） 38 需求，在 AIIaaS 中部署统一的 GPU 开发框架有助于消除支撑层智 算资源异构化带来的弊端，加速 AI 应用落地。在调度管理层面，使 用算网云操作系统完成智算资源的调度管理，充分发挥智算集群的

结构 化数据。高效的网络运营，离不开高效的大数据处理与支持。网络 大数据处理包括数据清洗与集成、数据降维、数据特征提取、知识 提取等，这些通常基于统计类模型或神经网络类模型来实现。海量 高维异构数据为模型设计、训练与推理带来极大挑战。 2. 移动网络算力需求案例 1）大规模网络覆盖优化计算需求 无线网络覆盖优化是保障网络服务质量和用户体验的关键。当 前网络覆盖优化不再是单点、单系统、分区优化，而是规模化、系 能力，重点评估扩展的技术复杂度和带来的扩展成本。表 6 给出了不 同技术路线的量子计算机单系统扩展面临的技术挑战和成本挑战。量 子计算多系统集成是指多个计算机的互联性与混合集成，包括同构互 联、异构互联、远程接入。连接多个量子处理器的能力，可实现更大、 更复杂的计算。表 7 给出了互联性扩展评估指标。对于远程访问能力， 还要考虑计算传输时延。 量子计算应用能力指标与评测研究报告（2024 扑量子比特操控） 材料成本、量子比特 读出装置成本 注：成本仅以当前产业水平评估，不考虑量产及技术突破的成本降低。 表 7 量子计算机系统互联性扩展评估指标 技术路线 异构性支持 互联数量 互联距离 互联方式 超导 支持 研究中 集群或远距 光纤/微波 离子阱 支持 研究中 研究中 光纤 光量子 支持 研究中 研究中 光纤

加速器的兼容。正如图 3-1 所示，通过灵活更换承载不同 AI 加速器的 UBB 模组，即 可达成打造统一液冷智算底座的目标 。兼容多算力底座的系统架构考虑单机柜部署 8 台 8 OAM 模组的智算异构液冷服务器，整机柜部署 64 个 AI 加速器高性能芯片，整机系统需要 兼容各种 HGX，UBB1.5 和 UBB2.0 标准接口的载板。在整机系统中做到已经经过管理软件 兼容性适配的，在硬件上经过结构件适配的 4、服务器设备的带外管理运维网络。 图 3-15 集群带内管理主网络（也称为南北向网络），与传统云计算计算节点的网络需求类似， 负责用户对 AI 集群的访问，容器的调度管理，AI 异构加速计算节点与高速存储系统之间的 文件读取，训练过程中 CheckPoint 存储和调用等功能。大部分的云服务商采用带内管理+ 存储+用户业务网卡三网合一的 DPU 网卡来部署南北向网络，私有云中也有带内管理，存 for AI 液冷占比高达 80%以上，实现极致能效和超低 PUE。 37 第七章 结论与展望 液冷智算开放架构凭借前沿技术创新与先进设计理念的深度融合，为高密度、异构计算 场景打造出一套为 8 个 OAM 模组形态 AI 服务器集群化部署和运维极为高效的解决方案。 展望未来，随着大语言模型（LLM）的持续演进，混合专家模型（MoE）作为新兴的高 效并行算法逐渐崭露头角，加之新一代

态逐步完善，CPU 平台所具备的多项优势使其能在满足大模 型推理性能的同时，又可兼具成本、绿色节能等方面的优势。 使用 CPU 构建大模型推理方案的优势 • CPU 作为通用计算资源更易获取； • 无需引入异构硬件平台的设计或有关人才； • 更易获得技术支持和维护； • 基于既有的 x86 架构设计的开发和部署方案更高效且 稳定； • 可复用既有平台的空闲算力，避免额外投资； • 可便捷地将 GPU Cycle 1 Cycle 2 Cycle 3 Complete Complete 白皮书 | 集成英特尔® Neural Compressor，腾讯云 TACO Kit 为 AI 应用带来高效异构加速服务 矢量神经网络指令 (VNNI) 扩展英特尔® AVX-512 以加速 CPU 平台上的 AI / 深度学习推理 Input 8-bit Input 8-bit Input 8-bit 29 面向智能视觉云的 GPU 解决方案，支持基于标准的开放式软件堆栈，针对密度和质量进行了优化，具有关键的服务器功能，可实 现高可靠性、可用性和可扩展性，有助于减少数据中心使用不同解决方案并管理异构或专有环境的需求，支持的工作负载包括： AI 视觉推理 媒体处理和交付 云游戏 虚拟桌面基础设施 AV1 编解码 ECC 内存 高达 256TOPS (INT8) 架构 基于硬件的 SR-IOV

分辨率优势和探测频率可调谐的优点，也将在射频器件的电磁场表 征领域发挥作用。 五、 应用讨论与建议 量子信息技术应用案例集（2024） 58 (一) 案例推广与发展前景 金刚石显微镜是为先进封装芯片及异质异构集成电路的故障定 位特别研发的，能够在几分钟内迅速而精确地完成缺陷的三维定位。 在当前时代，2D/3D 结构的先进封装技术以及 chiplet 芯片愈发普及。 这些技术采用了更高密度的集成方式，结合了不同材料和结构进行 StateVectorDB 也支持文档持久化存储，方便处理各种非结构化数据， 见图 36。 图 36 StateVectorDB 支持多种数据源转换 4）异构计算架构设计 StateVectorDB 采用了异构计算架构设计，如图 37，能够根据任 务需求和计算资源的可用性，动态分配任务到经典或量子计算节点， 支持数据的水平扩展与高可用性。算法采用 GroverSearchMerkleTree LSH，优化索引构建与查询性能。实现基于全同态加密的 隐私计算功能，在无需解密的情况下完成数据检索与计算。 图 37 StateVectorDB 异构计算架构设计 量子信息技术应用案例集（2024） 88 总体来说异构计算机构设计支持动态调度和分布式存储，确保 在大规模数据处理中的高效性和灵活性。 5）大模型兼容性 与 OLLAMA 兼容并支持如 Llama3、Qwen、ChatGPT