AI 机房基础设施 系统建设 Construction of AI Computer Room Infrastructure System 供电技术 散热技术 运维管理 机房基础设施建设 Conten t ZOMI GitHub 2 供电技术 01 芯片单体功耗急速增加，单台服务器功耗提升 ● 芯片方面，英伟达的 H100 和 H200 单芯片功耗为 700w,GB200 GitHub 请输入内容 去 指运程应益世 e) 管理员 - 阿 伟 管理员洞伟 OpsPilot OpsPilot 总结与思考 04 机房基础设施系统建设 1. 供电技术挑战严峻，配电结构创新，新能源和储能应用是必然趋势 2. 散热技术以液冷散热技术为主，针对智算中心动态负载特性设计高效制冷解决方案 3. 运维管理采用智能运维技术，高效实时节约成本

........................... 21 第三章 赋能发展作用日益明显........................................... 24 一、信息基础设施提档升级........................................... 24 二、数据资源开发利用提质扩面................................ 的国家智慧教育公共服务平台。全民数字素养与技能持续提 3 升，我国 60.61%的成年人和 64.69%的未成年人（12-17 周岁） 具备初级及以上数字素养与技能。 （二）赋能发展作用日益明显。一是信息基础设施提档 升级。截至 2024 年底，累计建成开通 5G 基站总数达 425.1 万个，5G 用户普及率超 71%，300 多个城市实现 5G-A 网络 覆盖。建成 207 个千兆城市，千兆及以上速率光纤接入用户 算力规模达 493EFLOPS（FP16）。移动物联网加快向“万物 智联”发展，移动物联网（蜂窝）用户达 26.56 亿户。工业互 联网加速规模化应用，实现 41 个工业大类全覆盖，车联网 基础设施加速布局。北斗规模应用加速推进，北斗终端设备 （不含消费类电子）应用数量超过 2800 万台（套）。二是 数据资源开发利用提质扩面。数据基础制度体系初步建立， 数据资源规模质量持续提升，2024

网络运营者不履行本法第二十一条、第二十五条规定的网络安全保护义务的，由有关主管部门责令改正，给予警告；拒不改 正或者导致危害网络安全等后果的，处一万元以上十万元以下罚款，对直接负责的主管人员处五千元以上五万元以下罚款。 关键信息基础设施的运营者不履行本法第三十三条、第三十四条、第三十六条、第三十八条规定的网络安全保护义务的，由 有关主管部门责令改正，给予警告；拒不改正或者导致危害网络安全等后果的，处十万元以上一百万元以下罚款，对直接负 行整改、建设。 公安网安总队每年有等保通过数量考核任务。 网络安全等级保护建设将覆盖所有关键信息基础设施， 12 月 20 日，公 安部召开 2020 中国网络安全等级保护和关键信息基础设施保护大会，推进关 键信息基础设施安全保障体系建设。 关键信息基础设施主要涵盖 14 大行业： （ 1 ）能源；（ 2 ）金融；（ 3 ）交通；（ 4 ）水利；（ 5 ）医疗卫生；（ 6 融、公共服务、电子政 务等重要行业和领域，以及其他一旦遭到破坏、丧失功能或者数据泄露，可能严重危害 国家安全、国计民生、公共利益的关键信息基础设施，在网络安全等级保护制度的基础 上，实行重点保护。 （新的阶段任务） 第三十三条 建设关键信息基础设施应当确保其具有支持业务稳定、持续运行的性能，并 保证安全技术措施同步规划、同步建设、同步使用。 2017 年 6 月 1 日正式实施 2019

[2007]1360 号 公信安 [2009]1429 号 发改高技 [2008]2071 号 公信安 [2009]1487 号 公信安 [2010]303 号 公 信 安 [2008]736 号 《关键信息基础设施安全 保护条例》（征求意见 稿） 《网络安全等级保护条 例》（征求意见稿） 《中国人民共和国网络安全法》（ 2017 年 6 月 1 日） 开展等级保护的必要性 国家法律法规和政策规范要求开展等级保护工作，如《中国人民共 可能严重危害国家安全、国计民生、公共利益的关键信息基础设施，在网 络安全等级保护制度的基础上，实行重点保护。 第五十九条 • 网络运营者不履行本法第二十一条、第二十五条规定的网络安全保护义务 的，由有关主管部门责令改正，给予警告；拒不改正或者导致危害网络安 全等后果的，处一万元以上十万元以下罚款，对直接负责的主管人员处五 千元以上五万元以下罚款。 第五十九条（续） • 关键信息基础设施的运营者不履行本法第三十三条、第三十四条、第三十 以及监督管理，适 用本条例。个人及家庭自建自用的网络除外。 第六条【网络运营者责任义务】网络运营者应当依法开展网络定级备案、安全建设整改、等级测评和自查等工作，采取管 理和技术措施，保障网络基础设施安全、网络运行安全、数据安全和信息安全，有效应对网络安全事件，防范网络违法犯 罪活动。 第十二条【绩效考核】行业主管部门、各级人民政府应当将网络安全等级保护工作纳入绩效考核评价、社会治安综合治理

（二）无线技术持续突破创新.............................................................................8 （三）无线基础设施建设适度超前...................................................................16 （四）无线产品类型不断丰富........ 结合，推动消费电子、智能装备、智能网联汽车、行业智能等领域 新产品、新应用发展提速。无线产业边界正不断拓展，具身智能、 低空经济、海洋经济等领域成为产业发展新空间。无线基础设施的 智能底座作用正不断加大。5G 网络作为新型基础设施，至 2025 年 7 月末，我国 5G 基站总数已达 459.8 万个，覆盖范围持续扩大，广泛 支撑 5G 在 86 个国民经济大类中应用。低空智联网络建设稳步推进， 接收站正式投入运行，完成北京密云、新疆喀什、海南三亚、云南 丽江、黑龙江漠河 5 个国家级遥感卫星数据接收站，形成了完整的 卫星数据接收、传输、存档、处理、分发体系，成为我国空间信息 领域的核心基础设施。在通信领域，以航天驭星为例，建设了国内 无线经济发展研究报告（2025 年） 13 首个商业卫星测控指挥中心和全球 60 多套天线设备的地面站网，累 计服务超过 489 颗卫星/火箭。

级增长，应用的调用层次和调用关系变得冗长；分布 式云原生的深度应用，使得业务链路更加复杂。当上 层业务应用出现故障时，排障过程可能涉及从应用到 网络的完整链路，这其中包含业务应用、云服务实 例、云基础设施和服务器、网络、存储等物理设备。 典型的业务流量路径如：应用>容器>PaaS实例>虚 拟机>服务器>虚拟网络>物理网络。在针对这个路径 的运维实际工作中，应用、虚拟机软件提供方、服务 器和 全链路监控构建从应用到云平台的 全栈感知能力 从应用视角到平台视角，构建全面的指标体系，快速 感知故障 核心应用部署上云，从上到下可以分为四层，分别为 终端层、应用层、PaaS实例层和IaaS基础设施 层。如下图： 终端层严格意义上并不在云上部署，主要部署在 端侧，通过APP或者浏览器实现应用访问； 图2.2 典型云上应用部署模型 简单应用访问流程示例 微服务架构复杂应用访问流程示例 云数据中心2 传统数据中心 应用层通过在容器集群、弹性云服务器、裸金属 服务器上部署复杂的应用，实现某些业务功能； PaaS实例层主要是指云平台提供的容器集群、中 间件、数据库等实例资源； IaaS基础设施层主要指提供计算、存储、网络的 基础资源池，如云数据中心的存储池、虚拟网 元、计算资源池或者传统数据中心的服务器、网 络设备、存储设备等。 12 如上图所示，针对简单应用（绿色线条），可

数据库监控缺少手段、内存泄 露 被动式维护模式 故障发现不及时 故障处理效率低 故障对业务影响 大 系统运行风险高 运维工作量大 服务满意度不高 PART 02 IT 监控运维解决方案 总体思路 全面性 从基础设施、主机、虚拟机、容器集 群、日志、调用链全面具备监控能力 提供多种的监控指标的采集能力及办 法 自动化 具备监控脚本部署的自动化部署 监控主机的监控端口自动发现能力 平台化 加强平台化，所有监控指标统一处理 监控平台，建立主动式 IT 监控运维模式 人员 支撑 运维工程师 技术工程师 CIO 业务主管 运维主管 信息 推送 工作 支撑 数据 采集 故障 探测 采集 信息 应用服务 中间件 底层系统 基础设施 业务状态 连接 系统 移动应用 智慧社区 视频监控 WLAN … 系统 数据 采集 异常 检测 主动 预警 信息通知 邮件通知 声音告警 报告推送 大屏展示 可视 展示 主动 SDK 中间件 JMX/CLI 存储 SNMP/SMI-S 服务器 SNMP Agent 数据库 JDBC 新资源 协议 操作系统 网络流量 流量分析 硬件监控 存储监控 基础设施 系统层 中间层 应用层 业务层 vCente Nagios Cacti Zabbix PRTG… 对 象 内 容 层 级 工 具  对 IT 系统所包含的对象、资 源与内容进行细致的分层与

28 1 一、研究背景 （一）AI 大模型发展趋势及挑战 随着新一轮科技革命和产业变革加速推进，AI 大模型浪潮 席卷全球，成为最具影响力的创新科技，大模型被认为是未来人 工智能领域的关键基础设施。AI 大模型正加速定义及形成新服 务、新制造、新业态，成为数字时代的新质生产力。 随着技术演进，AI 大模型技术呈现以下显著发展趋势： 一是模型能力持续提升。随着深度学习技术不断发展，AI 络易用性。 四是高安全模型保障。在推理和训练的各个阶段，大模型都 可能成为网络攻击的对象，因此需要采取额外的安全措施来保护 模型不受侵害，保障数据的保密性和完整性，防止数据泄露和滥 用。此外，大模型基础设施在端到端供应链的安全性、稳定性和 坚韧性也存在巨大挑战，需加强AI大模型与自主可控芯片适配， 建设基于自主可控人工智能芯片、训练框架、交互网络的智算中 心。 （二）金融领域应用规划 20 ，可能会涉及 同城多数据中心甚至跨城市数据中心的 AI 集群融合承载。另外， 边缘数据中心可部署靠近用户的推理任务，以实现业务的快速决 策与处理能力，提升客户体验。 金融 AI 智算网络在基础设施之上，以网络运载力支撑 AI 算 力充分释放，不仅涉及数据中心网络，还涉及高吞吐的骨干网络 和敏捷低时延的分支网络，AI 算力网络如图 2 所示。都需要在 性能、可用性、可靠性和安全性多方面保障，以提升算力网络的

I编译器、基础AI框架、推理框架和三方套件，并通过OpenDAS 以开源方式提供AI扩展套件服务。 DAS与 ModelZoo、镜像仓库、创空间、开发者社区、AI 平台等构成一套完整的人工智能基础设施，全栈全场景赋能用户AI应用研 发，助力千行百业智能化转型，加速新质生产力建设。 DAS人工智能基础软件系统 基础数学库 适配两代产品/全兼容/性能优异 DCC编译器 适配gfx928/gfx936 Ollama LMDeploy ... FlashMLA LMSlim KTransformers ... 行业应用 政务 金融 科教 能源 互联网 电力 税务 医疗 ... 算力 基础设施 弹性计算平台适配 k8s-dcu-plugin k8s-vdcu-plugin dcu虚拟化组件 性能监控组件 故障诊断组件 海光CPU 海光DCU IB RoCE 分布式存储 对象/文件/块存储 门数据融合 与决策协同，解决传统城市管理响应滞后、资源调度低效问题。 现有电子政务系统难以支撑智能化服务，亟需AI驱动的工作流 重构提升行政效能。 响应国家信创战略，需在政务领域实现从算力基础设施到应用系 统的全栈国产化替代。 助力杭州建设"全国数字经济第一城"，需形成可复用的智能城 市技术输出能力。 HYGON 15 16 HYGON 海光DCU行业实战手册 方案亮点 /