与非网：2024年中国智算产业全景调研：技术重构与演进报告

微信扫码，打开到小程序

与非研究院 资深行业分析师 张慧娟 2024中国智算产业全景调研： 技术重构与演进 SupplyFrame Media + E-Commerce 2 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 智算产业现状总览 , 智算产业运行状况 , 智算中心核心驱动力 , 智算产业关键技术 , 智算产业竞争格局 生成式AI驱动的变革 , 生成式AI对智算产业的影响 , 生成式AI发展挑战 , 大模型对智算产业的作用 , 智算产业是否过度依赖大模型 算力基础设施架构和国产化情况 , 智算中心如何影响我国算力分配 , 算力卡供应情况 , 国产算力卡替代情况 , 智算中心AI芯片主要方向 , 智算中心利好AI芯片类型 未来挑战与趋势 , 如何提高智算中心运行效率 , 智算产业要解决的关键问题 , 智算产业发展挑战 , 智算产业应用领域 , 智算产业投资趋势 Agenda 3 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 1. 智算产业现状总览 核心点： 驱动力 ｜ AI训练与推理需求激增，驱动算力基础设施快速迭代 技术体系全景 ｜ 覆盖芯片器件层（CPU/GPU/TPU）、硬件设施层（AI服务器/液冷）、平台调度 层（弹性调度/绿色节能）、应用场景层（AI训练/边缘智能） 规模与增长 ｜ 2024年中国智能算力规模达725.3EFLOPS，同比增速74.1%，市场规模190亿美 元，增速超通用算力3倍 未来趋势 ｜ 2026年智能算力规模将达2024年两倍（1,460.3EFLOPS），市场规模增至337亿 美元 4 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 1. 智算产业现状总览 智算中心技术体系全景图 应用场景层 ｜ • AI训练 • 实时推理 • 边缘智能 • 科学仿真 算力资源层 ｜ • 基础算力 • 智能算力GPU集群 • HPC • 边缘算力 平台调度层 ｜ • 异构资源管理 • 弹性调度系统 • 数据湖仓 • 绿色节能控制 • 安全可信框架 硬件设施层 ｜ • AI服务器 • 存储阵列 • 高速网络 • 边缘节点 • 液冷机柜 芯片器件层 ｜ • CPU/GPU/NPU/TPU • HBM • DPU • 供电/散热模组 算法理论层 ｜ • 深度学习框架 • 分布式训练 • 模型压缩 • 联邦学习 • 能效优化 来源：与非研究院 5 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 1. 智算产业现状总览 我国智算产业主要驱动力 来源：与非研究院 AI算法和芯片是核心驱动力，大数据和云计算提供重要支撑，政府政策与企业需求发挥推动作用。 6 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 1. 智算产业现状总览 我国智算产业发展的关键技术 来源：与非研究院 智算产业关键技术，高性能AI芯片和大模型技术占比最高。云原生、云数据库、5G/6G通信、算力网络 等也发挥重要作用。 7 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 1. 智算产业现状总览 我国智算中心运行现状 大部分满负荷运行，满足当前算力需求 部分满负荷运行，存在一定程度的算力闲置 多数未满负荷运行，算力闲置情况较普遍 几乎没有满负荷运行，算力闲置问题严重 不确定 来源：与非研究院 我国智算中心整体运行良好，但需优化资源分配以提升整体效率。 8 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 1. 智算产业现状总览 影响智算中心满负荷运行的主要因素 市场需求不足，导致算力利用不充分 运维管理能力不足，影响算力发挥 电力消耗大，运营成本高，限制了满负荷运行 硬件资源利用率低，技术问题导致算力未充分利用 不确定 来源：与非研究院 市场需求不足、促成更多商用落地是目前最大障碍，但运维管理、成本控制和资源利用等问题也不容忽视。 9 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 1. 智算产业现状总览 智算产业发展格局与演进趋势 来源：与非研究院 智算产业呈现高度集中与多元化并存的格局，技术创新和政策驱动为主要推动力，绿色低碳与国产替代 成为新趋势。 10 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 1. 智算产业现状总览 我国智能算力规模和增长趋势： 2024年，中国智能算力规模达725.3EFLOPS，同比增长74.1%，增幅是同期通用算力增幅(20.6%)的3倍以上；市场 规模为190亿美元，同比增长86.9%。 未来两年，中国智能算力仍将保持高速增长： 中国智能算力规模： 2025年将达到1,037.3 EFLOPS，较2024年增长43%； 2026年将达到1,460.3 EFLOPS，为2024年的两倍。 中国人工智能市场规模： 2025年将达到259亿美元，较2024年增长36.2%； 2026年将达到 337亿美元，为2024年的1.77倍。 数据来源：《2025年中国人工智能计算力发展评估报告》 11 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 2. 算力基础设施架构和国产化情况 核心点： 基础地位 ｜ 算力基础设施是智算产业底座，我国在用/在建算力规模反映产业发展潜力。 架构选择 ｜ AI训练主要依赖GPU集群，推理向边缘算力延伸，需异构资源管理与高速网络支 持。 国产替代 ｜ 国产算力卡逐步替代进口，但关键芯片仍依赖国际供应链。 能耗挑战 ｜ 单机柜性能提升导致能耗压力，需液冷技术等绿色节能方案优化。 12 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 2. 算力基础设施架构和国产化情况 智算中心对我国算力格局的影响 集中度提高，算力更加集中在少数大型数据中心 推动算力向边缘计算下沉，满足实时数据处理需求 促进区域平衡，缩小不同地区的算力差距 影响算力价格，由于技术进步和规模经济，价格更加亲民 提高智算中心服务效率，促进产业高质量发展 来源：与非研究院 智算中心建设提升了算力集中度和效率，对促进区域算力平衡、降低算力成本、支撑产业高质量发展具 有重要作用。 13 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 2. 算力基础设施架构和国产化情况 智算算力卡供应稳定性表现 来源：与非研究院 算力卡供应主要受供应链和国际市场政策的影响，大多数情况下供应较为稳定，但仍有相当比例存在波 动。 14 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 2. 算力基础设施架构和国产化情况 智算算力卡价格分布 来源：与非研究院 高端算力卡技术门槛和成本偏高，不同品牌和型号之间存在价格差异。超过半数认为价格偏高，合理价 格产品占近三成，低价产品较少。 15 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 2. 算力基础设施架构和国产化情况 国产算力卡替代情况 来源：与非研究院 算力卡国产化进展显著，但整体进程仍需继续提升。 16 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 2. 算力基础设施架构和国产化情况 智算中心利好芯片类型 来源：与非研究院 GPU占据主导地位，CPU作为基础通用算力紧随其后。FPGA、AI ASIC芯片、DPU网络芯片和NPU等 专用芯片则在特定应用中发挥着重要作用。 17 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 2. 算力基础设施架构和国产化情况 人工智能训练和推理工作负载选用的计算架构 推理 训练 AI训练和推理工作负载所选用的计算架构，来源：IDC 在人工智能训练和推理中，CPU + GPU架构在训练中占据主导，推理中CPU + GPU和CPU Only架构并 重，ASIC和FPGA应用于特定场景下。 18 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 2. 算力基础设施架构和国产化情况 智算中心AI芯片主要方向 引入存算一体技术，解决存储带宽和功耗问题 引入稀疏化计算能力提升能效 芯片设计支持更复杂的AI算子 提升芯片推理的实时性和并行能力 来源：与非研究院 智算中心AI芯片发展主要集中在存算一体等架构创新、能效提升、支持更复杂AI模型，以及增强推理的 实时性和并行能力等方向。 19 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 2. 算力基础设施架构和国产化情况 国产AI算力芯片提升市场竞争力的关键 持续的技术研发和创新，包括架构优化、制程工艺等 持续提升性能与可靠性，实现自主可控 更好的成本控制与价格竞争力 确保稳定的供应链管理和原材料供应 持续提高市场需求适应性 有力的政策支持与资金投入 加强生态建设与上下游合作伙伴关系 其他 来源：与非研究院 国产AI算力芯片提升市场竞争力的关键在于持续的技术研发和创新，以及性能与可靠性的提升，逐步实 现自主可控。 20 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 3. 生成式AI驱动的变革 核心点： 范式革新 ｜ 生成式AI推动高性能算力需求，加速云-边-端覆盖与多元异构算力协同。 产业升级 ｜ 技术突破催生新玩家（如大模型服务商），降低应用门槛并催生微调服务模式。 服务格局 ｜ 传统算力机制无法满足大模型需求，定制化服务（独占式/大规模算力）成主 流。 成本优化 ｜ 缩短部署周期、提升数据控制能力，助力企业降本增效。 21 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 3. 生成式AI驱动的变革 发展生成式AI的关键技术 来源：与非研究院 算力芯片和大模型是生成式AI性能提升的关键。同时，AI算法、存储技术、网络技术等都非常重要。 22 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 3. 生成式AI驱动的变革 生成式AI对智算产业的最大影响 驱动技术创新，加速新产品研发和迭代 提高产业生产效率 引发对数据安全和隐私保护的重视 使就业结构发生变化，某些工作职能自动化 推动基础设施升级，包括数据中心和云计算平台 创造新的商业模式和收入来源 其他 来源：与非研究院 生成式AI主要通过更高效的数据处理和模型训练，驱动技术创新和提高生产效率，对智算产业产生了显著影响。 23 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 3. 生成式AI驱动的变革 生成式AI面临的最大挑战 来源：与非研究院 生成式AI的主要挑战集中在数据获取和质量上，其次是模型性能和计算资源，安全和隐私问题也不容忽 视，这些都是实现商业化的重要考量。 24 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 3. 生成式AI驱动的变革 解决生成式AI发展挑战的途径 加强模型的研究和开发，提高生成能力和泛化性 投入更多资源来获取和处理数据，提高数据的质量和多样性 采用更高效的计算和优化方法，提高模型的能效 其他 来源：与非研究院 解决生成式AI发展挑战的主要途径包括提高模型的能效、加强模型研究与开发、提升数据质量和多样性 等，其中提高能效最为关键。 25 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 3. 生成式AI驱动的变革 大模型对AI智算产业的作用 至关重要，是推动行业发展的核心力量 比较重要，但还有其它关键技术共同推动行业发展 一般重要，主要影响特定领域或任务 不太重要，对行业发展的贡献有限 完全不重要 来源：与非研究院 大模型确实对智算产业发展起到了关键作用，同时，其他技术如硬件加速、数据处理和算法优化等也不 可忽视。 26 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 3. 生成式AI驱动的变革 大模型发展的途径 更高效的训练方法，如减少训练时间和成本 更广泛的应用场景，覆盖更多行业和领域 更严格的伦理和监管，确保模型的公正性和透明度 更开放的合作与共享，促进知识交流和技术进步 更好的数据隐私保护，增强模型的安全性和可靠性 其他 来源：与非研究院 大模型的发展应重点关注高效训练方法和广泛的应用场景，同时兼顾伦理监管、合作共享和数据隐私保 护。 27 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 3. 生成式AI驱动的变革 智算产业是否过度依赖大模型 来源：与非研究院 大模型驱动智算产业发展，成为算力主赛道。但同时应注重技术多样性，以实现更高效、更灵活的发 展。 28 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 3. 生成式AI驱动的变革 避免过度依赖大模型的解决方案 推动跨学科研究、结合不同模域的知识，提高算力资源的使用效率，优化资源分配 开发使用多种规模和类型的模型，减少对单一大模型依赖 强化数据隐私和安全性措施，减少对大量数据的依赖 加强模型的可解释性研究，提高对模型决策过程的理解 研发更高效的轻量级模型，满足不同场景需求 提高算力资源的使用效率，优化资源分配 制定行业标准和最佳实践，引导合理使用大模型 其他 来源：与非研究院 大模型固然重要，但过度依赖有风险。技术多样性可以降低对单一技术依赖，针对不同场景提高效率和 效果，还可促进创新，推动产业的长期发展。 29 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 4. 未来挑战与趋势 核心点： 技术挑战 ｜ 集群规模扩大导致故障率上升，算法效率提升与算力需求增长并存。 架构演进 ｜ 单节点性能提升+横向扩展并行，推理需求驱动芯片架构创新。 应用落地 ｜ AI与实体经济深度融合，需解决算力利用率低、场景适配不足问题。 长期趋势 ｜ DeepSeek等算法优化主导发展，智算中心成为数字经济核心驱动力，前景广阔但 需持续突破能耗与成本瓶颈。 30 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 4. 未来挑战与趋势 智算产业对传统ICT的影响 作为转型推动力，促使产业向智能化、自动化方向发展 引入新的竞争者，增加了市场竞争激烈程度 推动了业务模式创新，如云服务、大数据服务等 影响投资和研发方向，更多资源被投入到智能技术的研发中 通过提供高效的计算能力，提升运营效率 对从业人员技能要求变化，需掌握AI、机器学习等新技能 带来了新的安全和隐私保护挑战，需要采取新的技术和策略来应对 其他 来源：与非研究院 智算产业通过推动智能化转型、引入新竞争者、促进业务模式创新和调整投资研发方向，对传统ICT行 业产生了深远影响，同时也带来了新的技能和安全挑战。 31 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 4. 未来挑战与趋势 提高智算中心运行效率的途径 优化运维管理，提升硬件资源利用率 提高算力需求，增加使用场景 降低运营成本，如通过绿色节能技术减少电力消耗 加强技术创新，提升智算中心的算力服务能力 不确定 来源：与非研究院 优化运维管理、提升硬件资源利用率是提高智算中心运行效率的关键，同时增加算力需求、降低运营成 本等也是重要途径。 32 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or distribute. 4. 未来挑战与趋势 智算中心应用预测 来源：与非研究院 智慧金融、医疗健康、多媒体和娱乐等领域对智算需求较高，智能驾驶、教育研究等领域正在发展阶段。 33 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce or