新型智算中心:网络成大模型训练瓶颈 ,节点内外多方案并存(24页 PPT)新型智算中心改造系列报告一: 网络成大模型训练瓶颈 ,节点内外多方案并存 证券研究报告 | 2024 年 5 月 5 日 行业研究 · 行业专题 计算机 · 人工智能 投资评级:超配(维持评级) 请务必阅读正文之后的免责声明及其项下所有内容 • A I 大模型训练和推理拉动智能算力需求快速增长。 a )模型迭代和数量增长拉动 A I 算力需求增长:从单个模型来看,模型能力持续提升依赖于 力、显存、互联需求再次升级,高速互联的百卡“超级服务器”可能成为新的设备形态,智算中心将走向超 级池化阶段,对设备形态、互联方案、 存储、平台、散热等维度提出新的要求。 • 网络互联:节点内外多方案并存。 1 )节点内:私有方案以英伟达 NVLink 为代表, NVLink 已经发展至第五代产品,同时支持 576 个 GPU 之间 的无缝高 速通信;开放技术方案以 OAM 和 UBB 为主, OCP 请务必阅读正文之后的免责声明及其项下所有内容 网络互联 - 节点内外多种互联协议并 存 资料来源:《数据中心 2030- 华为》,国信证券经济研究所整 理 • 大模型场景,私有和开放技术方案并存。针对传统传统的中小模型, PCIe 技术方案已经非常成熟;面向大模型场景,基于扣卡模组的卡间高速 互 联方案主要分为私有和开放技术两大类,私有方案以英伟达 NVLink 为代表,开放技术方案以30 积分 | 24 页 | 947.01 KB | 8 月前3
与非网:2024年中国智算产业全景调研:技术重构与演进报告& Proprietary. Do not reproduce or distribute. 1. 智算产业现状总览 智算产业发展格局与演进趋势 来源:与非研究院 智算产业呈现高度集中与多元化并存的格局,技术创新和政策驱动为主要推动力,绿色低碳与国产替代 成为新趋势。 10 Supplyframe, Inc. Confidential & Proprietary. Do not reproduce & Proprietary. Do not reproduce or distribute. 4. 未来挑战与趋势 核心点: 技术挑战 | 集群规模扩大导致故障率上升,算法效率提升与算力需求增长并存。 架构演进 | 单节点性能提升+横向扩展并行,推理需求驱动芯片架构创新。 应用落地 | AI与实体经济深度融合,需解决算力利用率低、场景适配不足问题。 长期趋势 | DeepSeek等算法优20 积分 | 41 页 | 17.39 MB | 7 月前3
工业大模型应用报告........................................................................... 4 2. 大模型和小模型在工业领域将长期并存且分别呈现 U 型和倒 U 型分布态势 .....................................6 2.1. 以判别式 AI 为主的小模型应用呈现倒 U 型分布 ...... 全性、可靠 性要求极高的工业场景中,如航空航天、核能等领域,幻觉现象可能带来灾难性的后 果。 6 工业大模型应用报告 2. 大模型和小模型在工业领域将长期并存且分别呈现 U 型和倒 U 型分布态势 从工业智能化的发展历程可以看出,在大模型出现之前,人工智能技术在工业领 域已有较多应用。在前期阶段,工业人工智能的应用主要是以专用的小模型为主,而 大 6利用检索增强生成(RAG)技术,将大模型与其工业 DataOps 平台 Cognite Data Fusion 结合起来,为工业客户提供基于数据的洞察和解决方案。通过将不 同来源和类型的工业数据进行向量化,并存储在一个专门的向量数据库中,可以作为 RAG 的检索源,与用户的自然语言提示一起输入到大模型中,使模型能够提供更加精 准的建议或解决方案。 C3.AI7推出的 Generative AI0 积分 | 34 页 | 4.98 MB | 8 月前3
新质生产力研究报告(2024年)——从数字经济视角解读的劳动对象创造了满足 更加多元化、个性化需求的物质基础。二是塑造新型劳动资料。数字 经济推动劳动资料从实体形态向虚拟形态延伸,全方位深化拓展劳动 资料的作用范围,劳动资料分布呈现集中化与分散化并存。三是培育 新型劳动者。数字技术大幅提升劳动者数字技能,深刻改变劳动者工 作方式,催生了自主创业、兼职就业等灵活就业新模式,以工业机器 人为代表的智能装备在劳动过程中得到广泛应用,极大拓展了劳动者 租车、私家车、面包车等传统劳动资料作用的物理和市场空间范围, 综合提升社会资源配置效率和生产力水平。 劳动资料分布集中化与分散化并存。工业经济时代,劳动资料随 着工业企业规模不断扩大,越来越向大企业集中。数字经济时代,劳 动资料分布呈现集中化与分散化并存的发展态势。一方面,核心数字 劳动资料集中化分布。正如同工业大机器往往由企业所有,数字经济 时代,算法、芯片等核心劳动资料一般由数字平台所有,劳动者通常0 积分 | 43 页 | 1.27 MB | 9 月前3
中国制造业国际化:趋势、风险及应对提升出海效率助力纺织产业国际化 挑战:全球经济复苏步伐放缓,纺织服装传统 CCID CCID CCID CCID CC ID CCID CCID CCID CCID 重点产业国际化机遇和挑战并存 市场需求不振抑制产业国际化 加强谋篇布局,增强制造业国际化前瞻性 0110 积分 | 10 页 | 1.22 MB | 9 月前3
某大型汽车零部件制造企业ERP系统建设方案(218页 PPT)统一的考核规则 • 统一的异常判定规则 • 关键资源集中控制、 集中统筹共享 • 实现跨职能的信息、流程 横向贯通,提高整体协作 效率 • 实现集团上下的纵向贯 通,建立满足多级组织共 性与个性并存的管理需求 • 实现标准、规范规则与业 务执行的贯通,实现精益 管理思路的落地实现 建立流程和组织的一体化,实现横纵贯通 • 打造智能化管理门户, 集中提取各系统数据, 满足各层级领导实时监 统一的考核规则 • 统一的异常判定规则 • 关键资源集中控制、 集中统筹共享 • 实现跨职能的信息、流程 横向贯通,提高整体协作 效率 • 实现集团上下的纵向贯 通,建立满足多级组织共 性与个性并存的管理需求 • 实现标准、规范规则与业 务执行的贯通,实现精益 管理思路的落地实现 建立流程和组织的一体化,实现横纵贯通 • 打造智能化管理门户, 集中提取各系统数据, 满足各层级领导实时监 统一的考核规则 • 统一的异常判定规则 • 关键资源集中控制、 集中统筹共享 • 实现跨职能的信息、流程 横向贯通,提高整体协作 效率 • 实现集团上下的纵向贯 通,建立满足多级组织共 性与个性并存的管理需求 • 实现标准、规范规则与业 务执行的贯通,实现精益 管理思路的落地实现 建立流程和组织的一体化,实现横纵贯通 • 打造智能化管理门户, 集中提取各系统数据, 满足各层级领导实时监20 积分 | 215 页 | 19.34 MB | 2 月前3
中兴-面向智算场景的高性能网络白皮书2025模型,当丢包率达到1%时,RDMA报文吞吐量接近为0。 3)不同负载情况下,网络性能指标波动,性能表现不一致。通用数据中心网络在轻载 时一般都可以达到较高的性能,但AI训练是多任务集群,在多任务并存的情况下,同时满足 各任务的高性能需求,对于网络资源的规划和保障提出了更高要求。 中兴通讯版权所有未经许可不得扩散 5 3.1.3 极致高性能是核心 为了最大化集群算力利用率,AI大模型训练通常采用并行处理机制,将一个任务分布在 精密 协同基础上的组件解耦,支撑更具成本优势和持续性的产业生态。基于硬件快速检测的全维 度性能可观测技术,也势必成为支撑下一代智算中心网络高效运行和交付的关键技术。 高性能广域网无损与有损路线并存。广域无损技术能够为业务提供低延迟、低丢包和高 带宽利用率的数据传输服务,除光互联方案之外,确定性网络技术也可用于提供广域长距无 损承载能力。由于广域无损对网络有极高要求,对于时延不敏感的业务,也可增强网络能力 事实上,根据Meta 最新公开的数据,在AI业务的驱动下,2023-2024年间Meta骨干网流量呈现出30%以上的 高增长,且AI流量绝对值已经超过了传统流量。 趋势五:高性能专线与广域公网并存,高通量广域公网受业务和成本双重驱动 受在线和线下计算两种不同场景的差异化需求驱动,高性能广域网将在可预见的未来并 存专线和增强性公网两种模式,前者面向时延极度敏感的在线分布式训练等场景,后者面向10 积分 | 41 页 | 1.89 MB | 9 月前3
2025年保险行业AI应用全景洞察报告(32页PPT)www.iresearch.com.cn 29 n 瞻趋势:保险行业 AI 应用呈现多场景落地与差异化并存的特点,未来 2-5 年有 望出现行业“超级智能体” 保险行业 AI 应用现状呈现多场景落地与差异化并存的特点:保险行业的 AI 应用覆盖保险价值全链路,从产品开发端的需 求 挖掘与精算定价,到销售端的 AI 电销、代理人辅助及营销素材处理,再20 积分 | 32 页 | 4.87 MB | 3 月前3
寻熵研究院:中国用户侧储能发展报告2025地消纳的重要方向,有望推动“新能源+负荷+储能”融合发展的新模式。逐年提升 数据中心可再生能源利用率是绿色数据中心建设的重点任务之一,储能成为保障 数据中心绿电稳定供应的重要解决方案。 未来用户侧储能市场发展将面对风险与机遇并存的局面,如何摆脱对于工商 业电价政策的高度依赖,如何在用户侧主体和虚拟电厂全面入市、新能源与负荷 融合发展的大背景下寻找市场发展之机,都将成为影响未来用户侧储能市场走向 的关键。 本报告由 市场参与门槛或将进一步提高。 在传统削峰填谷模式之外,数据中心、光储充一体化、备用电源、高速公路、离 网型微网等场景进一步丰富了用户侧储能的应用模式。 未来用户侧储能市场发展将面对风险与机遇并存的局面,如何能解决工商业 电价频繁调整对于削峰填谷模式之危,如何在用户侧主体和虚拟电厂全面入市、 新能源与负荷融合发展的大背景下寻找市场发展之机,都将成为影响未来用户侧 储能市场走向的关键。10 积分 | 38 页 | 2.65 MB | 22 天前3
《中国数字营销生态图(2025版)》解读报告-虎啸2025年的AI技术发展呈现出全球化、实用化的鲜明特 征。从资本投入到用户增长,从技术突破到产业应用,AI 正以前所未有的速度重塑各行各业。 中国力量的崛起为全球技术格局注入新活力,而挑战 与机遇并存的时代背景下,拥抱变革、构建新型领导力将 成为制胜关键。人工智能不再只是技术概念,而是驱动未 来发展的核心引擎,其演进之路才刚刚开始。 AI应用:从AIGC到AIGD,AI应用从供给拓展到决策 消费 者使用媒体,获得品牌信息最重要的工具之一,未来的品 牌要影响消费者,就要先从影响AI开始。对AI的营销 (Marketing To AI)至关重要。 对于企业来说,AI认知的机遇和挑战并存。机遇在于, 对于AI这个新触点,每个品牌都站在同样的起跑线上。挑 战在于,当下AI并非付费高就能直接获得排名提升或改变 推荐,AI最终给消费者程度的结果,是基于训练语料的知 识积累,联网搜索的信息引用,对消费者问题的意图判断, 分销模式差异:履约模式包括了线下门店上翻、专门 的前置仓,以及半店半仓的混合模式。 运营主体差异:主要是平台型模式(美团、饿了么、 秒送)与自营模式(沃尔玛、屈臣氏、山姆会员店、盒马) 并存。值得关注的是,越来越多的零售商开始采取双轨策 略,既运营自有小程序,也入驻平台。 比如,今年的双11,天猫就公布了优衣库、迪卡侬等 品牌的门店已开始在淘宝闪购上线,从过去的纯自营O2O 转向与平台合作。10 积分 | 107 页 | 2.65 MB | 22 天前3
共 110 条
- 1
- 2
- 3
- 4
- 5
- 6
- 11
