华为昇腾DeepSeek解决方案DeepSeek R1 蒸馏模型 Huawei Proprietary - Restricted Distribution 关键性能 优化特性 24 参数面 用于智能集群分布式推理时参数交换,要求网络具备高吞吐低时延能力,部署高带宽的智能 无损 RoCE 网络,每台推理服务器 8 个 200GE ROCE 光口 样本面 用于访问存储区的高速大带宽互联的存储系统,推荐部署为 RoCE TCP/IP 有损网络,每台推力卡服务器 2 个 25GE 光口 带外管理 AI 服务器 BMC 管理,可选 业务面 CE6865E 8*25GE 推理调度管理流量 400G RoCE 交换机 Leaf CE9860*2 台 Spine CE9860*2 台 参数面 推理读流量 AI 推理服务器( Atlas 800I A2 ) 4 台 *8 口 *200GE0 积分 | 32 页 | 2.52 MB | 5 月前3
共 1 条
- 1
