级存取 +TB 级带宽，数据读取效率提升 50% 大规模组网 • 超大组网规模： 2 层 1:1 无收敛的 AI 网络架构， 最 大支持 128K 集群规模组网，千卡到万卡平滑 演进 千亿稠密 / 万亿稀疏 多模态 更大数据量存储和读写 ( 模型参数、 CheckPoint Graph MindStduio IDE MindStudio 命令行 OS Data 数 据解析 21 昇腾已支持国内外开源开放大模型， 实测性能持平业界 国内唯一已完成训练千亿参数大模型的技术路线， 业界主流大模型 PyTorch 实测性能均达到 0.8~1.1 倍业界 1.00X 业界 1.05X 业界 70B 0.83X 业界 最新主流开源模型均已陆续适配并商用中

，推理生成速度最高能达 到 14 tokens/s 。 甚至有开发者借助这一优化技术 ，在 3090 显卡和 200GB 内存的配置下 ，使 Q2_K_XL 模型的推理速度达到 9.1 tokens/s ， 实现了千亿级模型的 “家庭化” 运行 传统方案： 8 卡 A100 服务器成本超百万元 ，按需计费每小时数千元 清华方案： 单卡 RTX 4090 方案 ，整机成本约 2 万元 ，功耗 80W 4.4 本地部署大模型方

性。采用边缘计算方案来缓解时效性问题，但是这对 边缘端计算硬件的实时处理能力提出了挑战。 第二，算力问题。 无论是训练 AI 算法还是各种工业大模型，都需要强 大的算力支撑。工业大模型动辄参数规模都在十亿、 百亿甚至千亿级别，需要庞大的计算资源进行训练。 这种训练过程涉及海量的数据运算，对 CPU、GPU 或 NPU 等加速计算硬件提出了极高的要求。 第四，模型应用准确性问题。 工业大模型在实际应用中的准确度尚不尽人意。目前