3300 Token/s 系统吞吐 4940 Token/s@32B 7500 Token/s@14B 730 Token/s@14B 956 Token/s@8B 956 Token/s@7B 80 路 @14B 115 路 @8B 115 路 @7B 昇腾 DeepSeek 一体机： 大吞吐 + 高并发， 加速行业模型落地 模型参数： 14B/32B DeepSeek-R1-Distill-Qwen-32B DeepSeek-R1-Distill-Qwen-14B 14B INT8 Atlas 800I A2 256GB 7500 300 Atlas 300I Duo 1*Duo 96GB PCIE 730 80 DeepSeek-R1-Distill-Llama-8B 8B INT8 Atlas 300I Duo 1*Duo 96GB PCIE 956 115 DeepSeek-R1-Distill-Qwen-7B 等 英伟达 Codec SDK/CV-CUDA/ cuDNN/cuBlas/DALI 等 GPU 训练 -> 昇腾推理：提供 MindStudio 一站式工具链 ， 3~15 人天可完成迁移， 80% 场景仅需 3 人天 用户 APP 数 据采 集 GPU CUBE 计算单元结 构 为 8x8x4 （ A100 ） x.pkl y.pkl Huawei Proprietary - Restricted

算力 ( 每秒 ) 显存 运力 生态 政策风险 成本 华为 910B 320T=3.2*101 4 32GB 240 GB/s 较好 无 12 万 英伟达 H800 1000T=1015 80GB 900 GB/s 好 有 25 万 人工智能计算平台成本估计 算力 存力 运力 ■ 大模型扩展规律 ( 资本非常喜欢确定性故事 ) ■ 算力：算力越大 (X 轴 ), 模型效果越好

本地部署大模型方 案 DeepSeek R1 671B （满血版） 部署成本 1. 硬件采购成本 • 服务器集群 ：含 8 张 NVIDIA A100/H100 显卡的服务器 ， 市场价格约 80-120 万元 • 配套设备 ：液冷系统、 冗余电源等附加成本约 15-25 万元 2. 运维成本 • 电费 ：满载功耗约 6000W ， 年电费约 5-8 万元（按工业电价 1.2 元 / tokens/s ， 实现了千亿级模型的 “家庭化” 运行 传统方案： 8 卡 A100 服务器成本超百万元 ，按需计费每小时数千元 清华方案： 单卡 RTX 4090 方案 ，整机成本约 2 万元 ，功耗 80W 4.4 本地部署大模型方 案 5.1 AIGC 概述 5.2 文本类 AIGC 应用实践 5.3 图片类 AIGC 应用实践 5.4 语音类 AIGC 应用实践 5.5 视频类 AIGC 应用实践

酷睿™ i5- 12600HE 处理器 12 4 8 16 18 MB 高达 4.5 高达 3.3 2.5 (@45W) 1.7 (@35W) 1.8 1.3 是 企业 消费者 80 2 英特尔® 酷睿™ i3- 12300HE 处理器 8 4 4 12 12 MB 高达 4.3 高达 3.3 1.9 (@45W) 1.1 (@35W) 1.5 1.15