DeepSeekV3/R1 ，大幅提升从训练到推理的计算效率，降低模型创新及应用落地的门槛 降低学习复杂度 简化强化学习流程 降低后训练复杂度 推理优化 单次推理效率倍级提升 一次预测多个 token 推理倍级提升 FP16/BF16 1 前 1 后单流水 需要裁判模型评估 1 次 1token 预测 MHA/GQA 分组共享减少缓存 GPT4 16 专家选 2 FP8 混合精度 双向流水并行 Kernel 优 化 • 量化、混合精度加速 • 异步下发，多流水执行 第三方推理服务 3rd 支持 PyTorch / 昇思 • 少量代码实现训练向推理平滑迁 移 • 整图 / 子图优化 + 单算子混合推 理 MindIE-SD • 业界标准 RPC 接口高效对接业务 层 • 模型管理，集群管理， devops • 支持多实例并发 MindIE-Torch MindSpore 对接 开发者实 践 硅基流动一体机 伙伴 元景一体机 25Q1 25Q1 昇腾与 PyTorch 开源社区紧密合作， 共促 AI 生态创新发展 华为在计算机视觉、自然语言处理、语音识别等领域进行了广 泛的研究，并且在大模型领域也积累了成熟的研究经验。我们 相信 PyTorch 基金会将从他们对我们的成员和生态系统的支 持 中受益匪浅。 —— PyTorch 基 金 会 执 行 董 事

91.6% 的高校未建设校级算力平台。 这显然难以匹配大 模 型时代的要求 ，容易出现算力资源分散管理、 忙闲不 均、 共享不畅等问题 ，拖慢科研成果产出效率 大模型的技术栈复杂。 即使是目前广 受欢迎的 DeepSeek ， 在业界看来 ， 其落地门槛仍然很高 比如拿到一个开源的 DeepSeek 模型后 ，要先做算力适配 ， 一种简单粗暴的做法是多买一些已经适配过的卡 ，把它给 形象 ， 生成世界观 ， 生成 数值 ， 生成 3D 模型 ， 生成 NPC 对话 ， 音效生成 电商 生成商品标题 、 描述 、 广 告文案和广告图 娱乐 头像生成 ， 照片修复 ， 图 像生成 ， 音乐生成 影视 生成分镜头脚本 ， 生成剧 本脚本 ， 台词润色 等领域有着广泛的 应用 。 大模型的 训练需要大量的数 据和计算资源 ， 同时 也需要先进的技术和算法支持 。 随着技术的不断发展 ， 大模型的应用场景也在不断扩展 ， 未 来 将 会 更 加 广 泛 地 应 用 于 高 校 教 学 和 科 研 的 各 个 领 域 。 总结 谢谢 厦门大学大数据教学团队 2025 年 2 月 国内高校大数据教学的重要贡献者

蒸馏模 型 学生模型 小模型：相当于一枚小学生 ，知识面非常有限 ，但是胜在 没 教授那么大谱 ，给个板凳坐着就够了（部署成本低 ，推 理成 本低）。 老师模型和学生模型 大模型：像一位见多识广、知识储备庞大的“大教 授” ，无所不知 ，但是“供养”他很贵。 什么是模型蒸馏？ “ 模型蒸馏”就是把大模型学到的本领， 用“浓缩”的方式教给小模型的过程， 在保证一定精度

Neural Language Models",2020 ■ 万亿大模型预训练系统成本估计 ■ 条件：计算量 C≈ 6 * N * D ≈1.5*1 025 ■ 最低时间、成本估计 ■ 单 H800(25 万 ):1.5*1010 秒 (174000 天 ) ■ 1000 张 H800(2.5 亿 ):1 .5*107 秒 (174 天 ) 算力 ( 每秒 ) 显存 运力 生态 2024 年 7 月 3.1*107 6.2*107 DeepSeek v3 2024 年 12 月 2.8*106 5.6*106 DeepSeek V3 公开的单次极低预训练成 本 DeepSeek 全部训练单次成本： 5,576,000 美 元 单张 H800 GPU 每小时租赁成本： 2 美 元 泛大 模型 / 指标 DeepSeek V1 DeepSeek

年版 Intel® Industrial AI Playbook 2025 Edition 编委会： 主编：刘 俊、马小龙、朱永佳 编委：方辛月、高 畅、高杨帆、胡 杨、刘 波、吕晓峰、邱丽颖、单 娜、张 恒、张心宇 * 编辑按姓名首字母排序 人工智能 (AI) 技术的快速发展掀起了新一轮工业革命浪潮，通用大模型的出现让 AI 技术从专用化迈向 了通用化。AI 技术正在步入工业领域的千行 使您的核心与工作负载相匹配 • 高达 24 MB Intel® 智能缓存 确定性实时性 • 利用英特尔® TCC 进行实时计算 • 支持时间敏感型网络 (TSN) • 通过英特尔® PLL 锁相环技术，可锁单 P 核或者 4 个一 组 E 核作为实时任务，而其他核按需动态调整频率 工业特性 • IBECC 内存 • 处理器基本功率范围为 15W 至 45W，低功耗 SKU 支持 无风扇设计 • 采用性能核的英特尔® 至强® 6 处理器在全范围工作负载上表现出色，其主流系列产品拥有 8-86 个内核，在基于双 CPU 的 系统中，网络和存储外接卡拥有多达 176 个 PCIe 5.0 通道，而基于单 CPU 的系统中，单插槽产品则拥有 136 个 PCIe 通道。 所有英特尔® 至强® 6 处理器都能随着服务器利用率的增加而提供可扩展的每瓦性能，在整个负载线路上提供近乎线性的功 耗-性能消耗，这凸显了所有英特尔®

数学形式化的目的是提供一个完全客观和可验证的证明过程 ➢ 形式化具备消除模型幻觉的潜力，类似还有软件工程相关代码的形式化证明 ➢ 与此同时，安全价值的监管具有多元性: 人类的安全价值观具有多样性， 内建价值冲突 \ 单智能体系统下 的安全，并不保证多智能体系统安全 \AI系统伪装已被“安全对齐”，行为欺骗监管 ➢ 随着 VLA \ Agent 等模型下游和赋能应用兴起，确保模型AI系统准确应对不确定性，考虑物理规律下的人