Gemini 是谷歌发布的大模型 ， 它能够同时处理多种类型的数据和任务 ， 覆盖文本、 图像、 音频、 视频等多个领域。 Gemini 采用了全新的架构 ，将多模态编码器和多模态解码器两个主要组件结合在一起 ， 以提供最佳结果 Gemini 包括三种不同规模的模型： Gemini Ultra 、 Gemini Pro 和 Gemini Nano ， 适用于不同任务和设备。 2023 年 12 即检索增强生成 ，是一种结合检索技术和生成模型的技术框 架， 旨在提升模型生成内容的准确性和相关性 其核心思想是： 在生成答案前 ， 先从外部知识库中检索相关信息 ， 再将检索结果与用户输入结合 ，指导生成模 型 输出更可靠的回答。 简单地说 ，就是利用已有的文档、 内部知识生成向量知识库 ，在提问的时候结合库的内 容一 起给大模型 ， 让其回答的更准确 ， 它结合了信息检索和大模型技术 4.4 本地部署大模型方 案 实时知识补充 模型的回复结合了业务知识和实时知识 ， 所以实时 性可以更好 减少模型幻觉 由于提问结合了业务知识 ，所以减少了模型的幻觉， 即减少了模型的胡说八道 保护数据隐私 由于日常的业务知识是保存到本地的 ， 所以减少 信 息泄露的风险 无需重新训练 不用重新训练模型 ，微调模型降低了成 本 4.4 本地部署大模型方 案 n

陷的多样性、表面反光的干扰以及生产线上的实时检 测要求，使得效率和准确率低下且容易漏检的人工质检和容易受复杂环境光干扰的传统机器视觉检测方法无法胜 任。将 AI 视觉算法技术与机器视觉成像技术相结合，利用经过缺陷图像训练的深度学习模型识别工业相机捕获的 缺陷图像，满足终端检测节拍要求 24 秒/轮毂，提高检测精度和生产线效率。 08 01 工业人工智能 (AI) 行业观察 以 消费电子产品对品质要求极高，过检指标和漏检指标严格，且产线速度快。很多产品缺陷种类复杂、缺陷细小、区 分度低，传统的人工检测和机器视觉方案，检出率低，速度慢，无法满足生产质量和高速产线的节拍要求。AI 技术 与机器视觉检测方案相结合，为这类难检缺陷提供有效解决方案。 以手机玻璃盖板为例，手机玻璃盖板在生产过程中可能会出现划痕、蹭伤、崩边、气泡、手指纹、水迹、水印等多 种微小且不易察觉的缺陷，缺陷种类最多可达 30 多种。必 1 秒/件之间，甚至更快。 传统的人眼检测，不但无法达到微小缺陷的检测精度要求，而且人眼容易疲劳，存在效率低、误检漏检偏高等问题， 无法满足生产的精度和节拍要求。将深度学习算法与高精度成像系统相结合，更快速地识别出产品图像中的缺陷及 种类，满足生产线对检测精度和速度的要求。 锂电池的质量直接关乎电动车的安全性，因此锂电对质检要求严苛。锂电生产过程中的检测工序繁多，包括原料生 产中的隔膜缺

未来展望：AI 原生时代的生存法则 DeepSeek 预示的不仅是工具革新，更是认知革命的序幕： ①能力坐标系重构 核心能力： ⚫ 跨域整合（将 AI 与行业 know-how 结合） ⚫ 价值判断（在 AI 建议中做出最优决策） ⚫ 情感智慧（弥补 AI 的情感计算短板） ②组织形态进化 ⚫ DAO（去中心化自治组织）： 通过智能合约+AI 协作平台，万人团队实现零管理成本运作 100 种可能性并标注风险 路径 ②感知升维突破 ⚫ 多模态进化：2025 年将实现“五感互联”，例如通过气味传感器分析食品安全，震 动反馈识别机械故障 ⚫ 时空穿越能力：结合历史数据与预测模型，企业可“预览”三个月后的市场格局 ③社会操作系统 ⚫ 城市智能中枢：在深圳试点中，DeepSeek 实时优化 1300 个红绿灯，早高峰通勤 时间缩短 28% 建议中的逻辑漏洞（如发现商业方案中的“合成数据偏 差”） ⚫ 价值判断：在 AI 提供的 100 种方案中选择最符合伦理的路径 ②智能协作力 ⚫ 混合智能：医生结合 AI 诊断与临床经验，使误诊率降低至 0.8% ⚫ 跨域整合：将 AI 工具与行业经验结合，如老匠人用 DeepSeek 设计非遗数字化方 案 ③情感创造力 ⚫ 审美突破：设计师通过 AI 生成 1000 种图案，筛选出最具情感共鸣的设计

reasoning 等带有明确解答过程的问题 ➢ 语言一致性奖励：引入 language consistency reward 衡量长推理链 可读性（通过计算CoT过程中目标语言的占比） ➢ 推理准确率奖励：结合 accuracy of reasoning tasks and reward for language consistency ➢ 成效：通过 GRPO ，模型在 AIME 2024 等数学基准上取得了显著 PRM总归是一种比较稠密的监督信号，对reward进行shaping可以使训练更稳定或 收敛得更快 ➢ PRM还有探索空间，可以让模型收敛得更快速或更稳定 (Scaling曲线的斜率更大) ➢ 和自动形式化验证的结合，提供Rule-Based 之外辅助的Reward Signal, 指导更密集 的奖励优化，赋能长思维链安全的验证 44 技术对比讨论：Over-Thinking ➢ 强推理模型存在Overthinking的行为 Reasoning）时，它可能会构造看似合理但实际上误导 性的 CoT，以隐藏其真正的意图。此外，CoT 仅是文本输出的一部分，并不代表模型的实际内 部推理过程，因此不能确保其真实透明。 ➢ 为了防止 CoT 变成伪装工具，需要结合AI-Driven 监督机制、对比推理（Contrastive Prompting）和 形式验证（Formal Verification）等方法。例如，可以让模型在不同监督环境下执行相同任务，检测

DM istriLb ti可 o n 以 将 K V C a c h e 降 低 为 = 1 . 7 % 只需存储图中的 c v, K 即可； 考虑到矩阵乘法结合律，具体实现过程中 W UK可以与 WUQ 融合、 WUV可 以与 Wo融合，从而无需为每个 query 计算 key-value 值。 t R t K 相比于 MHA ， MLA Proprietary - Restricted Distribution A Ascend 16 计算架构 CANN 深度开放，使能高效灵活开发，匹配开发者使用 习惯 算子加速库 XF 结合场景差异优化 运行时 NV Runtime KS 直 接 发 起 Kernel Launch GE 图引擎 MT 、 KS 自定义图融合 Pattern 类库 / 模板 XF 自定义切分策略 理 部 署 演 示 AI 基础知识 环境搭建示例 昇腾全栈软件 社区资源讲解 服 务 内 容 挑 战 CANN& AI 框架赋能 需求调研 模型 演示 昇腾 基础 结合昇腾社区样例，使能快速开发 DeepSeek 赋能流程 昇腾算子库 AOL 昇腾编译器 ATC Ascend Training tools 昇腾调优引擎 AOE Ascend Inference