电力人工智能多模态大模型创新技术及应用方案(35页 PPT)强解 释性但泛化 能力 弱。 基于海量数据与 大规模预训练; 代表算法: DeepSeek 系列 Qwen 系列 GPT 系列 通过模型组合提升 预测精度; 代表算法: 随机森林 梯度提升决策树 神经网络 ) 深度学习机器学习人工智 能 4/37 在人工智能领域,数据、算力与算法构成发展基石——数据驱动模型训练,算力支撑复杂计算,算法优化 技术路径,三者协同推动人工智能向更高阶形态演进。 蒸馏模型知识 减少信息损失 知识空同映射 特征关系保留 梯度 精度 分析 的模 型量 化技 术 目 技 标 解决传统量化缺陷 保持模型性解 梯度精蜜分析量化 量化增量训练 边 缘 计 算 + 要素之一。 大模型轻量化流程 基于特征关系保留的知识蒸馏技术 基于梯度精度分析的模型量化技术 基于提出的基于特征关系保留的知识蒸馏技术与基于梯度精度分析的模型 量 化 技 术 , 有 效 地 解 决 了 AI 大 模 型 模 型 参 数 高 、 推 理 复 杂 度 高 的 问 题 。 搜集每层梯度信息、估计量化敏感度 基于量化敏感度确定量化步长 使用确定的比例和级别进行量化10 积分 | 35 页 | 7.61 MB | 2 月前3
2025年数字化转型基本普及智能化升级战略突破-十五五智能制造推进的战略思考报告-中国工程院(周济)61页 PPT务院国 资委、市场监管总局、国家数据局等六部门近日联合印发通知,部署开展 2024 年度智能工厂梯度培育行动。明确将构建智能工厂梯度培育体系, 按照《智能工厂梯度培育行动实施方案》《智能工厂梯度培育要素条件》 , 分基础级、先进级、卓越级和领航级四个层级开展智能工厂梯度培育。 55 2030 年以前,数字化转型达标级、优秀级、卓越级、 领航级工厂顺序对应成熟度模型一到四级水平,聚焦10 积分 | 61 页 | 13.48 MB | 4 月前3
新型智算中心:网络成大模型训练瓶颈 ,节点内外多方案并存(24页 PPT)等提出新的要求,新型智算中心是产业发展趋势; A I 大 模型需要部署在高速互联的多个 A I 芯片上,数据样本和模型结构被切分到多张卡或者节点上,卡间或节点间不仅有训练数据通信,还有模型 梯度 的频繁传递,对智算中心的网络互联提出新的要求,建议关注宝信软件。 • 风险提示:宏观经济波动、下游需求不及预期、 A I 伦理风险等。 请务必阅读正文之后的免责声明及其项下所有内容 可满足要求。 • A I 大模型:数据样本和模型结构被切分到多张卡或者节点上,卡间或节点间不仅有训练数据通信,还有模型梯度的频繁传递; • 数据并行( DP ):每计算设备(卡或节点)都有一个完整模型,将数据集拆分到多个计算设备同时训练,在反向传播中,各个设备上的梯度进行归约操作求平均,再更新模型参数。 • 模型并行( MP ): 1 )流水线并行( PP ):将模型按照“层”拆分为多个 出新的要求,新型智算中心是产业发展趋势; A I 大模型需要部署在高速互联的多个 A I 芯片上,数据样本和模型结构被切分到多张卡 或者 节点上,卡间或节点间不仅有训练数据通信,还有模型梯度的频繁传递,对智算中心的网络互联提出新的要求,建议关注宝信软 件。 • 宝信软件:随着国家大力发展数据中心产业,公司借助十四五规划和“东数西算”政策,将数据中心新建项目向华北拓展;公司对数据30 积分 | 24 页 | 947.01 KB | 9 月前3
厦门大学 景锐:人工智能在电力需求侧仿真与预测中的若干应用(18页 PPT)的参数 CNN 人 t 是 LSTM 保留 RNN 的 隐 含层传递关系,加入 遗忘门、输入门和输 出门,解决 RNN 在 时间序列训练时的梯 度消失与梯度爆炸 L Q saly M⁹ 简化结构,模型 参数更少,训练 速度更快 2017 Vaswani 等在论文《 Attention Is All You Need 》中提出 2014 和 Caglar Gulcehre 等提出 1997 Sepp Hochreiter 和 Jürgen Schmidhuber 提出 an 引入了自注意 力机制,提高 处理效率 解决梯度消失 问 题,可以处理更长 序列的数据 脱 磨 1989 Yann LeCun 等人 在 贝尔实验室开发 - an k- u LSTM i 卤 BP 网络 时间 1 620 积分 | 18 页 | 30.09 MB | 2 月前3
智算中心暨电力大模型创新平台解决方案(51页PPT)l 第 12 页 1. 数据预处理 • 数据清洗、标准化及特征工程 2. 模型训练 • 输入:标准化后的数据集 • 昇腾集群分布式计算: • 多节点并行计算梯度 • 参数服务器架构更新模型参数 • 节点间同步最新参数 • 验证评估: • 定期计算预测误差 • 反馈调优信号指导模型优化 3. 模型压缩 • 将 FP32 转换为 INT8 量化推理模型 倍,显著提升训练效率。 技术细节:采用梯度累积(累积 4 批次更新一次参数) ,优化训练 过程。 硬件配置:昇腾 910B ×8/ 节点, RoCE v2 网络(带宽 200Gbps ), 构建高效分布式训练环境。 框架优化:自动并行策略(数据并行 + 模型并行混合), 提升分布 式训练性能。 优化器选择:分布式优化器( Horovod+ 昇腾通信库), 优化梯度 同步和参数更新。10 积分 | 51 页 | 4.74 MB | 4 月前3
OSD智能制造生产线的搭建路径与关键点分析-49页》任务要求,打造智能制 造“升级版” , 结合智能制造最新实践和发展趋势,工业和信息化部组织编制了《智能制造典型场景参考指引 (2025 年版 ) 》。 现 印 发给你们,请参考做好智能工厂梯度培育、智能制造系统解决方案攻关、智能制造标准研制应用等相关工作,加快推进制造业数字化 转型、智能化升级。 工业和信息化部办公厅 数字化固体制剂项目应用场景及分类 △DNSTAR 工业和 求,打造智能制 造“升级版” , 结合智能制造最新实践和发展趋势,工业和信息化部组织编制了《智能制造典塑 场 景 考 指 ( 2 0 25 版 ) 》。现印 发给你们,请参考做好智能工厂梯度培育、智能制造系统解决方案攻关、智能制造标准研制应用等相长工作,加快推进制造业数字化 转型、 智能化升级。 工业和信息化部办公厅 标 题 : 工业和信息化10 积分 | 49 页 | 11.17 MB | 4 月前3
工业大数据采集处理与应用方案(206页 PPT)归不同的是,输出的结果是有限数量的离散变量。 应用比较广的分类算法: • 决策树( Desition Tree ) • 随机森林( Random Forest ) • 梯度下降决策树( GBDT ) • 极端梯度提升决策树( XGBoost ) • 梯度提升决策树( LightGBM ) • 贝叶斯( Bayes ) • 人工神经网络( ANN ) • 支持向量机( SVM ) 三、工业大数据建模 分类分析的思想20 积分 | 207 页 | 23.47 MB | 2 月前3
【应用方案】无人机XX区防尘解决方案注:上述阶段时间节点为暂定,根据业主实际需要确定。 无 人 机 X X 城 区 防 尘 场 景 应 用 场景应用一:污染物指标快速判定 搭载移动气体检测仪,配合数据链路,可在水平范围、垂直梯度、固定 点位等多个角度进行数据采集,实时监测 PM10 等污染物指标,根据数据结果 锁定污染源位置,有效弥补地面固定式检测站的巡查盲区。 场景应用二:工程裸露沙土巡查 实时采集 PM10 、 PM220 积分 | 22 页 | 21.34 MB | 9 月前3
河马行空低空气象服务系统建设方案部署于建筑物屋顶的微型气象站集 群,集成超声波风速仪、高精度温 湿度传感器和气压计,实现城市冠 层 0-100 米微气象要素的分钟级采 集,单站覆盖半径达 1.5 公里。 立体观测网络布局 三维梯度观测塔 在重点区域建设 80-150 米高的梯 度观测塔,每 10 米垂直间隔部署 传感器,实时监测逆温层、混合层 高度等边界层特征参数,为无人机 物流路径规划提供垂直剖面数据支 撑。10 积分 | 28 页 | 11.50 MB | 4 月前3
人机对话技术及动态(57页PPT)(2015) ACL benbe n Wh o 27 a m I 更好地建模多轮对话历史的语义 • 动机:利用 Attention 获取多轮对话历史语义信息, 避免循环式 神 经网络的梯度衰减问题 Wei-Nan Zhang, Yiming Cui,Yifa Wang, Qingfu Zhu, Lingzhi Li, Lianqiang Zhou, Ting Liu. Context-Sensitive20 积分 | 56 页 | 4.34 MB | 4 月前3
共 28 条
- 1
- 2
- 3
