电子行业AI+系列专题:边缘AI,大语言模型的终端部署,推动新一轮终端需求-20230531-国信证券-25页1750 亿个=315*10^21FLOPs;考虑训练时间要求在 30 天 完成(训练时间为 2592000 秒),则对应 GPT-3 训练所需算力为 121528TFLOPS;结合 A100 有效算力 78TFLOPS,得到所需 GPU 数量为 1558 个,对应 AI 服务器为 195 台。 推理阶段:按谷歌每日搜索量 35 亿次进行估计,假设每次访问提问 4 次,每次提问+ 回答需处理字数 425 亿个,则推理所需运算次数为 4760*10^21FLOPs;考虑推理时间以每 日为单位(推理时间为 86400 秒),则对应 GPT-3 推理所需算力为 55*10^6TFLOPS; 结合 A100 有效算力 78TFLOPS,得到所需 GPU 数量为 706315 个,对应 AI 服务器为 8.8 万台。 图12:算力计算公式 图13:近年推出的大预言模型有效算力比率 资料来源:NVIDIA,国信证券经济研究所整理 整理 表3:大预言模型算力测算 A100 PCle H100 PCle 训练阶段算力需求测算 Tensor Float 32(TF32) 156TFLOPS 756TFLOPS 有效算力 78TFLOPS 378TFLOPS GPT-3 训练所需运算次数 315*10^21FLOPs 315*10^21FLOPs GPT-3 训练所需算力 121528TFLOPS 121528TFLOPS0 积分 | 25 页 | 2.20 MB | 9 月前3
电子AI+系列专题:复盘英伟达的AI发展之路=315*10^21FLOPs ;考 虑训练时间要求在 30 天完成(训练时间为 2592000 秒),则对应 GPT-3 训 练所需算力为 121528TFLOPS ;结 合 A100 有效算力 78TFLOPS ,得到所需 GPU 数量为 1558 个,对应 AI 服务器为 195 台。 l 推理阶段:按谷歌每日搜索量 35 亿次进行假设,估算得到 GPT-3 每 日 需推理 token 亿个,则推理所需运算次数为 4760*10^21FLOPs ; 考虑推理时间以每日为单位(推理时间为 86400 秒),则对应 GPT-3 推理 所需算力为 55*10^6TFLOPS ;结合 A100 有效算力 78TFLOPS ,得到所需 GPU 数量为 706315 个,对应 AI 服务 器为 8.8 万台。 l 根据上述结论, GPT-3 新增 GPU 价值达到英伟达公司 FY23 收入的 39.4% 球 AI 服务器数量的 65.35% 。 GPU 相关 A100 PCle H100 PCle Tensor Float 32(TF32) 156TFLOPS 756TFLOPS 有效算力 78TFLOPS 378TFLOPS GPT-3 推理所需运算次数 4760*10^21FLOPs 4760*10^21FLOPs GPT-3 推理所需算力 55*10^6TFLOPS 55*10^6TFLOPS0 积分 | 30 页 | 1.27 MB | 9 月前3
金融行业银行客户经理基于DeepSeek构建AI Agent智能体应用方案(237页 WORD)道的 7 倍。与此同时,客户对 7×24 小时即时响应、精准产品匹配 的需求年增长率达 40%,传统服务模式已难以持续。 技术层面存在的关键瓶颈包括:自然语言理解准确率不足(现 有系统仅能达到 78%)、多轮对话记忆保持能力有限(超过 3 轮对 话后上下文丢失率 61%)、以及缺乏动态客户画像更新机制。这些 缺陷导致现有智能助手仅能处理 11%的客户需求,远未达到替代人 工的标准。 1 可实现毫秒级响应速度, 单日可处理超过 50 万次客户交互,相当于 500 名人工客户经理的 工作量。测试数据显示,在标准业务咨询场景下,其问题解决准确 率达到 92.3%,远超行业平均水平的 78%。特别是在产品推荐场景 中,通过客户画像与产品特征的向量化匹配,推荐转化率提升 40% 以上。 其次,在知识管理方面,模型通过持续学习机制保持知识实时 更新: 动态同步最新监管政策与行内产品手册 询、投诉、业务办理等对话样本),使意图识别准确率从 82%提升 至 96%。典型场景的语义解析效率优化对比如下: 场景类型 传统模型准确率 DeepSeek 优化后准确 率 理财产品咨 询 78% 94% 贷款条件查 询 75% 89% 账户异常处 68% 92% 场景类型 传统模型准确率 DeepSeek 优化后准确 率 理 多模态交互支持 集成语音识别(ASR)与文本生成(TTS)模块,构建端到端的语10 积分 | 247 页 | 2.05 MB | 3 月前3
中国推理算力市场追踪报告,2025H1-沙利文300多倍,这反映了中国 人工智能应用规模快速 增长。2025年中国推理 算力市场规模预计将达 到438.3亿人民币。 单位:亿元 110 139 171 182 195 260 330 30 41 59 78 105 150 240 28.57% 27.78% 13.04% 15.38% 36.67% 39.02% 0% 5% 10% 15% 20% 25% 30% 35%10 积分 | 12 页 | 1.12 MB | 3 月前3
电子行业:AI大模型需要什么样的硬件?-20240621-华泰证券-40页等 600584 CH 长电科技 55,615 29,555 78% 23,171 芯片封装 002273 CH 水晶光电 22,487 5,028 78% 3,933 红外滤光片、微棱镜、薄膜光学面板 300433 CH 蓝思科技 85,609 -14.5% 2.6% 11.8% -10.9% -15.4% -13.6% 0.2% 6.0% 18.8% 华为+荣耀 241 189 78 88 97 124 22.8 23.0 19.5 23.4 26.00 积分 | 40 页 | 2.60 MB | 9 月前3
中国制造2025:实现技术领先的代价研究报告(英文版)chips [and] putting in place an adequate framework to increase production by 2030”, among others. 78 The European Chips Act also shares some similarities with the US Chips Act, 79 setting the stage bloomberg.com/news/articles/2023-04-26/asml-europe-s-most-valuable-tech-firm-to-define-us-china-chip-war> 78 Shaping Europe’s digital future: European Chips Act, European Commission, last updated 20 th January10 积分 | 51 页 | 2.82 MB | 8 月前3
全球重点区域算力竞争态势分析报告(2025年)-中国通信工业协会数据中心委员会.......77 六、中国算力可持续发展能力...........................................................................78 七、中国算力产业发展优势与不足.....................................................................84 第四章 全球算力竞争态势 量资 产,不仅助力企业优化资产负债结构,也为算力基础设施的持续升级注入了强劲动力。 五、中国算力产业投融资情况 全球重点区域算力竞争态势分析报告(2025年) 五、中国算力产业投融资情况 78 六、中国算力可持续发展能力 1、能源与绿色化供给 算力作为数字经济时代的核心生产力,其持续、稳定、高效的运转高度依赖于坚实 可靠的电力供给。 充足的电力供给量为算力增长提供坚实基础。中国作为全球最大的能源生产国和消 能源结构转型为数据中心消纳绿电创造了有利条件。中国风电、光伏发电量均稳居 世界第一,在此基础上,国家计划逐步建立健全绿电直供、绿电绿证交易机制,快速实 全球重点区域算力竞争态势分析报告(2025年) 78 全球重点区域算力竞争态势分析报告(2025年) 79 全球重点区域算力竞争态势分析报告(2025年) 79 现零碳算力;发布《数据中心绿色低碳发展专项行动计划》等政策文件,推动将大型算10 积分 | 114 页 | 8.80 MB | 1 月前3
中国制造2025:实现技术领先的代价研究报告对外依赖。”该法案设定的目标是通过 “建设和加强欧洲在先进芯片设计、制造和封装方面的创新能力,并建立一个适当的框架,到 2030 年提 高产能”,以实现半导体全球市场份额达到 20% 的目标。 78《欧洲芯片法案》与美国的《芯片法案》有一 些相似之处, 79 这为欧盟、美国和中国在半导体领域的长期竞争奠定了基础。 迄今为止,尚无国家能够将整个先进芯片供应链完全本土化,因此,这对于中国而言是一个巨大挑 bloomberg.com/news/articles/2023-04-26/asml-europe-s-most-valuable-tech-firm-to-define-us-china-chip-war> 78 《打造欧洲的数字未来:欧洲芯片法案》,欧盟委员会,最后更新日期 2024 年 1 月 20 日,查阅日期 2024 年 2 月 7 日,10 积分 | 52 页 | 3.05 MB | 8 月前3
青岛市微电网发展研究——基于典型示范项目的调查将能源互联网列入青岛市战略新兴产业,提出加快建 设智能电网、微电网、分布式能源、新型储能等基础 设施网络,推动技术标准体系和产业基础建设 2021 关于印发《青岛市“十四五” 能源发展规划》的通知青政 办字〔2021〕78 号〕 统筹推进电网建设,致力打造安全可靠、经济高效、 绿色低碳、智慧共享的坚强电网,着力构建以新能源 为主体的新型电力系统。 2022 关于印发《青岛市“十四五” 应对气候变化规划和青岛市 温室气体减排和大气污染治0 积分 | 35 页 | 1.96 MB | 8 月前3
某银行数据中心项目可行性研究报告(174页 WORD)6.5 数据中心空调方案 65 6.6 配套办公用房空调方案 77 6.7 余热回收方案 77 6.8 通风、防排烟系统 78 7 给排水设计方案 78 7.1 设计依据 78 7.2 设计范围 79 7.3 给水系统 79 7.4 排水系统 79 7.5 给排水管材 80 8 电气设计方案10 积分 | 193 页 | 10.49 MB | 3 月前3
共 21 条
- 1
- 2
- 3
