...........17 图31： PaLM2 的从小到大的四种版本 .........................................................18 图32： PaLM2 在部分测试中体现出了优异性 ...................................................18 图33： ChatGPT App 欢迎界面 资料来源：知乎，国信证券经济研究所整理 我们可以粗略的计算训练 1750 亿参数的 GPT3 所需内存，大约需要 3.2TB 以上。 静态内存方面，大多数 Transformer 都是以混合精度训练的，如 FP16+FP32，以 减少训练模型内存，则一个参数占 2 个字节，参数和优化器状态合计占用内存 1635G。而动态内存，根据不同的批量大小、并行技术等结果相差较大，通常是静 态内存的数倍。更简洁的估算方法，可以假设典型的 亿参数的 GPT3 大概需要 3.2TB 内存。 推理所需内存则较小，假设以 FP16 存储，175B 参数的 GPT3 推理大约需要内存 327G，则对应 4 张 80G A100，如果以 FP32 运算，则需要 10 张。 请务必阅读正文之后的免责声明及其项下所有内容 证券研究报告 9 表2：大语言模型的计算 公式 注释 模型参数 优化器内存 梯度内存 激活重计算 模型训练内存

.......................................32 5.1 工程审计问题相关法条自动检索................................................................................................. 32 5.1.1 工程审计问题相关法条自动检索概述 ............. ............................................ 32 5.1.2 工程审计问题相关法条自动检索实现 .............................................................................. 32 5.2 工程项目智慧造价................................ DeepSeek - R1 - 7B 对应的显卡略高 DeepSeek - R1 - 14B 12 核及以上 32GB 及 以上 15GB 以 上 需 16GB 及以上显存的显 卡，如 RTX 4090 或 A5000 DeepSeek - R1 - 32B 16 核及以上，例如 AMD Ryzen 9 或 Intel i9 处理器 64GB 及

鲲鹏原生开发的核心技术理念 03 03 鲲鹏原生开发能力介绍 05 3.1 代码开发阶段 06 3.1.1 代码开发 06 3.1.2 代码优化 28 3.1.3 编译 30 3.1.4 调试 32 3.1.5 调优 37 3.2 流水线阶段 61 3.2.1 门禁检查 61 3.2.2 编译构建 66 3.2.3 调优 67 3.2.4 测试 68 3.2.5 版本发布 原生 Web/CDN openEuler 和毕昇 JDK 性能优化 压缩算法 NVMe SSD 原子写 KAE RSA 加解密 OVS 流表归一化 虚拟化调度优化 ExaGear AArch32 指令翻译软件 Gazelle 网络优化 OVS 流表网卡加速 vKAE 鲲鹏 GCC CFGO 反馈优化 高性能云盘优化 vCPU 热插拔 KAEzip 压缩解压缩优化 虚拟化 DPU 大数据 分布式存储 数据库 虚拟化 ARM 原生 HPC EC Turbo MySQL 可插拔在线 向量化分析引擎 Kbox 云手机容器 多瑙调度器 负载感知加速系统 智能写 Cache CRC32 指令优化 视频流引擎 多瑙调度平台 图分析算法 IO 直通 MySQL NUMA 调度优化 指令流引擎 机器学习算法 数据压紧 MySQL 可插拔线程池 元数据加速 MySQL 并行查询优化

2024 年的 785 亿元，对应 CAGR 达 45.11% 。 AI 芯片中 由于 GPU 通用型强，满足深度学习大量计算 的需求，因此 GPU 在训练负载中具有绝对优势。以 GPT-3 为例，在 32 位的单精度浮点数数据下，训练 阶段所需 GPU 数量为 1558 个，谷歌级应用推理阶段所 需 GPU 数量为 706315 个。 l 英伟达开辟 GPGPU 加速计算格局， GPU 架构演进及产品布局赋能 运算性能 （ TFLOPS ） 整型定点 运算性能 （ TOPS ） 显存 (GB) 显存带宽 (GB/s) 功耗 (W) Google TPU v4 2021 7nm - 275 275 32 1200 192 平头哥 含光 800 2021 12nm - - 825 - - 276 寒武纪 思元 370 MLU370-X8 2021 7nm 24 96 256 资料来源：英伟达 CUDA 文档，国信证券经济研究所整 理 资料来源： CSDN ，国信证券经济研究所整 理 l 《 AI 大语言模型的原理、演进及算力测算》 l 训练阶段：考虑采用精度为 32 位的单精度浮点数数据进行训练和推理。 以 A100 PC le 芯片为例（ H100 PC le 芯片同理）， GPT-3 训练所需 运算次 数为：样本 token 数 3000 亿个 *6*

DeepSeek开源R1模型，后训练阶段大规模使用了强化学习技术，在仅有 极少标注数据的情况下，性能比肩OpenAI o1正式版，不仅极大提升了 模型推理能力，也大幅降低了训练成本。同时，DeepSeek-R1蒸馏了6个 小模型，其中32B和70B模型在多项能力上实现对标OpenAI o1 mini。通 过推出高性能、低成本且开源的模型，DeepSeek给全球AI发展带来了模 型平权，同时也将刺激其他头部模型厂商加快推出性能更强、成本更具 ............... 15 图 31 ：闪极科技推出“录眸 OS” ...................................................... 16 图 32 ：闪极科技 AI 拍拍镜售价 ........................................................ 16 图 33 ：CES 2025 展出的 AI、AR OpenAI o1 正式版。 图 1：DeepSeek R1 性能比肩 OpenAI o1 数据来源：DeepSeek公众号，东莞证券研究所 同时，DeepSeek-R1 蒸馏了 6 个小模型，其中 32B 和 70B 模型在多项能力上实现了对标 OpenAI o1 mini 的效果。通过将 R1 模型知识蒸馏到轻量化模型中，不仅能够提升轻量 化模型的性能，同时也会降低成本，有助于进一步加快端侧

OpenAIo1-mini 。在开源 DeepSeek-R1-Zero 和 DeepSeek-R1 两个 660B 模型的同时，通过 DeepSeek-R1 的输出，蒸馏了 6 个小模 型开源给社区， 其中 32B 和 70B 模型在多项能力上实现了对标 OpenAIo1-mini 的效果。 请务必阅读正文之后的免责声明及其项下所有内容 DeepSeek-R1 发布，性能对标 OpenAI-o1 正式版 同 。 请务必阅读正文之后的免责声明及其项下所有内容 采用硬盘缓存技术大幅降低延迟和成本 图：数据分析场景，后续具有相同前缀的请求会 命中上下文缓存 DeepSeek -R1 16 元 32K 64K 4 元 1 元 8K 图： DeepSeek-R1 等模型输入输出价格对比 百万 tokens 百万 tokens 输 入 价 格 输 入 价 格 ( 9.18 开源 Llama3.1-405B 4050 85.2 Meta 2024.7.23 开源 Gemini-Ultra 未公布 83.7 谷歌 2023.12.7 未开源 Qwen2.5-32B 320 83.3 阿里 2024.9.18 开源 Gemin i 1.5 Pro 未公布 81.9 谷歌 2024.2.15 未开源 GLM4 未公布 81.5 智谱 AI 2024.1.16

··················································· 30 3 图书档案 ··················································· 32 4 航空 ······················································ 33 5 珠宝＆奢侈品＆艺术品 ··················· ················· 31 图表 24 中国快递物流市场 RFID 标签出货量分析（单位：亿个） ··· 31 图表 25 中国图书档案市场 RFID 标签需求潜力分析··············· 32 图表 26 中国图书档案市场 RFID 标签渗透率分析 ················· 33 图表 27 中国图书档案市场 UHF RFID 标签出货量分析（单位：亿个） ·· 34 图表 30 中国航空市场 RFID 标签出货量分析（单位：亿个） ······ 35 图表 31 中国珠宝＆奢侈品＆艺术品市场 RFID 标签需求潜力分析 ··· 36 图表 32 中国珠宝＆奢侈品＆艺术品市场 RFID 标签渗透率分析 ····· 36 图表 33 中国珠宝＆奢侈品＆艺术品市场 RFID 标签出货量分析（单位： 亿个）············

国内大模型：格局清晰，闭源追赶 GPT-4，开源具备全球竞争力 ...................................................................... 32 百度：文心大模型持续迭代，B/C 端商业化稳步推进 ...................................................................... 13,627 47% 6,452 金属结构件 2382 HK 舜宇光学科技 51,171 31,832 32% 10,207 摄像头镜头、模组 002138 CH 顺络电子 22,021 4,968 17% 864 射频电感、功率电感、车用磁性器件 Xlite Apple M3 Pro Max Intel Lunar Lake NPU 算力 14TOPS 45TOPS 18TOPS 45TOPS 内存 最高 32GB + 1TB 最高 32GB + 1TB 最高 128GB+TB 尚未发布 应用 PPT 智能创作、文生图、文档总结、 智能问答、AI 识图、会议纪要、智 会分身、设备调优 GPT-4o，Copilot+PC

显存 推荐 GPU 型号 纯 CPU 内存需求 适用场景 1.5B 4GB RTX 3050 8GB 个人学习 7B 、 8B 16GB RTX 4090 32GB 小型项目 14B 24GB A5000 x2 64GB 专业应用 32B 48GB A100 40GB x2 128GB 企业级服务 70B 80GB A100 80GB x4 256GB 高性能计算 671B 640GB+