预测模型（N-gram） • 优点：可解释、计算速 度快 • 缺点：从前向后单向计 算；单纯基于统计频次、 缺少对上下文的泛化； 随着n的增大，参数空 间呈指数增长 “预训练-微调” 学习范式 （BERT、GPT） 上下文学习、指令微调、 扩展规律 (GPT3、GPT4…) 基于Transformer架构的语言模型 • 优点： ✓ 长距离依赖处理能力强：自注意力机制能捕捉任 意距离的依赖关系。 浙江大学人工智能教 浙 DeepSeek-R1：监督微调+强化学习训练 DeepSeek-R1-Zero （强推理模型） 推理导向强化学习 （准确率奖励+格式奖励） 纯强化学习训练 低可控：生成文本可 读性差、语言混乱 高探索自由度 => 推理能力自我觉醒 （更长的思维链、更深层次的 推理路径） DeepSeek-V3 （基础模型） 监督微调 强化学习 图源自《ReFT: Reasoning 更强 在探索自 由度、学 习效率、 行为可控 性 找到动 态平衡 混合数据 监督微调 面向全场景的强化学习 （规则奖励+奖励模型） DeepSeek-R1 （强推理模型） 671B 第一阶段训练：增强推理能力，生成高质量推理数据 第二阶段训练：增强通用能力，避免灾难性遗忘 对V3模型 监督微调 推理导向强化学习 （准确率奖励+可读性奖励） R1-Zero生成的 长思维链数据

.......................................................................................59 3.2.1 模型微调与优化................................................................................................ 秒 Q3 业务处理准确率 82% ≥95% Q4 人力成本占比 35%营收 22%营收 FY2025 高净值客户覆盖 率 60% 85% Q2 技术实现路径上，将重点突破三个核心能力：通过微调 DeepSeek 模型构建超过 200 个金融专属意图识别的对话引擎，集 成 RAG 架构实现实时政策文档检索，并建立客户-产品匹配度动态 计算模型。该方案已在试点分行完成 POC 验证，理财推荐场景的 大模型的优势与应用潜力 DeepSeek AI 大模型作为国内领先的生成式人工智能技术，在 金融领域展现出显著的技术优势与应用潜力。其核心能力建立在千 亿级参数训练基础上，通过融合金融行业知识图谱与银行业务数据 微调，具备精准的语义理解、多轮对话管理和复杂业务逻辑推理能 力。在银行客户经理场景中，该模型展现出三大差异化优势： 首先，在服务效率维度，DeepSeek 可实现毫秒级响应速度， 单日可处理超过 50

20% 30% 40% 50% 60% 70% 80% 90% 100% 2024 2025 2026 2027 2028 推理 训练 训练 推理 预训练 二次训练 全参微调 局部微调 ToC推理 ToB中心 ToB边缘 业务 主体 大型互联网 运营商 大模型公司 行业头部企 业 大中型企业 大中小企业 大型互联网 大型企业 分支/ 中小企 算力 需求 超大规模

大量数据训练提高了模型的准确率，并可以应 用于多种任务中 针对性的解决方案 更适合解决金融行业的具体问题，与行业需求 和合规性要求相匹配 可迁移性强 在数据量较少的特定任务上，通用模型也可以 通过微调进行有效的迁移学习，大大减少模型 的训练时间和计算资源 高精度和合规性 提供更精确、可信赖的金融信息和建议，同时 符合行业规定 劣势 特定领域深度较浅 可能不具备特定领域（如金融）的深入理解和 的最后一个组成部分是应用层，旨在展 示 FinGPT 的实际适用性。它为金融任务提供实践教程和演示应 用程序，包括机器人咨询服务、量化交易和低代码开发。 【 LLMs 层】：处于核心位置，它包含各种微调方法，优先 考虑轻量级适应，以保持模型的更新和相关性。 【数据处理层】：该层专注于 NLP 数据的实时处理，以应对 金融数据固有的高时间敏感性和低信噪比的挑战。 【数据源层】： FinGPT

通过强化学习架构创新实现突破性性能，核心技术创新体现在训 练效能优化策略、双维度评价体系、 结构化训练范式三个维度。 DeepSeek-R1 采用分阶段强化学习架构演进，包括冷启动阶段、面向推理的强化学习、拒绝采样 与监督式微调、全场景强化学习等。 l AI 应用爆发在即，算力需求持续攀升，关注 ASIC 及服务器产业链。 Scaling Law 与“涌现”能力是大模型训练遵循的重要法则，随着 ChatGPT 引领全球 AI DeepSeek-V3 技术报告，国信证券经济研究所 整理 l DeepSeek-R1-Zero ：通过强化学习架构创新实现突破性性能。该模型突破性地采用纯强化学习 (RL) 方法，未经过传统监督式微调 (SFT) 即达成卓越性能表现，在特定任务基准测 试中实现对 OpenAI-o1 的超越。其核心技术创新体现在三个维度： 1 ）训练效能优化策略。创新性采用 GRPO( 群体相对策略优化 ) 示范数据进行模型初始化，有效缓解基础模型在初始训练阶段的波动性。 2 ）面向推理的强化学习。和 DeepSeek-R1-Zero 方式相同，但引入了语 言一致性 奖励，对推理密集型任务进行特别优化。 3 ）拒绝采样与监督式微调。使用已训练的 RL 模型来生成新的训练数据，通过构建推理数据和非推理数据提升模型的通用能力。 4 ）全场景 强化学习。为了同时平衡推理能力和通用能力，将不同类型的奖励机制有机结合，再次进行强化学习。

市场上公开的金融数据 ，预训练金融语料达到万亿级 tokens ， 同时 拥有一套自动化的流程 ，用于数据获取、清洗以及数据质量的验证， 每月可新增数千亿 tokens 优质预训练数据以及数十万条优质微调数据， 确保数据的实时性和准确性。 2 ）模型训练创新优化。构建了包括数据配比实验方案、 scaling law 实验体系、模型架构优化、分布式训练框架优化、硬件加速技术等 科学高效的大模型训练体系，

并在各个应用领域将其专业化。具体来说有三个特点：1）对于拥有的超级海量的 数据，无需进行人工标注，即进行自监督学习；2）基础模型规模非常大，参数规 模从十亿到千亿级别；3）训练出的基础模型具有跨领域知识，而后通过微调用降 低成本的方法来训练，以适应不同领域的任务。AI 2.0 的巨大跃迁之处在于，它 克服了前者单领域、多模型的限制。 图1：AI2.0 时代的特征是通过超级海量数据无需标注训练一个大模型 资料来源：创新工场，国信证券经济研究所整理

表1：历代 GPT 表现情况 模型 发布时间 参数量 预训练数据量 Tokens 学习目标 GPT-1 2018 年 6 月 1.17 亿 约 5GB 1.3B 结合无监督学习及有监督的微调 GPT-2 2019 年 2 月 15 亿 40GB 15B 学习在无明确监督情况下执行多种任务 GPT-3 2020 年 5 月 1,750 亿 45TB 499B 结合少样本学习和无监督学习

通信、智能停车场管理系统等技术。 改造之后的停车场，对于汽车驾驶员，可提供停车场厘米级 3D 找车位导航服务， 以及 AR 反向寻车服务；对于具备 APA（自动泊车辅助系统）和通信能力的自动驾驶 量产车型，场侧设备仅仅需要微调，便可提供 AVP 自动驾驶一键召泊车服务，为车主 提供了全新的出行方式。 图 5-2 长沙协作式智慧停车解决方案示意图 大学科技城和桃花岭景区停车场的车位检测数据纳入了湖南省的统一管理平台，

亿美元，正式跃升为搜索引擎领域的独角兽。该搜索引擎产品主要搭载第三 方大模型，包括 GPT-4o、Claude-3、SonarLarge(LLaMa 3)、由开源的 Mistral-7b 和 Llama2-70b 模型微调、增强得到的 pplx-7b-online 和 pplx-70b-online，用户可以根据自己 的偏好选择使用的大模型。依靠检索增强生成技术（RAG），Perplexity AI 使大模型和外部