| 2025/02 58% 49% 16% 26% 19% 8% 12% 5% 4% 3% 2023 2027 推理平台及应用部署偏好 设备端 边缘服务器 本地一体机部署 私有云 公有云 来源：沙利文、头豹研究院 中国推理算力：定义与服务覆盖范围 关键发现 推理算力主要负责AI模型的推理任务，主要用于处理和执行已经训练好的模型进行实 际应用。这包括执行推理任务、 能够高效执行模型推理任务，以 确保快速响应时间和稳定的服务。 但不一定需要与训练时相同的硬 件配置 。  推理型智算中心的硬件更注重处 理速度和可靠性。 推理算力定义范围  随着AI从训练为重走向推理为主，私有化环境及边 缘的部署需求都在迎来爆发。 ？？？？？？？ ‘自行车’ 模型推理 Inference 模型权重 Model weights Forward 5 www.leadleo.com

transformer 的 decoder-only 架构 ，提供 7B 、 13B 、 30B 、 70B 和 130B 五种版本选择 ，最大允许 32k 文本输入 ，支持 API 接口 调用、 网页嵌入、共建、私有化部署等能力 ，并为用户提供一站式标注和评测服务。 通用领域： HithinkGPT 大模型在 C-Eval 、 GSM8K 、 MMLU 、 MATH 等 10 多个主流 Benchmark 域应用场景，且针对于金融任务， 回答速度极快，准确率较高，并支持多种语言输入与输出。 2 ）合规性、安全性高。充分学习中国的金融法律法规，在输出时符合中国金融市场的监管要求。 3 ）轻量化。支持私有化 / 云部署以及灵活 API 调用，推理端仅需一机 2 卡部署。金融机构可以基于 LightGPT 通过私域任务数据定制化精调大模 型， 打造机构专属大模型，满足个性化需求。 图表：恒生电子 WarrenQ

员工培 训 / 数 据管理 持续深化存量使用场景并探 索新的业务场景 2025 年 2 月 泰康保险 DeepSeek 客户服务 / 销售 / 核保理赔 / 投研 / 员工培训等 在私有化大模型基础上建立 其保险行业垂直能力 2025 年 2 月 中国人寿 DeepSeek 客户服务 / 风控合规 / 投研等 开展数字员工体系，开发垂 直场景大模型 2025 年 2 合规 / 运营 / 投行等 深化多模态应用 2025 年 2 月 浦发银行 DeepSeek 数字员工助手 / 流程自动化等 全面展开数智化 5.2. AI+ 银行，自研模型 +DeepSeek 私有化部署浪 潮 数据来源：东吴证券研究所整理 数据来源：公司公告 发布机构官方微信公众号 东吴证券研究所 29 --" AI 大模型 创造收益 存量业务模块 新生业务模块 协助银行部署 AI

管理咨询 共创案例——人工智能训练森林话术萃取 咨询解决方案 - （森林技术） 话术森林萃取 专精 AI 知识库设计 个性化知识库 匹配知识维度 嵌入开发场景 模型定制训练 模型私有化 训练定制模型 “ 小模型”开发 专家话术萃取 头脑风暴共创 话术话素研究 四 色 话 术 凝 练 带 教 式 O J T 本 地 化 部 署 营销成功 7%---24%

区数字化转型建设提供了可复用的标杆化解决方案。 5.2 数字化基础设施层 5.2.1 智能终端 智能弱电系统是园区数字化的关键底层支撑，其开放性与轻量化水平 直接决定整体系统的集成成本、运维效率与演进能力。传统弱电系统多采 用私有协议，各子系统（如消防、安防、楼控）间形成信息壁垒，数据互 通依赖定制网关，实施复杂、延迟高、扩展难，运维成本高且响应缓慢。 高标准数字园区要求推行“协议开放化+部署轻量化”双路径改造：协议 5.2.4.1.2 云部署形态 云部署是指将应用程序、数据和服务托管在由云服务提供商管理的 数据中心服务器上，并通过网络按需进行访问和使用的模式。其核心在于 资源的虚拟化、池化，主要分为公有云、私有云和混合云模式。云部署的 本质是将传统 IT 基础设施（如计算、存储、网络）以及平台能力（如数 据库、中间件、开发工具等）甚至应用软件本身，转变为可按需获取、弹 性伸缩的标准化服务。华为云作为全球领先的云服务提供商，提供了覆盖

月底恒生电子推出 WarrenQ-Chat 和 ChatMiner 两款大模型工具后， WarrenQ 上新 了 AI 写作、语音速记、小程序、招股书 / 公告深度问答四款新功能，并持续深入 私有知识库问答、智能投顾 / 投研 chat 助手等金融业务场景。目前， WanrrenQ 服 务于数家证券公司，覆盖券商投研、财富、投行、固收等业务系统，为业务人员提 供智能化的数据分析和交互技术

2028年，预计将增长至131.79亿元。 来源《中国金融大模型市场追踪报告 2024H1》 ◼ 中国金融大模型部署市场 ➢ MaaS部署（开箱即用、按需付费）占52% 市场份额，引领中小型机构规模化应用； ➢ 私有化部署占48%，是大型金融机构首选。 中国金融大模型市场 浙江大学人工智能教育教学研究中心 中心 智能教育教学研究中心 大学人工智能教育教学研究中心 浙江大学人工智能教育教学研究中心 浙江大学人工智能教育教学研究中心

2. 销售区域限制条款验证 3. 所需披露文件的完整性检查 数据治理框架 采用三层数据隔离架构确保合规性（见表 1）： 层级 数据类型 处理方式 保留期限 L1 身份核验数据 加密后存储于银行私有 云 遵循属地监管要求 L2 交易行为数据 脱敏处理后用于模型优 化 最长 36 个月 L3 会话记录数据 分布式碎片化存储 客户关系存续期+5 年 通过智能体的实时合规校验模块，在对话过程中自动拦截违规 万元。 2. 基础设施成本  云端部署方案：采用混合云架构，初期需配置 8 台 GPU 服务 器（A100×4/台）处理实时推理，年租赁成本约 320 万元。  本地化部署：若选择金融级私有云，需一次性投入硬件采购费 用 800-1200 万元（含容灾备份系统）。 3. 合规与安全成本  等保三级认证：包括渗透测试、加密模块采购、审计系统部 署，一次性投入约 150 万元。 银行客户经理智能体带来可信 数据流转、自动化合规审计及新型金融产品设计能力。以下是具体 实施方案： 一、智能合约驱动的自动化业务流程 通过部署以太坊企业版 或 Hyperledger Fabric 私有链，实现以下核心场景的链上自动 化： 1. 贷款审批流程 o 智能合约自动验证客户抵押物信息（链上存证） o 实时调取央行征信链数据（需申请节点权限） o 审批通过后自动触发放款指令 2

，国信证券研究所整理 注： MMLU 是一种针对大模型的语言理解能力 的测 评，用以评测大模型基本的知识覆盖范围和理解能力。 开源 限制访问 私有 200 150 100 50 0 2022 2023 l 23 年 3 月以来， OpenAI 所发布的 GPT-4 已经具备了多模态理解和多类型内容生成的能力，使得 AI 真正具备了重

当前印度算力市场供给由多种形态共同构成。公有云是增长最快的供给板块，国际 云厂商与印度本土云服务商同台竞技，提供从通用计算到GPU加速实例的丰富产品线， 并通过新建可用区不断扩大服务覆盖范围。私有部署算力在政府、金融等关键行业仍占 主导，企业自建或托管数据中心承载其核心业务负载。高性能计算供给主要通过国家级 超算中心与学术机构向科研用户开放，部分商业HPC集群也开始服务于工程仿真、药物 数据主权要求，并与本土企业建 立合作关系以深化市场渗透。印度本土电信运营商利用网络覆盖与客户基础，大力发展 云计算业务，形成差异化竞争。专业数据中心运营商专注于提供托管与代运维服务，承 载企业私有算力设施。系统集成商则围绕特定行业需求，提供包含算力资源的整体解决 方案。一批初创企业聚焦于细分市场，如提供GPU即服务、AI开发平台等专业化算力产 品。这一格局使得用户可根据性能、成本、合规等需求灵活选择服务提供商，促进了市