某某银行大模型智能客服助手解决方案（24页 PPT）

微信扫码，打开到小程序

某某银行大模型客服助手解决方案 01 客服领域场景概述 02 大模型技术概述 03 大模型在客服领域的应用场景 04 某某银行的大模型客服助手实践 05 未来的发展方向 目录 CONTENTS 客户服务 通过电话、手机 APP 等渠道接入 , 为客户提供业务咨询、业务办 理、产品营销等银行服务 ，以语 音服务、文本服务、视频服务为 抓手 ，坚持以客户为中心的服务 理念 ，服务客户。 风险资产管理 通过传统电催模式与科技相结合 ，强 化信用风险状况的动态监测与早期预 警 ，在预催收阶段充分运用 IVR 技术 同时通过科技手段进一步提升 M1 、 M2 、 M3 、 M3 + 全流程的电催效 率 , 为全行资产保驾护航。 贷款客户经营 负责税 E 贷、采购贷、商户贷等小 微企业类贷款以及个人消费类贷款 的销售和客群贷后经营维护工作。 通过优化贷款产品结构 ，提升优质 客群占比 ，降低业务风险； 同时逐 步调整电销贷款结构 ，形成均衡产 品结构。 理财客户经营 借助 CRM 系统以远程管户经营模式 , 开展银行存款和金服理财客户 经营工作 ，从新客开发、老客深挖、 客群转化形成闭环 ，为财富客户提 供资产保值增值服务。 “ 第二银行 ” 业务综合化 程度高 01 、客服领域场景概 述 01 客服领域场景概述 02 大模型技术概述 03 大模型在客服领域的应用场景 04 某某银行的大模型客服助手实践 05 未来的发展方向 目录 CONTENTS 大模型的基本概念 本报告的大模型特指类似 ChatGPT 的大型语言 模 型（ Large Language Models ， LLM ） ，是 一种由包含百亿以上参数的深度神经网络构建的 自然语言模型。 简单来说 ，大模型就像是一个拥有巨大知识库的 学者 ， 它通过阅读和学习大量的书籍（数据） 来掌握语言的规则和知识 ，从而能够在各种任务 中取得优异的成绩。 02 、大模型技术概 述 对话式交互会成为下一个具有超级增长点的交互方式 随着技术的发展 ，人机交互正不可逆转地向人更习惯的方式靠近。可以预见的是 ，接下来是强人工智能时代 ，过去成百上 千个 App 会逐渐演化成未来的成百上千个 Chatbot 。就像 Android 和 iOS 系统为手机赋能一样 ， Chatbot 将会逐渐成为 新的操作系统 ，逐渐为各行业赋能。 02 、大模型技术概 述 • 目前的开源模型与 1 年半前的闭 源模型性能相当 • GPT4 在开源模型中具有离群性 • Qwen 和 01AI 在闭源模型中具有 离群性 开源模型（绿线） 正在逼近闭源模型（红线） 02 、大模型技术概 述 AI 大模型将加快新质生产力发展 ， 助力我国经济社会高质量发展 我国始终高度重视人工智能发展机遇和顶层设计， 发布多项人工智能支持政策， 国务院于 2017 年发布《新一代人工智 能发展规划》 。 科技部等六部门也于 2022 年印发《关于加快场景创新 以人工智能高水平应用促进经济高质量发展的指 导意见》 对规划进行落实。 2024 年《政府工作报告》 中提出开展“人工智能 +” 行动。 各地方政府出台相关支持政策， 加快大模型产业的持续发展。 南京市政府先后出台《关于加快人工智能产业发展的实施意见》《南京市打造人工智能产业地标行动计划》《南京市加快 发展新一代人工智能产业行动计划（ 2023-2025 ）》等计划措施 ，开年初 ，南京提出要全力突破人工智能产业 ，抢抓大 模型新浪潮 ，建设算法城市、强化赋能应用 ，高标准建设人工智能创新应用先导区。 近日 ，某某银行建设的“南京市金融大模型工程技术研究培育中心”获得南京市科学技术局立项批复。 02 、大模型技术概 述 01 客服领域场景概述 02 大模型技术概述 03 大模型在客服领域的应用场景 04 某某银行的大模型客服助手实践 05 未来的发展方向 目录 CONTENTS 客户服务 1 、 大模型能够理解并 处理复杂的语义结构 ， 更准确地解析和理解用户 的自然语言输入。 2 、 大模型使智能客服 更具同理心和人性化 ，有 效管理用户情绪。 3 、 大模型可根据坐席 与客户的聊天内容 ，智能 生成知识问答对 ，提升知 识库维护效率。 贷款客户经营 1 、 大模型根据客户的 信用历史、财务状况和行 为模式 ，大模型可以生 成个性化的营销策略 ，提 高贷款产品的吸引力。 2 、 大模型可以分析对 话记录 ， 帮助销售人员 生成客户画像 ，通过定期 的跟进和个性化的服务 ， 增强客户忠诚度。 理财客户经营 1 、 大模型能够提供定 制化的建议和解决方案 ， 根据客户的历史交互、偏 好和上下文对话信息 ， 实现个性化服务。 2 、 大模型具备持续学 习能力 ，能够适应市场动 态和产品变更 ，确保提供 给客户的信息和服务始终 是最新和最准确的。 风险资产管理 1 、 大模型可以根据历 史数据和催收结果 ，不 断优化催收策略 ，提高催 收成功率。 2 、 大模型可以分析催 收员的专业领域、历史业 绩和工作负载 ，将案件 分配给最有可能成功回收 的催收员 ，提升团队绩效 和员工满意度。 03 、大模型在客服领域的应用场 景 大模型在客服领域的具有以下应用场景： 案例简述 中国工商银行 中国农业银行 中国建设银行 中国交通银行 中国邮政储蓄银行 在同业率先实现大模型技术在 座席助手等场景落地 ，全年服务 量 21.5 亿笔 ，接听率和智能分 流率同业领先。 正式上线了首个基于大模型的 网点员工智能助手 ，提升网点效 能 , 全年运营领域智能处理业 务量 3.2 亿笔， 比上年 14% ；建设 13 个综合型数字员工以 及 1000 余个流程自动化数字员 工 ，智能增效超过 3 万人年。 推广客户投诉智慧治理模式 ， 在投诉处置和管理主要环节全面 应用机器人流程自动化、 自然 语言处理、生成式人工智能 （ AIGC ）等技术 ，成功落地首 个全行应用的 AIGC 场景 ，实 现大模型自动撰写投诉处理报告。 邮储银行 App 融合 AI 空间、数 字员工、视频客服 ，打造沉浸式陪伴 服务 基于大模型的投诉问题分类智能模 型 , 实现消保投诉管理自动统计分 析和智能监测；上线推广消保投诉文 本分析模型和消保审查智能辅助工具 ， 有效提升消保管理事前审查和事后分 析能力。 推出情感模型会话洞察与“灵动智 库 ”服务增强企业微信运营功能 ，提 升基层精细化客户洞察能力。 上线了智能客服工单生成功能 ， 每单平均节约客服工作时间 15 - 20 秒 ，可用率达 82% ，一 致性达 80% 。 建设银行上线消保 AI 智能审 查功能 ，通过智能信息识别与处 理 ，产出 AI 审查结果 ，辅助审 查人员 , 提高审查效率 ，提升 消保审查的规范性和专业能力。 实现营销创意内容和文案自动 化生产 ，帮助打造品牌形象 、 提升营销内容质量、提升黏客能 力。 交行利用 AI 技术 深挖个金客户兴趣偏 好 ，用大模型强化 业务端留客能力 ，各 类理财模型策略累计 触客成交量近 4 千 亿元 ，较整体成交率 提升 16 倍 推出的金融 AI 大模型产品 ChatABC ，能够利 用大模型技术提升智 能客服的金融知识理 解能力、内容生成能 力及安全问答能力。 03 、大模型在客服领域的应用场 景 01 客服领域场景概述 02 大模型技术概述 03 大模型在客服领域的应用场景 04 某某银行的大模型客服助手实践 05 未来的发展方向 目录 CONTENTS 目前客服知识库的内容不够全面并且更新主要依靠人工 ，耗时费力 ，导致在线客服机器人的自助解决率较 低 ，增加了人工客服的工作负担和客户的等待时间● 客服效能面临多重挑战 质检流程准确性不高 ● ● 首先 ，人工客服在并发处理多个请求时能力有限 ，易造成 由于目前的质检准确度较低 ，需要大量依赖于人工 判响应延迟其次 ，服务质量参差不齐 ，不同客服的专业水平 断 ，不仅耗时耗力 ，而且难以覆盖所有场景。 和经验差异导致体验不一致；再者 ，新员工的培训周期长 业务痛点 且人力成本高昂。另一方面 ，现行机器人客服缺乏足够的 理解力和应答能力 ，也难以提供人性化的交流 ，且面临着 系统升级和维护的高成本问题。需要更加智能和高效的机 器人客服解决方案 电销 / 电催话术提炼效率低 登记工单效率低 04 、某某银行的大模型客服助手实 践 目前客服坐席手动填写校对工单时耗时耗力、效率低 ，以及工单填 写不规范导致工单处理时需要跟客户反复沟通、影响客户体验 目前电销 / 电催的优秀话术提炼主要依赖于人工 筛选和总结 ，效率低下 ，且难以充分利用数据 潜力 知识库运营效率低成本 项目目标 打造“客服智能助手 ”赋能远程银行客户服务业务。按照通话前、通话中、通话后的端到端业务流程闭环 ，形成事前知识库运营 提效、事中副驾驶赋能、事后质检守护 ，助力客服工作模式和效率的全面升级。 通过实时理解对话情境和向量化的知识库， 利用检索增强生成技术（ RAG ） ，实时推 荐合适的话术 ，大幅提升了客服的效率和 服务质量。话术推荐助手还可以根据客户 的历史交互和偏好 ，推荐个性化的话术， 增强了客户服务的个性化程度 ，提升了客 户满意度 从通话过程中自动提取客户的诉求和关键 信息 ， 自动生成规范化的工单减少客服 手动填写和校对工单所耗费的时间和精力 ，提高工单处理效率 ，避免因信息不完整 导致的反复沟通 通过大模型提示词技术 ，实现了质检的自 动化 ，大幅提高了质检的效率和准确性。 通过模型的情感分析能力 ，可以识别出客 户和客服的情绪 ，提供更全面的质量评价 04 、某某银行的大模型客服助手实 践 利用大模型的自然语言理解、抽取和生成 能力 ，实现了知识库的自动化和智能化管 理 ，大幅度降低了人力成本和时间成本 工单助手 质检助手 客服知识库助手 话术推荐助手 从现有电销 / 电催等非结构化数 据中提炼优秀话术 ，丰富语料库 事前 知识库 助手 话术 提炼助手 事中 话术 推荐助手 工单 助手 话术提炼助手 事后 质检 助手 客服 智能助手 大模型（ LLM ）服务子系统 L0 基座大模型 L1 金融大模型 L2 场景任务大模型 向量模型 数据湖 智能营销 贷后系统 CRM 系统 用户中 心 大模型 系统 支撑 系统 业务智能子系统 客服机器人 文秘机器人 催收机器人 投顾机器人 04 、某某银行的大模型客服助手实 践 催收系统 X 大模型管理子系统 检索增强生成（ RAG ）服务子系统 知识向量化 知识检索 结果生成 智能体（ Agent ）服务子系统 推理规划 工具使用 认知反馈 营销系统 业务智能批量子系统 业务 系统 聊天机器人 客服助手 对话管理 公文助手 企 业知 识 库 应 用 平 台 模 型 客服批 处理机器人 催收批 处理机器人 文秘批 处理机器人 投顾批 处理机器人 系统架构规划 RAG 服务 管理 功能使用 报表 向量模型 管理 功能权限 配置 反馈 数据报表 大模型 管理 在线客服系统 文本机器人 远程视频系统 数字员工 呼叫中心系统 语音机器人 员工助手子系统（希格马） 知识库 管理 提示词 管理 OA 系 统 智能体 管理 用户 • 抽象扩写规则 • 标准问扩写 机器人知识库 04 、某某银行的大模型客服助手实 践 生成标准问 答对 生成相似问 大模型 • 客户问题抽 取 • 客户意图识 别 • 客户问题改 写 • 客服答案抽 取 运营 0 、访问希格马 标准问 大模型 在线客服 机器人 机器人转人 工历史对话 知识库助手 3 、导入知识 库 2 、生成知识 库 1 、上传数 据 在线咨询 检索答案 1 、在线咨询 3 、采纳回 答 / 自主回 答 智能在线客服系统 • 意图识别 • 知识问答（问题改写、 多路召回、重排序） • 任务型对话（槽位抽 取 、对话状态跟踪、 对话策略优化和执行） 坐席 用户 04 、某某银行的大模型客服助手实 践 2 、推荐回答 大模型系统 话术推荐助手 • 语音转文字 • 数据预处理 • 识别差错点、差错等级、差错 原因、原文 • 逻辑一致性检查 1 、上传原始对话 2 、推送质检结果 质 检 系 统 质检人员 大模型系统 04 、某某银行的大模型客服助手实 践 3 、审核质检结果并执行处罚 质检助手 • 大模型系统 语音转文字 数据预处理 从成单对话中提炼关键话术 与未成单对话进行交叉分析对比差异 逻辑一致性检查 客户 4 、自动化外 呼任务 04 、某某银行的大模型客服助手实 践 1 、上传成单对话和未成单对话 2 、推送优秀话术 话 术 外库 呼 系 统 话术提炼助手（研发中） 、 审 核 生 成 话 术 运营人员 3 4 、人工外呼任务 • • • • 1 、客户来电 客户 4 、审核工单要素 坐席人员 • 语音转文字 • 意图识别 • 槽位抽取 • 逻辑一致性检 查 工单系统 04 、某某银行的大模型客服助手实 践 3 、返回工单要 素 2 、上传原始对 话 工单助手（研发中） 客 服 系 统 5 、创建工 单 大模型系统 2 、话术推荐助手：并行会话数从 6 通提升到 8 通 ，人效提升 33% 。 3 、质检助手：质检覆盖率从不到 10% 提升到 100% ，质检准确率提升到 70% 以上 ，人效提升 10 倍。 推理速度无法满足实时话务场景需求 电话客服、 电销和电催等实时话务场景对推理速 度要求极高 ，需要在 1 秒内生成结果。 目前 ， 大模型的推理速度难以满足 ，导致其应用场景受 限 。 解决思路包括 ：第一 ，通过模型剪枝、 量 化和知识蒸馏等方法减少模型参数量和计算复杂 度； 第二 ，使用专门的推理加速引擎 ，如 vLLM 、 DeepSpeed 和 Tensorrt-LLM 等。 缺少高质量训练数据集 提升模型效果的成本较高 ，需要大量人工标注 数据用于训练 ，且训练过程需要大量试错 ，投 入产出比低。 解决方案是优先使用提示词工程 技术快速达到使用要求 ， 同时在实际使用中加 强对模型输出的人工审核 ，积累高质量数据集 。 此外 ，可以使用合成数据技术扩充数据集 ， 降低微调训练成本。 模型更新换代迅速 不同阶段开发的应用使用了不同版本的 模型 ，且往往不兼容 ，导致算力资源 浪费或增加应用迁移成本。 解决方案 是提示词工程标准化和统一模型版本管 理 ，确保不同模型版本在使用提示词 时具有一致性和兼容性 ，减少因更新 换代带来的资源浪费和迁移成本。 1 、客服知识库助手：大幅提升了在线客服机器人的自助解决率。 人效提升 18% 04 、某某银行的大模型客服助手实 践 人效提升 33% 人效提升 10 倍 落地效果 挑战与解决方案 01 客服领域场景概述 02 大模型技术概述 03 大模型在客服领域的应用场景 04 某某银行的大模型客服助手实践 05 未来的发展方向 目录 CONTENTS 实现客服助手在所有客户接触点的 无缝集成 ，包括网站、 App 、 社 交媒体等 在全渠道集成和个性化服务过程中 ，必 须遵循数据隐私和安全法规 ，确保客 户数据的安全。 同时 ，确保服务内容 和价值观与公司政策和社会规范对齐 ， 避免可能的偏见和歧视 识别营销机会 ，预测客户行为 ，制定和优化营 销策略 ，提前响应客户需求 通过分析对话数据 ，深入了解客户特征和需求 , 支持个性化服务 利用云计算资源 ，实现算力资源的弹性扩展和 高效分配 采用模型剪枝、量化等技术 ，减少模型大小和 计算需求 1. 探索直接面向客户提供服 务 3. 经济高效的推理部署方 案 基于客户历史交互数据 ，提 供定制化的服务和建议 2. 充分利用客户对话数 据 营销策略优化 资源弹性管理 数据驱动的 KYC 模型优化 未来的发展方向 安全护栏 全渠道集成 个性化服务 05 感谢聆听 THANK YOU