智能对话系统中的个性化 胡一川 来也联合创始人 &CTO . 2000-2007 ：清华大学本硕 . 2008-2011 ：宾夕法尼亚大学博 士 . 2011-2012 ：今晚看啥联合创 始人 . 2013-2015 ：百度资深架构 师 . 2015 至今：来也联合创始人 &CTO 个人简介 胡—川 让每个人拥有助理 六百万用户正在使用的对话式在线个人助理服务 • 理解 领先的企业智能助理 智能对话解决方案赋能企业提升效率 • 具有 AI 能力的机器人平台和智能对话解决方案 • 基于大数据挖掘的用户画像，实现个性化推荐 • 超过 95% 的 AI 准确率，人效优化 60% • 2-3 倍的销售转化率提升 来也专注于智能对话技术 2 、用对话机器人 替代人工 . 在线客服 . 智能 IVR . 智能外呼 3 、用对话机器人 提升效率和体验 智能营销 . 智能推荐 . 智能下单 1 、自然对话是唯 一的交互方式 . 车载 . 智能音箱 . 可穿戴设备 适合智能对话系统的场景 . 用户希望得到特定问题的答案 . 机器人回复来自特定领域的知识 库 . 以准确率为评估指标 . 用户希望完成特定的任务 . 机器人通过多轮对话满足用户需 求 . 以需求完成率为评估指标 .

提供语义、对话、推荐等技术解决方案 ，赋能企业和 专业人士 ，打造智能行业助理 • 通过具有 AI 能力的智能交互系统 ，提升专业人 士 的服务效率和服务水平 通过微信服务号为用户提供一站式、对话式的在线私 人助理服务 • 通过理解 - 交互 - 咨询 - 任务等环节 ，完成交易闭 环 个性化的需求如何更高效的被满足？ 如何提升基于交互的服务效率和服务体验？ 任务型对话机器人 商业智能 智能分组推送 个性化推荐 知识库 问答型对话机器人 领先的知识型交互机器人 最懂你的私人助理 结束语 . 提升智能助理产品的可靠性 . 深度学习与智能助理产品 . 智能助理产品的特点 目 录 • • 对一段文本对应的向量进行转换， 转换时使用上下文信息 通常使用 CNN 或 RNN 从编码后的向量中提取对预测有 价值的信息 ■ 深度学习的应用 ：实体抽 取 l 基于深度学习，完全数据驱 动，无需特征工程 l 方法通用，适用于多种领域 不同类型的实体抽取 l 效果明显好于传统方法 l 从非结构化的对话中挖掘结构化的知识 l 将知识进行沉淀和统一维护 l 提高客服效率和质量，提升用户体验 l 知识点数量庞大，无监督的聚类方法效果很差 l 词向量不适合表示句子语义 l 无监督和有监督方法相结合

原子 能力 大 模型 文档解析 - 拆分 - 入库 - 检 索 向量化（ embedding ） ③Agent 模式 调用插件 / 复杂工作流 响 应用户对话 ② 工作流模 式 指定工作流响应 用户对话 文档拆分 重排序 （ rerank) ① 官方插件 文档解析 / 混元文生 图 .. 汽车 语音助手 零售 电子 说明书 金融 代理人 辅 助 . 文档解析 多轮改写 文旅 虚拟 导游 政务 一网 通办 ② 自定义插 件 应用 场景 三方大模型 插件 工作流模式 “ 智能生产线 ” 使用指定的工作流来响应用户所 有对话。如果你对应用的执行流程， 有更加个性化的需求，可以通过工 作流，来拖拉拽各种原子能力，编 排你想要的流程。 标准模式 “RAG ：最强知识外挂 ” 平台内置最佳实践流程，只需导 员工服务 自动化服务 智能客服 提供 10+ 画布节点，编排复杂应用，复杂 流程的执行准确率和对话完成率效果领先。 通过可视化拖拉拽的方式编排不同的原 子 能力，零代码 / 低代码构建业务流程。 其中参数提取节点，支持多参数同时提取、 基于对话历史进行多轮反问澄清等优势能 力，对话效果更优势。 大模型相关的节点均接入 DeepSeek R1 和 V3 模型，可支持自由选择和切换。

以思维链提示引擎激发大语言模型的领域文本分析能力和根因推理 能 力，在告警日志纷杂的信息中梳理思维链逻辑， AI 模型端到端生 成事 件分析总结，快速判断漏报、误报，找出根因。 • 根据用户需求描述，以多轮对话的方式灵活地提供告警查询、定位、 分析服务。 无需训练资源，可灵活迁移至不同设备应用 • 依托大模型预训练阶段内生通用知识，不再单独进行领域微调 • 基于 Prompt 策略注入领域专家对齐信息，快速灵活迁移 系统架构（内部） 答案不准确，改正后再次检查 返回拼接后 Query 策略控制器 Self-Prompt 策略 CoT 策略 In-context 策略 事件分析 中央控制器 多轮对话控制 场景识别 提示词组装 知识问答 知识引擎 输入校验 知识向 量 输出 校验 自我反省 实体提取 提示词 检查改正 提示词 关键实体提取 知识语料匹配 知识索引匹配 API 选择 入参正确 API 调⽤ 底座模型 RLHF 动态控件联动 对话信息 前端 对话效果渲染 返回结果拼 接 ⽤户输⼊拼 接 参数追问问 题 提示词引擎 参数追问 提示词 参数提取 提示词 知识拼接 提示词 向⽤户追问 对话 / 交 互 原始 Query 对话上下文 展示答案 参数提取 检查改正 ⼊参检查 需要调用 API 指令微调

策 与 趋 势 预 测 大模型驱动的数据预测能够提 前预 警 潜在风险，为决策层提 供精准、科学 的策略参考，助力管理优化 人 机 智 能 协 同 互 动 通过大模型驱动对话，实现业务咨询反 馈的迅捷与精准，员工能够自动检索和 获取相关业务知识 自 动 化 报 告 编 制 实现巡检报告 、能耗 评估及故障追 踪报告 的自动 撰写和智能校验，提 模型微调数据集 1. 测试原模型能力 2. 模型的自我纠正 检测诊断精度 诊断错误的对话 大模型自我纠正 3. 模型微调 故障检测与诊断能 力测试提示词库 原始大模型 Accuracy(% ) Normal Fault I … 生成 研究三：基于微调大语言模型的系统故障检测与诊断：模型微调 模型微调数据集 利用数据增强算法合成 新的数据 Normal Fault 1 .. 检测诊断精度 生成额外的微调训练数据 故障检测与诊断能 力测试提示词库 错误诊断的对话 模型自我纠正 原始大模型 构建提示词 微调大模型 New sample 补充 均值和标准差 归一化 系统正常运行期间征兆变 量的平均值和标准差 归一化 归一化 研究三：基于微

度的清洗与去重处理，为中文语言模型的训练提供了数据基础。今年6月，智源研究院推出 的IndustryCorpus 1.0多行业中英双语数据集及InfinityInstruct千万级指令微调数据集， 强化了预训练模型的基础能力与对话交互能力。 与开源文本数据集比较，当前开源多模态数据集面临着规模小、多样性匮乏及来源单 一（主要集中于HTML文档）等显著局限，这些问题制约了开源多模态大模型的发展步伐， 拉大了其与闭源多模态 同质化的当下， 更长的上下文长度处理能力，或将引领大模型进入差异化竞争阶段。紧接着，3月22日，阿 里宣布通义千问开放1000万字长文本能力。 显著提升的长文本处理能力，允许模型在处理长文档、对话历史或复杂语境时保持连 贯性和理解力。但是，增加上下文窗口也意味着模型的计算量和内存需求将大幅增加，因 此在实际应用中必须权衡上下文窗口的大小和计算资源的有效利用。 （6）闭源与开源模型的动态平衡 速技术，以提高模型响应速度、并发并降低硬件成本。利用提示词、检索增强生成和智能体 等技术充分激活千亿级大模型的理解、推理和规划等高级能力，赋能办公文秘、应用开发、 车险全线上销售机器人异议处理对话、寿险销售机器人客户引导、内容生成机器人文案改 写等场景。 （2）百亿级大模型建设采用基于开源大模型自研方案，针对不同业务场景的专业性、 时效性和低成本需求，基于自研大模型选取合适的模型尺寸（1

强化学习 相结合的方法。通过深度学习，智能体能够从大量数据中学习复杂 的模式和知识；而强化学习则使智能体能够在不断与环境的交互中 优化其决策策略。例如，在客户服务场景中，智能体通过分析历史 对话数据学习如何更有效地解决客户问题，并在此基础上不断优化 其响应策略。 此外，我们还注重智能体的可扩展性和模块化设计。通过将其 核心功能模块化，我们可以根据不同的商务需求灵活组合和配置， 实现 等，大大减少了人工操作的繁琐性和错误率。例如，通过智能算 法，智能体可以自动筛选出高价值客户，并为其定制个性化的营销 方案。 此外，商务 AI 智能体还具备自然语言处理（NLP）能力，能够 与用户进行自然流畅的对话，解答业务问题，提供实时建议。无论 是通过文本聊天、语音交互还是电子邮件，智能体都能快速响应， 提供精准的解决方案。同时，智能体还能够自动生成商务文档，如 合同、报告、提案等，确保文档的准确性和一致性，并支持多语言 NLTK 进行文本分词、词性标注 和命名实体识别等基础任务。 o 语言模型：采用 BERT、GPT 等预训练模型，支持语义 理解、文本生成及对话系统开发。 o 对话管理：使用 Rasa 或 Dialogflow 构建智能对话代 理，支持多轮对话和上下文理解。 4. 系统集成与 API 设计 商务 AI 智能体需要与现有业务系统无缝集成，因此需设计灵 活且高效的 API 接口： o

进行海量数据学习训练 ，人类的反馈信息成 为模型学习的内容 OpenAI 公司于 2022 年 11 月发布 ChatGPT ，短短三个月内日活跃用 户从 零增长至超过 3000 万 ，标志着对话式 AI 进入大众应用阶段 里程碑： ChatGPT 的成 功 ChatGPT 日活量（ 2022.11- 2023.02 ） 三阶段训练技术构建 GPT 3.5 辨别式 AI 对现有内容进行分析、分类、判断、预测 ChatGPT 的成 功 AI 1.0 时代 AI 2.0 时代 图像分类 文本分类 信用评估 房价预测 销量预测 客户分群 新闻聚类 广告定向 社区发现 文生图 文生视频 语音与对话 影视与广告 文章报告 问答内容 人像写真 广告图片 样例代码 测试用例 视频生成 分类 聚类 回归 文本生成 语音生成 代码生成 图像生成 Multi-task Language 大模型除了可以和我聊天、 回答问题 ， 到底还能干什么？ 灵魂发问 灵魂发问 • ChatGPT 的回 答 ① 用户打开邮箱，手动拷贝邮件内容 ② 用户将邮件内容拷贝到大模型运行 界 面的对话框 ，写提示词： 请基于 以下 邮件内容帮我草拟一封回复 ③ 大模型根据提示词自动生成回复邮件 ④ 用户将大模型生成的回复邮件拷贝 至 邮箱 ⑤ 用户填写地址、 邮件标题 ，点击发 送

各模型完成任务成功率对比 .............................................................................. 27 图 44 豆包智能体的对话界面 ..................................................................................... 28 图 45 的智能电网、供应链与物流 资料来源：botpress，海通证券研究所 2.1 自动化类：微软智能体 AutoGen 微软研发的 AutoGen 是一种多智能体沟通的模型，这些智能体通过对话完成任务。 实验发现这种多智能体沟通模式可以有效提高 AI 解决问题的准确性以及成果的完整性。 使用 AutoGen，开发者可以灵活定义智能体交互行为。微软的研究证明了该框架在包括 解决数学、编码 网站吸引年轻男生和女生，活跃用户粘性较大。网站受众人口的男女比率约为 51% 和 49%，其中 18-24 岁的用户占比超过 56%。前五地区的用户分别是美国、印度尼西 亚、墨西哥、菲律宾和印度。其中活跃用户每天约进行 240 轮对话，平均时长在 2 个小 时。目前网页端的 DAU/MAU 比例为 23%，APP 端 DAU/MAU 比例为 41%。 图35 Character. AI 各年龄段用户占比 资料来源：similarweb

持。预期在数据处理的响应时间上，能够在现有系统基础上提升 30%以上的效率。 其次，优化客户服务体验，利用 Deepseek 大模型的自然语言 处理能力，实现智能客服的全面升级。通过部署智能对话系统，模 型将能够实时解答客户咨询、处理常见问题，并在复杂业务场景中 提供个性化建议。预计客户咨询的处理时间将缩短至 5 秒以内，同 时客户满意度提升 15%以上。 第三，增强风险管理能力，通过 大的自然语言处理能力，能够准确理解并响应客户的查询，包括账 户余额查询、交易记录查询、贷款申请进度查询等常见业务需求。 此外，模型还需具备语义理解能力，能够处理复杂的金融术语和业 务逻辑，确保在对话中提供准确且专业的回答。 其次，模型需要支持多轮对话管理，能够在长时间的交互中保 持上下文的一致性，避免客户在多次询问同一问题时得到不一致的 答案。同时，模型应具备情感分析能力，能够识别客户的情绪波 动，并根据情绪调整响应策略，提升客户体验。 以选择具有强大自然语言处理能力的对话模型；对于风险评估，可 以选择能够处理结构化数据的预测模型。 在选择模型时，还需要考虑模型的性能指标，如准确率、召回 率、F1 分数等。这些指标应通过在实际银行业务数据集上的测试 来验证。此外，模型的推理速度和资源消耗也是重要考虑因素，特 别是在高并发的银行场景下，模型需要在保证准确性的同时，快速 响应请求。  对话模型：适用于智能客服、查询处理等场景，需支持多轮对