2014 年首次参加 IWSLT 国际口语机器翻译评测比赛获得第一； 2018 及 2021 IWSLT 第一名； 2021 年 8 月， IWSLT 比赛，科大讯飞与中科大语 音及语 言信息处理国家工程实验室团队在同声传译任务中包揽三个赛道的冠军） 机器口语评测技术（ 2008 年中文口语评测首次达到人类专家水平， 2012 年英文口语评测首次达到人类专家水平） 声音定位与检测技术（ DCASE 第一名） 机器阅读理解技术（ 2021 年， XTREME 中刷新世界纪录） 作文自动评阅技术（ 2018 Chinese Grammatical Error Diagnosis 第一名） 语义评测技术（ 2019 Math Question Answering 第一名） 知识图谱技术技术（ 2022 年 2 月，科大讯飞以第一名的成绩登顶世界顶级人工智能挑战赛 Open Graph Benchmark 2018 IDRiD 眼底图分析竞赛 MA 分割任务 第一名） 图像语义分割（ 2017 首次参加国际自动驾驶领域权威评测集 Cityscapes 获得第一 ， 2018 及 2021 再获第一名） 手势识别（ 2020 The 20BN-Jester Dataset 手势识别评测第一名） 科大讯飞掌握国际先进的智能语音和人工智能技术 2018 年 -2023 年，科大讯飞共夺得61 项国际人工智能大赛冠军

旨在为保险行业的智 能化转型提供技术参考和实践建议。 白皮书基于阳光保险的大模型落地实践经验，深入剖析了大模型技术在保险行业的落 地应用路线。我们详细阐述了数据准备、模型精调、工程化适配、模型评测等关键环节的技 术要点和注意事项，为行业同仁提供理论指导和操作建议。除此之外，成功的落地应用需要 保险公司和科技公司紧密合作，共同构建开放、共享、协同的创新生态。这些内容为保险行 业探索大模型技术的应用提供了宝贵的经验和启示。 · · · · · · · 17 3.2 保险垂直领域大模型构建及评测· · · · · · · · · · · · · · · · · · · · 52 3.2.1 保险垂直领域模型构建· · · · · · · · · · · · · · · · · · · · · · · · 52 3.2.2 保险垂直领域大模型评测体系· · · · · · · · · · · · · · · · · · 53 图4 S-Eval评测体系架构图· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 59 图5 S-Eval评测方法示意图· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 60 图6 S-Eval评测层级· · · · · · ·

2.1 模型训练模块.............................................................................50 3.2.2 模型评测模块.............................................................................52 3.2.3 API 集成模块.. 可靠的基础设施。 3.2.2 模型评测模块 模型评测模块是人工智能行业大模型 SaaS 平台的重要组成部 分，它的主要目的是对所训练的模型进行客观、系统的性能评估， 以便为用户提供充分的信息，帮助他们选择合适的模型并制定后续 的优化策略。该模块应具备多维度的评测指标体系，并支持灵活的 评测方式，确保用户获得的评测结果具有良好的可信度和解释性。 功能设计上，模型评测模块应包括以下几个核心功能： 1. 自动化评测：用户上传模型后，系统可依据预先设定的评测标 准，自动进行评测。评测内容可以是数据集分割、模型推理、 结果分析等。 2. 多指标评估：根据不同模型的特性和应用场景，评测模块应支 持多种评估指标，包括但不限于： o 精确度（Accuracy） o 召回率（Recall） o F1-score o ROC 曲线与 AUC（Area Under Curve） o 训练时间与推理时间

天津联通智能客服项目综合 AI 感知和认知全方面技术，包括语音识别 / 合成、自然语言理解、知识库、用户画像 等 » 》 百度智能客服实施案例 —— 某运营商案 例 智能交互准确率 第三方用户评测对比效果 4 个月上线，赶超竞品，智能交互准确率稳定在 90% 理解能力 用户表述自然度 竞品 分流量上线：依据测试流量， 持续开展模型迭代和数据标 注 • 多样性评测：双方基于功能、 效果和体验分阶段开展评测 和优化 • 持续运营监控：监控产品和 业务运营效果，持续配合上 线过渡期运营 业务 梳理 产品 建设 接口 建设 模型 迭代 数据 标注 系统 部署 产品 评测 运营 监控 通过众多智能客服项目沉淀建设方 法论 产品监控 运营情况监控 存量数据的标注 增量数据的标注 私有化部署方案 代码安全部署方 案 客户核心系统集 成方案 智能多轮对话 智能运营管理平 台 智能知识平台 功能评测内容 效果评测内容 体验评测内容 项 目 产 品

• 赞助方 • 华为公司 中文人机对话技术评测 (SMP-ECDT III) 11 SMP ECDT III 委员 会 • 主席 • 张伟男 • 哈尔滨工业大学 • 委员 • 陈志刚，科大讯飞 • 车万翔，哈尔滨工业大学 • 张轶博，华为 • 黄民烈，清华大学 12 SMP-ECDT III • （深度）自然语言理解评测 • 领域 - 意图 - 语义槽 • 例如：“我想订上海飞往北京的航班” 例如：“我想订上海飞往北京的航班” • 评测指标： • Sentence ACC • 领域、意图识别和语义槽填充全做对！ • 特点（难点） • 符合任务型对话的真实应用场景 • 多领域性、多意图性 http://conference.cipsc.org.cn/smp2019/evaluation.html 13 任务一结果排名（ 2019.07.15 ） SMP-ECDT III III • 个性化对话生成评测 • 给定特定用户属性，生成符 合 该属性的个性化对话回复 • 特点 • 百万级数据集 • 客观 + 主观评价 • BLEU 、 Perplexity 、 Distinct • Fluency 、 Personality 、 Appropriateness http://conference.cipsc.org.cn/smp2019/evaluation

间的差距，优化控制策略。构建的基准测试和评估指标具有明确的难 度分级，能够满足不同领域和层次的研究需求。基于人形机器人的研 究进展，仿真测试在国内外都还处于起步阶段，整体上对仿真测试在 平台、建模、数据集和场景等方面缺乏规范化的评测体系。 2.2.9 操作系统 传统机器人的操作系统侧重于控制机械或自动化设备，仅关注运 动控制和任务执行。然而面向人形机器人的操作系统需处理十分复杂 的运动协调、人机交互、环境感知等任务。因此，为了使人形机器人 53 他关于 RACA 机器人、背部支撑机器人、下肢穿戴机器人的标准如 ISO 5363:2024、ISO 18646-4:2021、ISO 18646-6 等也可为人形机器人性 能要求与评价评测标准提供参考。ISO 19649:2017 定义了移动机器人 相关术语，可为未来制定人形机器人术语定义标准提供参考。 IEEE 所发布的机器人本体论方面标准如 IEEE 1872-2015、IEEE 部件（和）MPU 等，侧重于制定通用技术要求、兼容和互联互通规范、 测试认证与性能评测标准、安全和伦理标准等。 人形机器人软件提供方为人形机器人的系统和软件开发提供核心 技术支持，包括开发操作系统、应用软件、AI 模型和算法，确保系统 的可操作性、安全性与可靠性。侧重制定通用技术要求、兼容和互联 互通规范、测试认证与性能评测标准、安全和伦理标准等。 人形机器人制造商（整机）确保产品质量与安全，同时需遵循相

Agent在金融领域的实施方法论 业务信息收集 样例数据梳理 应用场景评估 资源评估 算力评测 SaaS端验证 Workflow设计 实施计划研讨 知识整理 模型部署 AskXBOT部署 验收 优化 压测 监控 评估调研 方案设计 Agent实施 上线验收 项目管理和服务集成 模型效果评测 移交 系统集成设计 算力适配 Agent应用落地实例-某大型国有银行金融交易场景 多Agent协作 º º º 工作流 º º � RAG � � � ABI O O º 工程技术 Prompt优化 º � � 动态路由模型 º O � 模型微调 O º º 仿真评测 O O º 澜码的检索增强生成（Retrieval-Augmented Generation，简称 RAG）实践 用户提问 问题扩写 结束 片段召回 问题拆解 问题扩写 片段精排 片段总结

18 国产数字化升级标杆实践报告 - 18 国产数字化升级标杆实践报告 腾讯云 TI 平台是覆盖大模型和传统 Al 的一站式机器学习平台，为客户提供从数据准备、模型精调、效果评测到模型部署的全流程工 具链，帮助用户以更高效率精调并部署真正可用的大模型。同时，腾讯云 TI 平台还为客户提供面向异构算力的集约管理能力，能帮 助用户全面管理、精细调度、高效运维国产算力，加速各行业数字化转型。 产品架构 大模型广场 快速试一试 一键部署大模型，快速体验推理效果 一键精调 预置镜像和模型，一键启动精调训练 数据 训练 调试 部署 应用 模型评测 模型部署 训练工坊 数据中心 三阶段评测 轻量体验，客观评 测，主观评测 多模型对比 支持雷达图可 视化 内置推理加速 Angel推理框架加 速，加速比可达2倍 大模型调用 统一的调用API及 体验工具 分布式稳定训练 持画布式灵活编排工作流，可快速将企业系统 API 接入智能体，智能体输出更稳定可控。 全面的智能体开发框架 提供 LLM+RAG 、Multi-agent、Workflow 等多种智能体开发框架，支持智能体配置 - 评测 - 发布 - 调优一站式工具链，助力企业降低 智能体构建门槛。 丰富的智能体开发资源库 预置精选官方插件及 MCP 插件，支持含智能文档解析、多轮改写、embedding 等多项原子能力灵活接入，提供

......... 5 图 4 ：产品增长 1 亿用户所需时间 ....................................................... 5 图 5 ：主要模型评测 ................................................................... 7 图 6 ：主要模型 API 定价 ........... 请务必阅读末页声明。 1. DeepSeek 推动模型平权，关注 AI 终端及算力领域 DeepSeek 以更低成本提供对标 o1 模型。2024 年 12 月，DeepSeek V3 首个版本上线，在 多项评测成绩超越了 Qwen2.5-72B 和 Llama-3.1-405B 等开源模型，并在性能上和 GPT-4o 以及 Claude-3.5-Sonnet 不分伯仲，训练成本仅约为 558 万美元。1 tokens 输入为 0.1 美元，每百万 tokens 输出为 0.4 美元，相较于 DeepSeek R1 具备较强竞争力。 电子行业深度报告 7 请务必阅读末页声明。 图 5：主要模型评测 图 6：主要模型 API 定价 数据来源：artificialanalysis.ai，东莞证券研究所 数据来源：artificialanalysis.ai，东莞证券研究所 2 月 18 日，马斯克旗下的

整个供应链。 华为持续完善了从短消息、卫星通话到图片消息的立体 卫星通信能力，让用户在无网络覆盖位置拥有更多联系 外界的手段。华为Pura 70 Pro+获得中国电信消费级天 通终端性能评测综合评价五星第一。 展望未来，华为终端将以HarmonyOS为基础，构建万 物互联的智能世界。我们将以开放之姿，携手全球用户 与合作伙伴，让科技创新成为可持续发展的加速器，创 造一个更平等、更健康、更绿色的全场景智能世界。 获得凤凰网信息无障碍五星评级 凤凰网 HarmonyOS 4无障碍解决方案获得2024年《可及信 息无障碍优秀案例》 信息无障碍研究会、凤凰网、凰家评测等 华为鸿蒙无障碍及小艺声音修复团队获得凤凰网2024 中国力量年度人物 凤凰网 Pura 70 Pro+获得消费级天通终端性能评测综合评价 五星排名第一 中国电信 华为越南：亚洲最具爱心企业奖 HR Asia 华为泰国：亚洲最佳雇主奖 HR Asia “我是体验官”活动参与用户超过60万 新引入供应商100%获取QC080000体系认证 员工全年培训时长超过154万小时，学习人次超21万 华为Pura 70 Pro+获得中国电信消费级天通终端性能评测综合 评价五星第一 上海、福建代表处基于WELL标准，打造健康、舒适的办公环境 9万 在全球创造的就业岗位超过9万个 可持续发展寄语 可持续发展管理 数字包容 科技至善 绿色环保 企业责任