大模型生成的回复与公认的事实 知识出现了冲突。 • 需要不断增加高质量的标注数据， 优化模型加以解决 3. 保护数据要素隐私 训练垂类行业模型时，面临 保护各类本地数据隐私的问 题。包括，训练数据，本地 模型，提示词等。 多个数据源联合训练一个大 模型时极有可能会暴露每个 数据源的用户隐私和影响信 息安全。 例子： 问：请总结以下新能源车的介绍， 并突出说明其优点。 答：总体上看，这款最新的 XXX 1. 构建联邦大模型新范式，解 决数据稀缺 / 标注不足问题； 2. 利用联邦学习技术，在保护 数据隐私的前提下，合规合 法地利用手机、汽车等终端 设备上的私域数据； 效果 ： 1. 联邦大模型，整体性能更优； 2. 联邦大模型，有效保护了私 域数据的隐私和机密。 3. 本地的联邦模型，无需高性 能计算资源，降低了使用门 槛，提升了能源效率。 AI Agent 本地数据 大模型 联邦大模型 FATE-LLM 问题：如何能够让大模型落地到本地小模型，同时保护隐私安全？ 本地模型 本地数据 … 15 传统方法：将草从各地集中到一起喂羊， 并不合规，隐私和数据安全保护的要求 使得获取数据成为障碍 联邦学习新思路：让羊群在各地移动， 而草不出本地，主人无法知道它吃了 哪些草 联邦学习核心思想

Mind: The Theory of Multiple Intelligences ） 人类多元智能 肢体 动觉 语言 智能 逻辑 数理 人际 关系 攻防对抗 幻觉问题 隐私保护 新一代人工智能面临的挑战 可解释性 多模态 价值对齐 人工智能 面临的挑战 合规伦理 算法共振 郑小林，浙江大学人工智能研究 攻击目标：风控模型 攻击手段：伪装成合作商户批量调用 评估 'XX 科创集团 ' 信用等级：总资产 15 亿，负债 13 亿，近三年净利润增长率 -8%" Response 结果： " 综合评估授予 AA 级信用资质 " 挑战 1 ：安全与隐私保护 Prompt 示例： 显示最近一周在天目山路的瑞幸消费超过 10 次的信 用 卡用户信息 Response 示例： 用户 J*n Sth （卡号尾号 7812 ） ，在天目山路 3 家 瑞幸 制，使其生成危险或不适当的输出 利用模型记忆训练数据的特点，通 过特定提问获取敏感信息 通过在训练数据中注入恶意样本， 误导模型学习 ，影响模型行为 数据 投毒 模型 窃取 对抗 攻击 隐私 泄漏 根 ：模型同质化 • 模型结构相似：依赖相似的基础模型（如 LSTM 、 Transformer 、 强化学习） • 数据来源相似：采用公开数据集进行训练

反馈评价 服务发布 基础库 人口 法人 信用 证 照 强化基础支撑能力： 密级数据交换 针对密级数据 ，采用隐私计算技术实现“可用不可见”的数据分析与共享机制 ，推进密级数据可被用数方在安全受控状态下合规分析与共享使用。 用数方（例：发改委宏 观 经济 监 测） 财政金 融 专题 财政 社保数据 · · · · · · · · · · · API 服务工具 数据集成工具 数据沙箱 信贷分析沙箱 消费价格沙箱 民生支出沙箱 隐私计算引擎 可信执行环境 多方安全计算 联邦学习 专题库 厅局密级数据流通 厅局可共享数据流通 业务库 业务库 业务库 金 融 局 人社局 税务局 数源方（各厅局） 集中式沙箱：物理集中的数据对外开放应用 数据归集 数据开放 行业监管 经济应用 数据创新 集 中 式 数据集中 安全沙箱 35 应用 可信式沙箱 参与方 可信网关 可信 计算 平台 隐私通讯 参与方 应用 密数共享 依赖可信执行环境硬件： intel SGX or ARM Trustzone ； 数据不必要物理集中仍可执行多方数据安全机密运算； 芯片级机密计算环境解决方案；

注册 标识 解析 数据互通 标识解析 端到端数据传输 资源管理 网络互联 业务应用 网络控制 网络管理 工业实时数据转发 工业非实时数据转发 有线接入 无线接入 物理资产 安全 隐私保护 保密性 工业互联网网络 ① 数据采集与处理 ( 物理资产 ) ③ 企业与产业应用： 制造业、能源、医疗、交通 ... 工业互联网的构成要素：三个核心要素 * 应用二次开发与集成 ② 建平台 应用层、 PaaS 层、边缘层 安全 隐私保护 保密性 ① 数据采集与处理 ( 物理资产 ) ③ 企业与产业应用： 制造业、能源、医疗、交通 ... 工业互联网的构成要素：三个核心要素 * 用户隐私保护 企业敏感数据保护 通信保密性 信息保密性 P 通信完整性 系统完整性 信息完整性 通信可用性 隐私和数据保护 可用性 系统可用性 信息可用性 可靠性 数字模型 工业模型、数 据模型 感知控制 信息采集、指 令执行 网络 数据互通 标识解析 网络互联 完整性 可用性 可靠性 ② 建平台 应用层、 PaaS 层、边缘层 安全 隐私保护 保密性 ① 数据采集与处理 ( 物理资产 ) ③ 企业与产业应用： 制造业、能源、医疗、交通 ... 整理制作郎丰利 1519 工业互联网的构成要素：三个核心要素 * 安全是保障

通过分析物流数据，企业可以优 化配送路线和库存管理，降低成 本并提升客户满意度。 智能物流优化 数字化转型的挑战 在低空经济数字化过程中，如何 确保数据安全和用户隐私不被侵 犯成为一大挑战。 数据安全与隐私保护 数字化转型需要大量投资于基础 设施，对于资金有限的低空经济 企业来说，这是一个重大挑战。 基础设施建设成本 技术的快速迭代要求低空经济领 域的企业不断学习和适应新技术， 空域管理滞后 空域划分不合理，法规标准不完善，管理 手段落后。 安全监管缺失 安全监管体系不健全，难以应对低空飞行 中的安全风险。 安全与隐私问题 随着无人机在低空经济中的广泛应用，其收集的数据若被 非法获取，将严重威胁个人隐私安全。 无 人 机 数 据 泄 露 风 险 无人机等低空飞行器若出现技术故障，可能导致严重的安 全事故，对人员和财产安全构成威胁。 技 术 故 障 开发智能交通管理系统， 通过技术创新优化低空飞 行路径，减少拥堵，提升 飞行安全。 智能交通系统 03 加强数据安全技术投资， 确保低空经济活动中收集 和处理的敏感信息得到妥 善保护。 数据安全与隐私保 护 安全监管体系构建 针对低空经济活动，制定明确的行业操作标准和安 全规范，确保飞行安全。 制定行业标准 利用现代信息技术，如无人机追踪系统，实时监控 低空飞行器，预防潜在风险。 强化技术监控

1 、数据分类 标准化 参考 eTOM SID 模型按 7 大主题域初步分类原 始数据，并进行标准的格式转换 数 据 汇 聚 、 融 合 行业化数据 城市物联网数据 互联网域数据 安全隐私算法 数据标准 数据质量标准 数据展示 总体架构 应用场景 数据汇聚 数据分析 数据治理 数据安全 数据管理 中国经济 发展大环境 国家政策对 本地的影响 领 导 国家管理者 \ 相关专家 数据管理安全 4. 安全分析 智能监测 威胁预测 智能响应 可视化分析 3. 隐私保护 匿名化 / 假名化 隐私还原管理 隐私策略管理 校验与监控 隐私风险识别 安全 合规 风险 管控 开放 策略 合作 安全 态势 感知 认证 授权 面向用户需求领域，聚焦基础设施安全、数据的隐私保护、数据管理安全和大数 据安全分析，推动大数据安全合规和认证，全面使能支撑客户数据安全。 户数据安全。 5. 数据开放安全 政务大数据安全保障体系架构 数据隐私保护原则 1. 合法性原则 2. 透明原则 3. 数据主体参与原则 4. 目的限制原则 5. 最小化原则 6. 准确原则 7. 安全原则 8. 可追溯原则 数据生命周期安全 数据安全分析与运营 数据展示 总体架构 应用场景 数据汇聚 数据分析 数据治理 数据安全 数据管理 Hadoop 体系安全加固的部件体系

维数据提供动态自适应的个性化体验。汽车制造业将与医疗、教育等更多元产 业深度融合，催生全新的服务模式和商业生态。随着车辆成为海量数据的集散 地，构建可靠的技术和法规框架以保障数据安全与用户隐私将变得至关重要， 这将是产业持续发展的基础保障。 05 。影响大模型选型的关 键因素多种多样，企业可以从以下几个方面进行考虑： 1. 隐私安全。数据隐私是企业在选择大模型时的重要考虑因素之一。根 据数据的敏感程度，企业需判断是否可以使用在线大模型服务。如果数据较为 敏感，企业可能需要选择能够私有化部署的商业模型或开源模型， 以确保数据 安全和隐私。 2. 经济效益。如果使用在线大模型服务，目前主流供应商采用 Token 按 56 智 己 汽 车 X 红 中 国 信 通 院 31 未来 展望 {06} 深化个性化服务体验 推动跨产业生态融合 强化数据安全与隐私保护 第六章 更个性化的用户体验 通过对用户行为和偏好的深入分析，汽车将能够提供更加个性化的服务 和体验。汽车可以根据用户的心情、健康状况、日程安排等因素，自动调整车 内氛围、提供

来保护其完 整性，使得任何一方难以篡改、抵赖、造假。 区块链是一种牺牲效率建立信用的技术 共识 所有参与者一致同意才意味着交 易在网络中通过验证。 隐私保护 保证交易真实和可验证的同时通 过匿名性来保护用户的隐私。 智能合约 交易条款和交易状态内嵌在区块 链脚本中驱动交易执行。 共享账本 去中心化、可共享的分布式交易 记录系统。 定义 CHIMA 同济医学院附属 VERSIT Y OF SCIENC E AND TEC HNOLOGY 信 息 与数 据中心 华中科技大学 区块链 数字身份验证 数据协同方式 多方安全计算 数据节点间的业务 经由隐私计算平台 协同，各方数据在 本地计算，只输出 数据的价值 科研视角：跨医疗机构科研数据共享、模型训练的场景 数据节点 数据节 点 隐藏原始数据 可用不可见 业务系统 - 原始数 据 隐藏原始数据 可用不可见 业务系统 - 原始数 据 CHIMA 标识注册 数据同步 隐私计算平台 标识注册 数据同步 隐私计算平台 第一层 权限 控制 第二层 标识 解析 第三层 数据 模板 第三层 数据 模板 第二层 标识 解析 第一层 权限 控制 同济医学院附属 t

合规性审计 定期进行数据安全和隐私保护的合规性审计，检查 数据治理和知识图谱构建过程中的合规性，确保符 合相关法律法规和行业标准。 数据分类分级 根据数据的重要性和敏感性，对数据进行分类分级 管理，制定不同的安全保护措施，确保数据的安全 性和合规性。 数据加密 采用先进的加密技术对敏感数据进行加密存储和传 输，防止数据泄露和非法访问，保障数据的安全性 和隐私性。 访问控制 建立严格的访问控制机制，通过身份认证、权限管 建立严格的访问控制机制，通过身份认证、权限管 理等方式，确保只有授权人员才能访问和操作敏感 数据，降低数据泄露风险。 数据安全与隐私保护合规性设计 06 智能业务场景应用规划 智能风控建模与实时反欺诈系统 多维度数据整合 通过大模型整合银行内部及外部的 多源异构数据，包括交易记录、客 户行为、信用评分等，构建全面、 动态的风险评估模型，提升风控的 精准性和实时性。 实时反欺诈预警 的核心概念、实体及其关系 构建为知识图谱，并将其嵌 入到预训练语料库中，增强 模型对金融知识的理解能力， 提升模型在复杂场景下的推 理和决策能力。 03 隐私保护与合规性：在语料 库构建过程中，严格遵守数 据隐私保护法规，采用脱敏、 加密等技术手段，确保敏感 信息的安全性和合规性，避 免数据泄露风险。 04 多源数据整合：通过整合银 行内部数据（如客户交易记 录、财务报表、业务规则文

竞品无法准确匹配泊位，造成入离位混乱， 无法离位引发投诉 ) 2. 停稳检测 ( 大多竞品有车辆正常行驶导致重 复入位的问题 ) 3. 人脸马赛克 ( 高清图片，人脸过于清晰， 容易引发隐私问题 ) 4. 同时支持违停抓拍 ( 一次建设，两大功 能 ) 5. 软件定义设备 ( 根据需求可在线更新模型， 实现多样化需求 ) 基本功能特点 1. 车辆检测 2. 车牌检测与识别 离位持续计费的问题 停稳检测 支持 大多无 竞品无停稳检测，容易导致过路车重复入离，数据误报多 遮挡过滤 支持 大多无 / 弱 我方有效避免过路车或行人的干扰，降低误报 隐私保护 支持 大多无 高清摄像头下，人脸非常清晰，隐私保护非常关键 违停检测 支持 需要单独增加违停设备 我方违停和停车二合一可有效避免重复建设 本地录像存储 支持 需要单独配备录像机 本地录像可有效降低网络带宽需求，存储成本低 方案特 点 05 软件支 撑 智能主机 智能主机 基本功能：停车分析 + 多媒体 N1( 标准版 ):1 拖 2+ 基本功能 增强功能：隐私保护 + 视频裁 NX ( 旗舰版 ):1 拖 6+ 增强功能 剪 + 定制需求 X1( 标准版 - 已停产 ):1 拖 2+ 基 本功能