如何应对生成式人工智能的幻觉对数据隐私、安全和伦理的影响 ...... 36 2.1 国土安全部政策声明139-07对生成式人工智能的影响 ............ 37 2.2 联邦贸易委员会政策宣传与研究指导: ......................... 37 2.3 美国白宫管理和预算办公室（OMB）在联邦机构使用人工智能的治理、 创新和风险管理的政策 .................. 安全声明 本文仅供参考，不构成法律建议。 本研究文件由云安全联盟编写，探讨了当前围绕人工智能的监管治理情况。 虽然本文涉及各种法律和监管框架，但必须强调的是，所提供的信息不适用于 任何特定情况的法律指导。 人工智能的监管环境正在迅速演变，法律法规的解释和应用会因各种因素 而存在很大差异，这些因素包括： ● 管辖范围（国家或地区） ● 具体的情景（如行业、应用场景等） ● 具体的人工智能技术或应用 署或使用相关的法律层面的问题或疑虑，应单独寻求法律顾问的意见。 前瞻性声明和人工智能的发展前景 本文包含了一些可能具有前瞻性的陈述。为确定其适用性，我们鼓励向相 关的国家监管机构和法律顾问寻求指导。需要注意的是，这些陈述是作者和云 安全联盟基于当前的知识和预期所做，受固有风险、不确定性和假设的影响， 部分陈述可能与实际结果存在差异。 以下是可能影响人工智能领域未来发展和相关监管环境的一些重要因素，

体系基础上，围绕“四效”目标，总结提炼了适配 政企客户现代化运维体系所包含的核心要素以及运 维体系建设的参考架构： 1、运维规范与流程 通过“因地制宜”制定运维规范，树立运维制度和 流程，指导各项运维工作依规有序进行。 典型的运维规范包含业务故障等级定义、业务上 线规范、业务转维规范、运维数据治理规范等。 典型的运维流程包含故障处理流程、应急恢复流 程、主动运维流程、变更流程等。 与业务数据相比，运维数据有其自身的特点和治理 难点，例如数据分布分散，数据标准化比例低，缺 乏成熟的方法等。运维数据治理贯穿于数据生命周 期，从规划设计，到实现和维护，再到应用和变 现，需要一整套方法论及规范去指导落地。 3.1.2 运维流程 运维流程按照不同运维动作属性分为故障修复线、 业务变更线和主动运维线。 故障修复线 故障处理流程：故障处理流程主要是规范各类事 件的受理、处理、升级工作，尽快恢复云平台正 复、安全攻击事件及重要漏洞处理等场景下的应 急处理流程，通过应急恢复流程，集中运维研发 资源快速恢复客户业务，处理重大应急运维事 件，达成业务运行SLA。 业务变更线 变更流程：变更流程主要用于指导对设备和业务 的变更管理，减少变更导致业务意外中断，确保 业务安全稳定运行。 变更流程一般由日常运维、事件管理和问题管理 三个外部流程触发。按照变更阶段可分为变更 前，变更中和变更后三个子阶段，变更前主要包

(国家药品监督管理局 2019 年第 43 号) • 医疗器械软件注册审查指导原则(2022 年修订版)(国家药品监督管理局医疗器械技术 审评中心 2022 年第 9 号) • 医疗器械网络安全注册技术审查指导原则(2022 年修订版)(国家药品监督管理局医疗 器械技术审评中心 2022 年第 7 号) • 人工智能医疗器械注册审查指导原则(国家药品监督管理局医疗器械技术审评中心 2022 年第 8 8 号) • 医疗器械生产质量管理规范独立软件现场检查指导原则(国家药品监督管理局 药监综 械管[2020] 57 号) • YY/T 0664-2020 医疗器械软件 软件生存周期过程 • YY/T 0287-2017 医疗器械 质量管理体系用于法规的要求 • GB/T 42062-2022 医疗器械 风险管理对医疗器械的应用 • IEC 62304: 2015,MOD Medical device

全球关注AIGC在教育领域的应用，中国技术监管、教育政策合力推动落地 国际上，UNSECO、欧盟等组织，美国、日本、英国、澳大利亚等国家均已关注到AIGC将对教育产生的一系列变化及影响，并发布 相关政策及倡议，以为其应用提供指导建议。聚焦到中国场景，在技术侧，23年7月发布的《生成式人工智能服务管理暂行办法》在 技术及通用应用层面明确了服务规范及监督检查责任，并且鼓励AIGC服务的创新应用研发。在教育侧，过往各类政策持续提及鼓励 充分利用人工智能和大数据，加强过程性与增值性评价，注重发挥教学 评价的引导、诊断、改进与激励作用。 师资建设 - 《新时代基础教育强师计划》 基础设施- 《关于推进教育新型基础设施建设构建高质量教育支撑体系的指导意见》 2022.04 探索人工智能助推教师管理优化、教师教育改革、教育教学方法创新、 教育精准帮扶的新路径和新模式 鼓励创新应用，鼓励基础 技术的自主创新，依法处 理训练数据，准确、清晰 标注数据等 中注册、在整个生命周期都需被评估。此外，生成式 人工智能必须遵守透明度要求。 欧洲议会 2023.06 《人工智能与教与学的未来：见解与建议》 描述了利用人工智能改善教育的机会、以及将出现的 挑战，并提出建议来指导进一步的政策制定。 教育技术 办公室 2023.03 教育部 2023.11 文部科学省 《初等中等教育阶段生成式AI使用暂行指南》 2023.07 《关于生成式AI在大学和高专教学方面的处理》

节奏各不相同，传统的“一刀切 ”式教 育方式难以满足个体需求。 • 现代教育工具和技术（如人工智能 、在 线学习平台）能够为孩子提供个性化的 学习路径和内容。 • 家长需要从“统一指导者 ”转变为 “个性化支持者 ”，根据孩子的特 点制定适合的学习计划。 • 家长应关注孩子的情感和兴趣，激 发孩子的自主学习动力 ，而不是单 纯地强制灌输知识。 ） ： 分析语法错误， 提 供 高级表达替代方案 单向讲述历史事件 构建沉浸式学习体验 增强记忆深度与兴趣 时空穿越对话（案例 3 ） ： 通过第一视角叙事 还 原历史场景 命题作文框架指导 激发多维度创作灵感 突破思维局限， 培养观察 力 思路过程生成（案例 4 ） ： 基于关键词联想感 官 与情感维度 权威式沟通决策 建立合作型亲子关系 减少权力对抗， 促进双赢 冲突调解方案（案例 能提供深层次解释和多角度分析， 培养思考能力 信息广度大， 但需要甄别 和整合 家长参与度 需要家长辅助判断回答准确性， 对回答进行补充 家长可参与深度讨论， 形成多方对 话 需要家长指导信息甄别能 力， 培养媒体素养 学习效果 适合知识点巩固 、基础练习， 但 不适合深度理解培养 有助于培养分析能力 、逻辑思维和 创新思考 培养信息检索 、评估和综 合能力，

智慧化检测服务：检测前的检验项目推荐和风险评估，以及检测后的智能报告解读和健康建议等。 ◥ 智慧化诊疗服务：智能预问诊、诊断推荐、治疗方案推荐、用药推荐、胰岛素剂量推荐、CGM报告分析等。 ◥ 智慧化全病程管理服务：智能生成干预指导方案、运动饮食方案、智能随访、慢病智能问答等。 血糖管理闭环示例： ➢ BGM、CGM硬件升级，带来的数据的准确和连贯——对数据分析要求提升 ➢ 数据更多，更好地及时监测、预测未来 ➢ 及时 AI远程医疗治疗与诊断国内外标的梳理 23 远程治疗与诊断 影像诊断和治疗 检验辅助诊断 远程手术与操作指导 国内厂家： 海外厂家： 国内厂家： 海外厂家： 国内厂家： 海外厂家： ◥ AI远程医疗治疗与诊断领域涵盖影像诊断和治疗、检验辅助诊断、远程手术与操作指导等方向，国内有联影医疗、华大基因、天智航等 众多企业发力，海外则有飞利浦、罗氏、美敦力等知名厂商参与，共同推动该领域发展 ◥ Galleri测试能够筛查50+种癌症共有的信号。Galleri测试通过分析游离DNA（cfDNA）的甲基化模式来寻找癌症的独特“指纹”，如果检测 到，该测试会预测癌症信号最可能的来源，以帮助指导诊断检查。每次进行测试时，Galleri都会在信息量最大的DNA区域筛选数十万多个 DNA位点，通过深度学习从而在许多最致命的癌症出现症状之前进行筛查。 Galleri癌症筛查测试原理 Galleri能够检测的癌症信号

Generation），即检索增强生成，是一种结合检索技术和生成模型的技术框架， 旨在提升模型生成内容的准确性和相关性 其核心思想是：在生成答案前，先从外部知识库中检索相关信息，再将检索结果与用户输入结合，指导生成模型 输出更可靠的回答。简单地说，就是利用已有的文档、内部知识生成向量知识库，在提问的时候结合库的内容一 起给大模型，让其回答的更准确，它结合了信息检索和大模型技术 4.10 大模型构建的技术方案选择 来源：大任智库 教练式 AI大模型应用专业顾问服务，类似于教练 式服务。与客户企业一起对AI+行动规划 进行市场趋势、方法论和内容体系等指导 和讨论，提供相关主题讲座，提供主题研 讨交流，提供过程中的疑难咨询、方法讨 论。帮助界定内容，指导把控要点，促进 甲方项目组成员数字化专业水平的提升 监理式 AI大模型应用专业顾问服务，也类似于项 目监理服务。通过服务，保障企业AI+创 对交付成果依据项目需求和研发协议进行 全盘评价，协助与技术开发方的沟通和完 善。从需求阶段的共研，到过程中外协开 发方各节点规划设计的交付评审，到最终 规划成果的评审验收，提供专业意见和规 范指导 伙伴式 AI大模型应用专业顾问服务，同样类似于 伙伴式服务。围绕项目全过程，与企业工 作组成员一道，随时响应，及时交流，结 合外协开发方服务进度和方式，共同沟通， 融合协作，随时响应沟通交流，双方决策

信数据空间的概念、特征和功能定位，提出“1+5+N+1”总体架 构，初步探索基于区块链和区块链服务网络（BSN）的分布式 可信数据空间建设的技术架构和实施路径，为相关单位有序开 展可信数据空间建设提供参考方案和专业指导。 I 目录 一、概念特征与功能定位 ................................................................ 1 （一）概念界定 用方、数据服务方等参与方依据既定规则自由选择参与或退出 各级各类可信数据空间。运营规则应当包括但不限于进入/退出、 权利责任、收益分配以及数据确权登记、交易支付、数据协作 程序规范等。数据管理机构（监管方）应当明确指导、监督和 18 规范的范围，并公开合规要求和监管规则。 19 四、技术框架 （一）能力要求 根据可信数据空间的主要特征和功能定位，应该具备用户 和数据的 根据《行动计划》政策部署，结合能力要求分析，提出可 信数据空间建设“1+5+N+1”的总体架构。 其中：第一个“1”指的是建立可信数据空间统一技术架构， 为各类数据空间建设提供技术指引；“5”指的是遵循统一技术架 构，可以指导相关主体构建企业、行业、城市、个人和跨境五 类数据空间；“N”指的是围绕具体应用场景需求，在五类数据空 间范围内建设若干可信数据空间实例；最后一个“1”指的是推动 各数据空间互联互通，形成一张广泛互联、资源集聚、生态繁

Digital Mesh” 数字化成熟度评估模型1.0研究成果 于2023年2月正式发布 2022年1月 《中国银保监会办公厅关于银行业保险业数字化转型的指导 意见》（银保监办发〔2022〕2号） 就银行、保险等金融机构 数字化转型提出指导意见 2021年12月 中国人民银行发布《金融科技发展规划（2022-2025）》 （银发〔 2021〕335号） 就十四五期间金融科技发展提出 总体规划与部署建议 top100summit.com 核心实践 基于企业战略寻找数字化转型的“北极星指标”，并最终实现决策引领 ✓ 综合衡量产品的用户价值及商业目标，度量业务长期健康度；将业务目标数据化，并通过数据的表现，反向指导业务 方向 ✓ 在指标体系中引入“北极星”指标，即把企业核心竞争力转化为数字化的指标体系，这个体系可以记录、跟进、反馈、 迭代，并倒逼形成一个具有反馈闭环的组织管理和运营体系。 一级指标 二级指标

2021.7.8 药监局《关于发布人工智能医用软件产品分类界定指导原则的通告》  加强对人工智能医疗软件类产品的监管管理，促进该产业的高质量发展。该指导原则对人工智能软件进行了定义，并提出了管理属性的确定与 管理类别的界定指导。 2022.7.29 科技部等六部门关于印发《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》  促进人工智能更高水平应用，推动人工智能场景创新。 源也越来越丰富，应用场景不断拓展，但仍然存在一些问题。例如，人们对场景创新的认 识不足，重大场景系统设计不足，场景机会开放程度不够，场景创新生态不完善等。因此，需要加强对人工智能场景创新工作的统筹指导，以 进一步推进人工智能技术的应用和发展。 2023.3.23 中共中央办公厅 国务院办公厅印发《关于进一步完善医疗卫生服务体系的意见》  加强信息技术支撑。推动“互联网+医疗健康”发展，建 其中“影像e+回顾性肺结节深度分析报告”服务是由三 级医院影像科高年资主治医师级别及以上专家根据《中 国肺癌早筛标准T/CPMA013——2020》，通过在线阅 片并结合AI技术辅助的肺结节专项分析报告，为客户提 供具有专业性及指导意义的个性化咨询报告。 陆续开展数字健康元宇宙领域的研究  以数坤科技研发的全球原创AI技术及“健康数字医生” 产品，对布局各地的健康体检与医疗机构进行智能化升 级，以实际行动推动“智能健康管理”应用场景全面落