型的 性能和可靠性。同时，确保数据的合规性和隐私保护至关重要，需要遵守相关法规和 伦理准则，保护患者和研究对象的权益。 医疗大模型的 伦理风险与安全监管 （一）医疗大模型应用的伦理隐忧 尽管大模型在医疗领域的应用展现出极大的发展潜力，但飞速发展的同时也可能涉及 数据隐私、信息安全、医疗决策的责任等伦理和法律问题，这些也正是在临床一线工 作的医务工作者所关心的问题。 在数据隐私和安全 属。确定医生、AI系统或开发者承担责任是复杂的法律和伦理问题。如患者因AI错误 决策受害，责任归属需慎重考虑。北京市卫健委发布《北京市互联网诊疗监管实施办 法（试行）》，禁止使用AI自动生成处方，规范互联网诊疗活动，降低AI技术潜在风 险。 许多一线医生对AI在医学领域，特别是临床诊断和治疗中的应用持谨慎态度。尽管AI 具有辅助诊断和治疗潜力，医生仍需保持批判性思维，不能完全依赖这些工具。医疗 大模型引发的伦理和法律问题需要跨学 靠和合规使用。这些问题涉及患者隐私、权益，以及医疗从业者责任和医疗质量提 升。 （二）医疗大模型中数据的隐私和安全性保障 医疗大模型的应用与发展也带来了对数据隐私保护和数据安全性的重要关切，面临着 伦理、法律和安全挑战。大模型无论在训练还是在使用的过程中，都需要保障隐私和 数据安全，本地化部署、数据加密、增强数据多样性等都是保障隐私和数据安全性的 重要措施。 在本地化部署与隐私计算方面，医疗大模型微调过程需用大量患者敏感隐私数据，直

实践给教师数字素养提出的新诉求，对教师数字素养要求及其发展策略进行系统 分析，并着重就发展策略所涉及到的教师培养培训、评价与治理等方面展开论述， 分析人工智能对这些场景的赋能作用；最后，通过对伦理安全要求和智能时代教 师发展核心关切的探讨，以激发人们对人工智能赋能教师发展的进一步思考。此 2025 智能教育发展蓝皮书 外，报告对全国各地、各级各类学校最新人工智能赋能教师发展的实践案例作了 章 人工智能赋能教师研究转型 14 第 4 章 教师数字素养与发展策略 21 第 5 章 人工智能赋能教师培养培训 28 第 6 章 人工智能赋能教师评价与治理 36 第 7 章 教师人工智能伦理安全要求及实践 44 2025 智能教育发展蓝皮书 II 第 8 章 智能时代教师发展的核心关切 49 蓝皮书编写工作组 52 1 第 1 章 强国必先强教，强教必先强师，高素质专业化教师队伍是教育强国建设的重 在教育教学中应用 AI 需要坚持智能向善，重视教师伦理安全规范与学生伦 理价值引导，保障合规高效、安全有序使用 AI。 加强教师应用 AI 的伦理安全规范。持续推进教师 AI 应用伦理安全教育，建 立完善审查、监管、问责等规范体系，推动教师深刻理解 AI 应用的潜在风险和 伦理安全主体责任，严格遵守数据隐私与安全相关法规，恪守 AI 应用伦理边界， 对 AI 输出结果保持批判性审视，避免 AI

..................................................................................... 12 10、人形机器人伦理与监管框架 ........................................................................... 13 特斯拉人形机器人的技术突破解读 10、人形机器人伦理与监管框架 随着特斯拉 Optimus 等人形机器人技术的快速发展，伦理与监管框架的建立 变得日益紧迫。人形机器人因其拟人化特性，在伦理问题上面临独特挑战。首 先，安全性是核心关切，机器人必须确保在任何情况下不对人类造成伤害。特 斯拉等公司在人形机器人安全领域进行了探索，例如通过预测行动后果并根据 预设伦理规则评估这些后果来确保安全[6]。这种“伦理层”可以补充现有控制 人做 出错误决策时，责任应归于设计者、制造商还是使用者？特斯拉自动驾驶事故 特斯拉人形机器人的技术突破解读 LICHENYANG@PATSNAP.COM 14 的伦理分析为人形机器人提供了参考框架，强调了制造商的道德责任以及用户 行为、系统限制和监管影响的重要性[3]。 在监管方面，现有法律框架难以应对人形机器人带来的新挑战。各国需要建立 统一标准

Domain-Specific LLMs),形成模型资源池。 4. 2 一套规范体系(安全+伦理+标准) 安全与隐私规范:制定大模型应用在内容安全、系 统安全、数据泄露防护等方面的安全要求和数据脱敏、 匿名化、用户授权机制等方面的隐私保护标准。 伦理与责任指南 [15]:明确大模型应用的伦理边界 (如避免偏见歧视、保障人类主体性、防止滥用),建立 内容审核、责任追溯机制。 技术与应用标准:制定模型接口、数据格式、性能 势产业利用大模型提质增效降本,培育新业态新模式; 应探索大模型在科学发现、艺术创作等前沿领域的应 用;应关注“大模型+政务服务” “大模型+智慧医疗” “大模型+工业研发” 等具有广阔前景的融合方向;对 于涉及重大伦理风险的场景(如司法、自动驾驶决策) 需审慎推进,建立严格的监管和评估机制。 ·94· �N����7� �����0 ��� 6. 3 构建安全可信的治理体系 大模型赋能智慧城市的发展与安全应并重 完善监管机制:明确监管主体和职责分工;探索适 应大模型特点的新型监管模式,如“ 监管沙盒”、敏捷 治理;建立覆盖模型研发、部署、应用全流程的动态监 管机制;加强跨境数据流动和模型输出的安全管理。 推动伦理与规范建设:积极参与国内外大模型伦 理规则制定;推广负责任的人工智能实践,倡导科技向 善;建立畅通的公众反馈和争议解决渠道。 7 结束语 大模型作为引领未来的战略性技术,其赋能智慧 城市建设的广度和深度将持续拓展。

麦迪安网路安全公司：AI辅助网路威胁归因 13 印度星展行动银行：用客户科学优化客户服务 14 直觉软体公司：AI辅助写作，人负责提供规则 15 Lilt：电脑辅助翻译，使专业翻译者产能提升160％ 16 赛富时：伦理AI实践的架构师 17 Miiskin：AI辅助皮肤成像，医师更能专注于复杂案例 18 好医生科技：实现家家户户都有好医生 19 奥斯勒工作：法律服务的转型现场 20 太平洋轴承公司：用于员工训练的AI虚拟现实 辑方式，处理要求很高或不常见的语言翻译。 语言处理AI系统，可以透过结合大型公开资料集、产业特定公司资料， 以及使用者的特定资料，改善个人使用者或公司选择如何翻译单字和片语。 104 16 赛富时 伦理AI实践的架构师 2016年10月，赛富时创办人兼执行长马克．贝尼奥夫（Marc Benioff）告知 内部员工、客户和投资人，赛富时将成为一家AI公司。那一年稍早前，微软透过X （前身为Tw 她已经 在公司里「兼职」当AI伦理学家，负责教育同事和AI相关的伦理议题，并指导产 品工程团队如何做好他们的工作。 2018年4月，她在一次研究会议见到赛富时前科学长理查．索赫尔（Richard Socher），并和他谈到自己和公司的爱因斯坦团队（赛富时在其产品里的AI品 牌），进行的伦理AI工作。索赫尔喜欢巴克斯特的投入，并问她是否考虑过全职 从事伦理工作。她没有想过这样做，所以索赫尔建议她考虑一下。于是，巴克斯

.......................................................................................195 10. 法律与伦理规范................................................................................................. .........................................................................................205 10.2 伦理审查机制............................................................................................... 小时）、数据处理 吞吐量衰减率（≤5%）等核心指标。设立版本回滚触发机制，当出 现关键业务功能异常或性能下降超过 15%时，自动触发回滚流程。 10. 法律与伦理规范 在系统设计与实施过程中，必须严格遵守现行法律法规，并建 立完善的伦理审查机制。重点遵循《中华人民共和国网络安全法》 《个人信息保护法》以及《公共安全视频图像信息系统管理条例》 等法规要求，确保数据采集、处理、存储的全流程合规性。视频数

至今仍是衡量 AI 智能水平的重要标准，例如 ChatGPT 等大模型均以通过类似测 试为目标。 图灵通过图灵测试与图灵机构建了人工智能的理论框架，其密码学实践与哲学思 考为现代 AI 技术提供了方法论与伦理基础。尽管他未亲历 AI 的爆发式发展，但 其思想至今仍是技术突破的核心驱动力。 阿兰 · 图灵 (1912-1954)—— 现代计算机的奠基人，人工智 能之父。 图灵与人工智能 图灵测试 更自然地与人互动 ， 理解复杂情感和意图 问题解决能 力 擅长解决结构化和定义明确的问题 能够处理多维度和非结构化问题 ， 提供创造性的解 决方案 伦理问 题 作为受控工具 ， 几乎没有伦理问题 引发自主性和控制问题的伦理讨论 CoT 链式思维的出现将大模型分为了两类： “概率预测（快速反应） ”模型和“链式推理（慢速思考） ”模型 。 前者适合快速反馈， 处理即 时任务； 后者通过推理解决复杂问题 、杭锦旗 执法规范化 法 律 语 义 理 解 + OCR 纠 错 执法错误率下降 47% 南京 、成都 公安工作与 AIGC 技术的结合已从单点工具应用转向系统性变革，未来需在技术迭代、法规完善和伦理治理三方面协同推进，实现“数 据 驱动决策、 AI 赋能实战”的智慧警务新范式。 小结 大数据智能 语义网络、知识图谱自动化及自我博弈系统。把人工智能 10 和 2 .0 技术混合在一起，

它不仅是传统教室的硬件升级，更是实现大规模因材 施教、培育学生高阶思维与创新能力的基础环境。其 价值在于无缝对接“集成化、智能化、国际化”的战 略方向，将优质资源精准送达每个角落，助力缩小教 育差距。 面对技术适配、伦理安全与常态化应用等挑战，产业 界应推动AI装备从工具属性升级为教育变革的赋能者。 我们亟需共建安全、开放、创新的产业生态，让智能 技术真正服务于立德树人的根本任务，为构建人人皆 学、处处能学、时时可学的学习型社会奠定坚实基础， “1+N+N”AI技术架构，将自研的希沃教学大模型 2.0融合高质量教育语料与通用模型，打造覆盖备课、 授课、评价全流程的AI教学空间。我们倡导携手生态 伙伴打破资源边界，缩小数字鸿沟。同时高度重视AI 伦理与安全，始终让技术服务于人，助力教师成为课 堂的首席引导者。 在教育全球化的浪潮中，我们亦积极推动国际交流与 合作，将中国智慧教育方案带入全球视野，助力教育 现代化迈出中国步伐。希沃愿与各方携手，以技术革 支撑教师精准教学与因材施教。数据安全是智能教育 的底线。通过云-边-端协同体系，学校可建立校本知识 库，实现数据可控、可管、可用。 具体措施包括边缘计算与本地部署确保核心数据不出 校，通过分级、脱敏和权限控制防泄露；建立AI伦理 审查，持续监控算法偏见与隐私，用数据提升效率。 未来教室将突破物理限制，成为无处不在的智能学习 环境。从学校到家庭、线上线下，所有场景均可被感 知记录并反馈教学，打破时空限制，实现个性化与数

甚至可能出现防御机制全面失效的风险。三是产业生态加速成型，头部 安全厂商将推出AI智能体开发平台，降低中小企业应用门槛；跨行业协 同机制进一步完善，政府、企业、科研机构将联合推动形成统一的技术 标准与伦理规范，助力我国在智能安全领域占据国际竞争主动权。 085 （四）算网融合催生安全防护新场景 2025年，算网融合作为“数字新基建”核心支柱加速落地，算力 网络与通信网络深度协同形成“云边端”一体化架构，既推动数字经济 作，对智能体行为的监控审计，通过在关键设备植入硬件级安全锁等机 制，及时阻断和干预智能体异常行为。三是构建贯穿智能体全流程的价 值约束体系，强化智能体“透明可解释”机制，将“不伤害物理世界” 作为算法底层逻辑，通过伦理嵌入技术实现伦理与目标之间形成制衡。 （四）完善数字化转型安全保障支撑 一是细化网络安全法规政策实施细则，围绕数据分类分级，加快制 092 中国工业和信息化 发展形势展望系列 定各行业重要数据目录

........................................................................................183 9. 合规与伦理................................................................................................... ..........................................................................................191 9.2 伦理问题探讨............................................................................................... 力测试，确保在 99.97%置信区间内有效。每日收盘后生成极端情景应对评估报 告，重点分析熔断触发次数、滑点控制效果和策略中断恢复时间等 关键指标。 9. 合规与伦理 在 AI 量化交易系统的设计与实施过程中，合规与伦理是确保 系统长期稳定运行的核心支柱。首先，必须严格遵守各国金融监管 框架，例如美国的 SEC 法规、欧盟的 MiFID II 以及中国的《证券 法》和《算法交易管理办法》。系统需内置动态合规检查模块，实