TC260-PG-2026NA 网络安全标准实践指南——人工智能应用安全指引 广播电视和网络视听（征求意见稿）

微信扫码，打开到小程序

TC260-PG-2026NA 网络安全标准实践指南 ——人工智能应用安全指引 广播电视和网络视听 （征求意见稿 v1.0-202601） 全国网络安全标准化技术委员会秘书处 国家广播电视总局科技司 2026 年 01 月 本文档可从以下网址获得： www.tc260.org.cn/ I 前 言 《网络安全标准实践指南》（以下简称《实践指南》）是 全国网络安全标准化技术委员会（以下简称“网安标委”）秘 书处组织制定和发布的标准相关技术文件，旨在围绕网络安 全法律法规政策、标准、网络安全热点和事件等主题，宣传 网络安全相关标准及知识，提供标准化实践指引。 本文件起草单位：国家广播电视总局广播电视科学研究院、 中央广播电视总台、中国电子技术标准化研究院、中国科学 院自动化研究所、北京邮电大学、北京爱奇艺科技有限公司、 北京快手科技有限公司、中央网信办数据与技术保障中心、 北京信工博特智能科技有限公司、中国传媒大学、海思技术 有限公司等。 本文件主要起草人：王磊、郭晓霞、郑蕤荻、郭庭昊、张 妍婷、吕飞霄、宋昊、王伟、刘杰、卢明樊、落红卫、王昕、 郭建领、樊庆君、邵玮、司俊俊、申东洋、陈维玮、薛子育、 刘庆同、梁志坚、刘媛媛、谢学兵、饶婷霜、童永祥、王超。 II 声 明 本《实践指南》版权属于网安标委秘书处，未经秘书 处书面授权，不得以任何方式抄袭、翻译《实践指南》的 任何部分。凡转载或引用本《实践指南》的观点、数据， 请注明“来源：全国网络安全标准化技术委员会秘书处”。 III 摘 要 为全面提升各行业人工智能应用安全水平，以高水平 安全保障人工智能高质量发展，依据《中华人民共和国网 络安全法》《中华人民共和国数据安全法》《中华人民共 和国个人信息保护法》，以及《生成式人工智能服务管理 暂行办法》《人工智能生成合成内容标识办法》《互联网 信息服务算法推荐管理规定》《互联网信息服务深度合成 管理规定》等政策法规，制定人工智能应用安全指引系列 文件。 人工智能应用安全指引系列文件包含通用文件以及行 业领域文件两类。通用文件提供通用性实践安全指导，适 用于各行业领域开展人工智能应用活动。行业领域文件给 出适用于特定行业领域的实践指引。 本《实践指南》属于行业领域文件，用于指导广播电 视和网络视听领域企事业单位开展人工智能应用活动。本文 件与《网络安全标准实践指南——人工智能应用安全指引 总则》等通用文件配合使用。 IV 目 录 1 范围.................................................................................................................................................1 2 规范性引用文件............................................................................................................................ 1 3 术语定义.........................................................................................................................................2 4 缩略语.............................................................................................................................................2 5 概述.................................................................................................................................................2 6 基本安全指引................................................................................................................................ 3 7 业务安全指引................................................................................................................................ 3 8 应用场景安全指引........................................................................................................................ 5 8.1 策划创作场景..................................................................................................................... 5 8.2 制作播出场景..................................................................................................................... 6 8.3 传输覆盖场景..................................................................................................................... 7 8.4 集成分发场景..................................................................................................................... 8 附录 A（资料性）广播电视和网络视听领域人工智能应用场景与主要风险..........................11 参考文献...........................................................................................................................................15 1 1 范围 本文件规定了广播电视和网络视听领域人工智能应用的基本安 全要求，以及策划创作、制作播出、传输覆盖、集成分发等环节人工 智能应用的安全要求。 本文件适用于各级广播电视和网络视听机构开展人工智能应用 时的安全风险防范与管理。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可 少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本 文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用 于本文件。 GB/T 25069 信息安全技术 术语 GB/T 41867 信息技术 人工智能 术语 GB 45438 网络安全技术 人工智能生成合成内容标识方法 GB/T 45652 网络安全技术 生成式人工智能预训练和优化训练 数据安全规范 GB/T 45654 网络安全技术 生成式人工智能服务安全基本要求 GB/T 45674 网络安全技术 生成式人工智能数据标注安全规范 TC260-PG-2026XX 网络安全标准实践指南——人工智能应用安 全指引 总则 2 3 术语定义 TC260-PG-2026XX《网络安全标准实践指南——人工智能应用 安全指引 总则》附录 B 中界定的以及下列术语和定义适用于本文件。 3.1 广播电视和网络视听机构 radio, TV and network audiovisual institution 经广播电视主管部门许可，从事广播电视和网络视听业务的机构。 3.2 广播电视和网络视听人工智能应用 artificial intelligence application in radio, TV and network audiovisual 人工智能技术在广播电视和网络视听业务中的集成与应用。 4 缩略语 TC260-PG-2026XX《网络安全标准实践指南——人工智能应用 安全指引 总则》附录 C 中的缩略语，以及下列缩略语适用于本文件。 CDN：内容分发网络（Content Delivery Network） IPTV：交互式网络电视（Internet Protocol Television） MIDI：乐器数字接口（Musical Instrument Digital Interface） 5 概述 人工智能技术在广播电视和网络视听领域的应用涉及广播电视、 IPTV、互联网电视、互联网视听服务四个层次的业务，主要包括策 3 划创作、制作播出、传输覆盖、集成分发等场景。广播电视和网络视 听人工智能应用场景见附录A。 广播电视和网络视听机构在开展人工智能应用时，应符合国家相 关法律法规和政策文件的要求，满足行业发展需求，在遵循 TC260-PG-2026XX《网络安全标准实践指南——人工智能应用安全 指引 总则》基础上，按照本文件第6章至第8章提出的安全指引开展 研发集成和应用，防范人工智能应用安全风险，保障人工智能应用安 全可控。 6 基本安全指引 广播电视和网络视听机构在开展人工智能应用活动过程中： a) 应参考 TC260-PG-2026XX《网络安全标准实践指南——人工 智能应用安全指引 总则》，提升人工智能应用安全水平，防 范人工智能应用安全风险。 b) 使用生成式人工智能技术面向公众提供服务的，应符合 GB/T 45654—2025 相关要求。 7 业务安全指引 广播电视和网络视听机构在使用人工智能技术开展业务过程中： a) 使用人工智能技术生成、制作、传播的广播电视和网络视听节 目，应符合内容管理、播出管理的有关要求。 4 b) 使用人工智能技术生成、制作、传播的广播电视和网络视听节 目，不应含有下列内容： 1）违反宪法确定的基本原则，煽动抗拒或者破坏宪法、法律 法规实施； 2）危害国家统一、主权和领土完整； 3）泄露国家秘密、危害国家安全或者损害国家尊严、荣誉和 利益； 4）诋毁优秀民族文化传统，煽动民族仇恨、民族歧视，侵害 民族风俗习惯，歪曲民族历史或者民族历史人物，伤害民 族感情，破坏民族团结； 5）违背国家宗教政策，宣扬邪教、迷信； 6）危害社会公德，扰乱社会秩序，破坏社会稳定，宣扬淫秽、 赌博、吸毒，渲染暴力、恐怖，教唆犯罪或者传授犯罪方 法； 7）侵害未成年人合法权益或者损害未成年人身心健康； 8）侮辱、诽谤他人或者散布他人隐私，侵害他人合法权益； 9）法律、行政法规禁止的其他内容。 c) 不应使用人工智能技术生成时政类新闻节目；使用人工智能技 术生成、制作、传播的非时政类新闻节目、广播电视和网络视 听广告的，应按照 GB 45438—2025 的相关规定，在适当位置、 区域添加显式标识。 5 d) 使用人工智能技术生成、制作音频节目的，不应仿冒他人声音。 e) 不应使用虚拟数字人形象从事时政新闻类节目播音主持活动； 使用虚拟数字人形象从事其他新闻类节目播音主持活动的，所 使用的稿件应当来源于具有新闻采编发布资质的媒体。 f) 使用人工智能技术生成的虚拟数字人，不应出现仿冒他人形象 和声音等侵犯人格权的行为。 g) 应采取有效措施，对使用的虚拟数字人进行注册或者登记，加 强虚拟数字人等数据安全管理。 h) 开展人工智能训练数据采集、标注和管理等活动时，应符合 GB/T 45652—2025 和 GB/T 45674—2025 的规定。 8 应用场景安全指引 8.1 策划创作场景 策划创作场景安全指引如下： a) 应落实播前审查要求，避免出现文化歧视倾向、历史虚无主义 表述、社会公序良俗违背等价值观偏差。 b) 应保障知识产权，人工智能使用的图片、视频、声音等素材应 符合知识产权法律法规要求，具有版权或得到相应的授权许可。 c) 部署基于关键词、语义识别、图像比对等内容审核工具，对人 工智能生成内容实施全量初步筛查，重点识别违法违规、暴力 色情及不符合广播电视和网络视听播出规范的内容。 6 d) 建立涵盖权威公开信息来源作为参考的可信信源库；涉及关键 事实、政策表述、统计数据和引述内容等，应通过至少两个可 信信源进行交叉核验。 e) 设置初审、复审、终审等多层级人工审核机制，每级指定专人 负责内容审查，及时发现并纠正潜在问题。 f) 审查训练数据合法性与价值观合规性，并建立人工智能应用全 生命周期日志，记录数据、模型、输入及交互，日志应防篡改、 可追溯。 g) 建立人工智能训练数据和输出内容的价值观、歧视内容、商业 违法违规、他人合法权益等评估、监测和预警机制，及时发现 和处置风险。 h) 人工智能生成合成内容应嵌入元数据隐式标识。 8.2 制作播出场景 制作播出场景安全指引如下： a) 建立全过程追溯机制，关键、敏感、自动生成内容应人工复审， 节目成片由相关责任人终审，确保内容安全、责任可溯。 b) 基于客观事实或历史知识的内容制播，应尊重历史和客观规律。 c) 利用人工智能对历史影像资料进行修复时，应以“修旧如旧” 为原则，以原始档案和可靠史料为基础，禁止缺乏史料支撑地 推断性生成，确保符合史实与播出要求。 7 d) 修复、上色与扩图应遵循最小干预原则，避免引入非实证信息 或造成画面失真。 e) 新闻采播、综艺节目录制等涉及现场观众信息采集的，应遵循 最小化个人信息采集原则，并取得观众明确的知情同意权。 f) 应支持对外部采集素材进行人工智能生成合成内容判别和标 识管理。 g) 使用生成式人工智能技术制作播出的节目，可能导致公众混淆 或者误认的，应在合理位置、区域添加显示标识。 h) 使用生成式人工智能技术制作播出的节目，不会导致公众混淆 或者误认的，可在片头或片尾注明含有人工智能辅助生成内容。 i) 使用生成式人工智能技术制作播出的节目，其显式标识和元数 据隐式标识在制作和播出全流程不得删除，并在媒资管理、节 目传播过程中携带的同时，支持对相关信息进行完善。 j) 网络视听机构应在用户生成内容上线前判别其是否为人工智 能生成合成；判别为生成合成的，应按照 GB 45438—2025 的 规定添加显式标识和元数据隐式标识。 k) 支持在生成合成内容中添加数字水印等形式的隐式标识，但不 应影响主观观看体验。 8.3 传输覆盖场景 传输覆盖场景安全指引如下： 8 a) 建立故障动态入库与模型更新机制，定期纳入新型故障知识， 确保模型覆盖最新故障类型。 b) 仅允许将验证后的解决方案录入知识库。 c) 从知识库提取数据，不应使用未经审核的外部数据源。 d) 人工智能生成的策略应附带“知识库溯源标签”，通过标签可获 取引用的知识库原文摘要。 e) 针对故障的人工智能生成策略仅可作参考建议，不直接执行。 8.4 集成分发场景 集成分发场景安全指引如下： a) 提升算法透明度：分发服务提供者采用合理的方式和途径向用 户公开算法机制，可设置“算法说明中心”并以图文或视频解释 推荐规则。 b) 破除“信息茧房”与观点极化： 1）在用户兴趣偏好外引入多样化推荐策略，对同类题材设置 推送上限； 2）提供一键切换至获取非偏好内容的功能； 3）用户画像应适当、合理，不得包含歧视、恶意等信息。 c) 完善推荐内容审核： 1）持续完善内容审核机制，内容分发前应经过自动化审核和 人工复核； 2）建立违规和不良信息特征库，并定期更新； 9 3）建立内容审核责任追溯机制，明确审核责任； 4）对分发内容进行实时监测，发现违规或不良信息应立即停 止推送并采取消除、屏蔽等处置措施。 d) 用户赋权与特殊群体保护 1）弱势群体保护： ——针对青少年用户，禁用无限下拉刷新等成瘾设计；宜 按年龄推送适龄内容并提供家长干预入口； ——针对老年用户，简化关闭个性化推荐步骤，并提供大 字版指引； ——基于个人信息的推荐，应加强个人敏感信息保护，维 护用户个人权益。 2）投诉与反馈：提供一键投诉“信息茧房”“内容低俗”等投诉 途径，并在 48 小时内响应。 e) 人工智能不自动修改账户、订单或支付状态；涉及资金或合同 终止的请求立即转接至人工客服处理队列。 f) 人工智能仅可访问公开知识库，其回复应绑定标准化知识库条 目，用户可查看对应知识原文。 g) 敏 感 信 息 应 实 时 脱 敏 ： 身 份 证 号 与 银 行 卡 号 替 换 为 **************，手机号脱敏为[前三码]****[末四码]，订单 号仅显示末四位，地址信息仅保留市级行政区划。 10 h) 未匹配知识库的提问仅可返回预设内容，知识库匹配置信度低 于 90%时，立即终止回复并推送转人工弹窗。 i) 启用新会话时清空历史缓存，不继承历史对话记录。 j) 采集用户声音、图像时，应按照最小必要原则，对必须采集的 个人敏感信息应采取加密、访问控制等措施，对个人信息的采 集、传输、存储、使用进行全流程保护。 11 附 录 A （资料性） 广播电视和网络视听领域人工智能应用场景与主要风险 A.1 应用场景 广播电视和网络视听人工智能应用场景见表A.1。 表A.1 广播电视和网络视听人工智能应用场景 序号 一级场景 二级场景 场景说明 1 策划创作 剧本/脚本创作 创意构思、情节设计、初稿撰写、对白优 化。 2 剧本/脚本分镜 依据剧本文本生成含镜号、景别、运镜的 结构化分镜表及画面参考。 3 歌词创作 依据主题、情感或风格生成符合韵律与结 构的歌词。 4 辅助新闻生产 辅助信息采集、稿件撰写、多语言翻译、 多媒体整合。 5 演播室场景设计 辅助生成演播室背景与舞台视觉。 6 人物形象设计 基于文本描述生成写实或风格化人物外 观、表情及姿态。 7 服化道设计 依据角色设定与场景需求生成服装、妆容、 道具。 8 音乐编曲 根据旋律、歌词或风格描述生成音频片段、 MIDI 序列或乐谱。 9 关键帧生成 根据剧本或分镜描述生成动画关键帧或故 事板图像。 10 节目片段生成 根据文本指令或场景描述生成短时长节目 内容片段。 12 序号 一级场景 二级场景 场景说明 11 制作播出 新闻剪辑 自动识别素材中的关键画面与同期声，依 据预设规则制作新闻成片。 12 影视剧剪辑 依据剧本及演员情绪、动作完成粗剪，并