TC260-PG-2026NA 网络安全标准实践指南——用户使用人工智能安全指南（征求意见稿）

微信扫码，打开到小程序

TC260-PG-2026NA 网络安全标准实践指南 ——用户使用人工智能服务安全指南 （征求意见稿 v1.0-202601） 全国网络安全标准化技术委员会秘书处 2026 年 01 月 本文档可从以下网址获得： www.tc260.org.cn/ I 前 言 《网络安全标准实践指南》（以下简称《实践指南》） 是全国网络安全标准化技术委员会（以下简称“网安标委”） 秘书处组织制定和发布的标准相关技术文件，旨在围绕网络 安全法律法规政策、标准、网络安全热点和事件等主题，宣 传网络安全相关标准及知识，提供标准化实践指引。 本文件起草单位：北京中关村实验室、北京快手科技有 限公司、中国电子技术标准化研究院、中央网信办数据与技 术保障中心、工业和信息化部电子第五研究所、北京航空航 天大学、阿里云计算有限公司、北京天融信网络安全技术有 限公司、蚂蚁科技集团股份有限公司、北京金山办公软件股 份有限公司、北京智源人工智能研究院。 本文件起草人：刘勇、谷晨、落红卫、马梦娜、刘栋、 张妍婷、李芒、张宗洋、申东洋、吴波、王姣、彭骏涛、王 龑、林冠辰、安红云、吕梦、刘颖、杨熙、费凡芮、周佳杭、 陈海龙。 II 声 明 本《实践指南》版权属于网安标委秘书处，未经秘书处 书面授权，不得以任何方式抄袭、翻译《实践指南》的任何 部分。凡转载或引用本《实践指南》的观点、数据，请注明 “来源：全国网络安全标准化技术委员会秘书处”。 III 摘 要 随着人工智能技术的快速发展，基于人工智能开发的应 用触及人们生活的方方面面，用户使用各类人工智能服务日 益广泛。本指南为用户安全使用人工智能服务提供指导，聚 焦解决用户在使用过程中的两大核心内容，一是保护自身的 安全，二是约束自身行为。本指南包括了用户在使用人工智 能过程中的安全意识提升、指导用户如何保护自身的安全以 及使用行为规范。 1 目 录 1 范围.................................................................................................................................................2 2 规范性引用文件............................................................................................................................ 2 3 术语定义.........................................................................................................................................2 4 概述.................................................................................................................................................2 5 安全意识提升................................................................................................................................ 3 6 安全使用指引................................................................................................................................ 3 7 使用行为规范................................................................................................................................ 4 2 1 范围 本实践指南给出了用户使用人工智能服务的安全指引，包括安全 意识提升、安全使用指引、使用行为规范等。 本实践指南适用于指导用户安全地使用人工智能服务，也用于人 工智能服务的技术提供者、服务开发者、服务运营者保障公众用户安 全使用的必要功能。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可 少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本 文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用 于本文件。 GB/T 35273 信息安全技术 个人信息安全规范 GB 45438-2025 网络安全技术 人工智能生成合成内容标识方法 GB/T 45654-2025 网络安全技术 生成式人工智能服务安全基本 要求 3 术语定义 GB/T 35273 界定的术语和定义适用于本文件。 4 概述 人工智能服务有不同的类型，通常基于用户主动输入的提示信息， 3 或是用户的实际行为特征等，为用户提供预测、建议、决定，或是生 成文本、图片、音频、视频等内容。用户在使用人工智能的过程中， 应该注意安全意识的提升，遵守安全使用指引，并且依照使用行为规 范来确保使用人工智能的安全。 5 安全意识提升 用户在使用人工智能过程中，需要建立并持续强化安全意识，建 立安全理念，包括： a) 认识到人工智能的能力具有局限性，例如人工智能可能出现 理解偏差、输出幻觉、无法解决特定复杂问题、知识滞后等 情况。 b) 在使用人工智能过程中保持独立思考，避免盲目接受和信任 人工智能生成的结果，必要时对人工智能的输出进行审核、 验证等。 c) 认识到与人工智能服务交互的信息可能存在隐私泄漏风险。 d) 关注人工智能发展，关注安全动态。 6 安全使用指引 用户在使用人工智能服务过程中，需要树立并持续强化安全使用 意识，其安全使用指引主要包括： a) 查看用户协议和隐私协议，了解以下信息并进行相应处置： 1） 会被收集的个人信息以及使用方式等，特别关注个人信息 是否会被共享等； 4 注：个人信息收集、使用的要求，可参见 GB/T 35273。 2） 用户数据是否会被用作训练数据，并决定是否同意，必要 时可撤回同意； 3） 人工智能服务的局限性、适用的人群等； 4） 投诉、质疑、反馈机制和渠道。 注：渠道通常包括但不限于电话、邮件、交互窗口、短信等方式中的一 种或多种。 b) 在输入信息过程中，避免透漏隐私信息或敏感个人信息，防 止信息泄漏或被窃取；如必须提供敏感个人信息或隐私数据， 优先考虑进行脱敏处理。 c) 关注人工智能服务申请的访问权限（如麦克风、相册等），关 闭非必要的授权。 d) 对于人工智能生成的结果进行核验，注意甄别其中是否存在 幻觉、偏见、歧视等风险，并根据情况进行处置。 e) 关注开发者提供的安全更新、补丁等，并在必要时进行安装 和升级。 f) 个人权益受损时及时向主管部门或机构进行咨询求助或举报。 7 使用行为规范 用户在使用人工智能服务过程中，需要约束自身使用行为，其使 用行为规范包括： a) 不恶意利用输入诱导人工智能产生有害行为。 注：根据 GB/T 45654-2025 中 6.5 a）的要求，用户连续多次输入违法不 良信息或一天内累计输入违法不良信息达到一定次数时,可能会被暂 停服务。 5 b) 不恶意发送大量复杂请求耗尽服务资源（如超长文本、循环 提问等）导致系统瘫痪。 c) 在使用人工智能服务生成合成内容时： 1）关注服务输出内容是否具备生成合成内容标识，不恶意 裁剪、删除标识； 注：生成合成内容标识的样式可参考 GB 45438-2025 第 5 章的要求。 2）如发现生成内容存在准确性、科学性问题，或包含违法 不良信息时，不进行二次传播； 3)不滥用人工智能输出，如发现模型生成违法不良信息，可 通过投诉举报路径反馈至服务提供者； 4)不恶意引导人工智能输出违背伦理道德的内容。 d) 在发布生成合成内容时，主动声明并使用服务提供者提供的 标识功能。