2026AI赋能网络安全：AI大模型安全架构构建与落地实践解决方案

微信扫码，打开到小程序

AI 大模型安全架构 落地解决方案 目 录 目 录 DIRECTORY AI 赋能安全的机遇与挑战 面向未来的安全架构洞察 AI 安全平台合作落地路径 AI 赋能安全的机遇与挑战 加入星球获取更多更全的数智化解决方案 GenAI 技术向普惠应用发展 人工智能领域的智能和推理水平不断提升， Transformer 为后续大模型提供了基础架构， ChatGPT 通过预训练和微调实 现了自然语言处理的突破，而 DeepSeek 则通过技术创新和开源策略推动了普惠 AI 的发展。 特点：开源、单模态 2017 年， Vaswani 等人提出的 Transformer 模型完全摒弃了传统的循环神经网络（ RNN ） 和卷积神经网络（ CNN ），仅通过注意力机制 实现端到端的序列建模。 特点：推理模型，慢思考，开 源，低成本 / 免费 2025 年 1 月， DeepSeek R1 发布，结合强化 学习（ RL ）和混合专家模型（ MoE ）等技 术，显著降低了训练成本并提升了推理性能。 模型通过强化学习实现了跨任务的泛化能力， 其推理性能接近 OpenAI 的 o1 mini 版本 ; AI 2.0 时代，在基模型 + 人工反馈强化学习加持 下，人工智能应用开发进入“规模化”阶段 , 体现 出“大力出奇迹”； 特点：知识模型，快思考，闭源，付 费 2018-2024 年， OpenAI 发布模型参数规模的指数级 增长， ChatGPT 是继数据库和搜索引擎之后的 全新 一代的 “知识表示和调用方式”。 Transformer ChatGPT DeepSeek R1 24 年 9 月， OpenAI 推出 o1 推理模型，闭 源，每月 200 美元 GenAI 为网络安全带来全新机遇和想象空间 漏洞挖掘 文档管理 代码审计 数据资产识 别梳理 权限治理 规则编排 行业百科 事件聚合 分析决策 漏洞修补 情报检索 根因挖掘 模拟 攻防 访问控制和 管理 安全语言 / 语 义理解 海量安全知识 嵌入与检索 安全业务内容 生成 任务规划与 工具使用 大 模 型 能 力 迁移 迁移 迁移 迁移 …… 数据安全 大模型 代码开发安全 大模型 身份安全 大模型 解决 解决 解决 解决 威胁检测大模型 安全运营大模型 解决 访问基线受综合因素 影响波动 环境逻辑推理 长上下文关联 主体身份难以统一 数据特征难识别，分 类分级准确率低 语义理解、检索 交互式强化学习 场景数据行为多样 化，难以识别异常 逻辑漏洞难以识别， 漏洞识别准确率低 代码和语义理解 代码和 语义生成 修复建议、补全代码 生成 解决 模 型 能 力 产 品 化 从大模型“涌现”能力的基本特性出发：①超强的语言 / 语义理解能力；②海量知识嵌入和检索能力；③文本生成和推理能力；④ 任务规划与工具使用。找到“安全场景”与“文本语义”、“工具智能”的契合点，重塑各领域安全应用。 GenAI 已经在部分安全领域，取得显著效果 告警研判精准率： 95% 误报纠偏准确率： 99% 2 人 + 安全运营大模型 ≈ 25 人 + 传统安全运营平台 安全运营大模型 检测精准率： 96.6% 高对抗攻击检出率： 95% 40 起 0-Day 攻击利用独报 Web 威胁检测大模型 检测精准率： 98% 独报钓鱼邮件： 2400 封 252 个定向钓鱼攻击检出 钓鱼威胁检测大模型 XDR SIP STA EDR CWPP Mail …… …… …… “ 安全 +AI” 其实也并不容易，绝大部分厂商在实战中未让用户看到真正大幅提升的效果。 ChatBot • 大 模 型 利 用 自 然 语 言 对 话，解读攻击，排查检索 问答机器人 阶段一 专家为主， AI 为辅 • 赋能细分领域、环节（如 安全运营的告警研判、钓 鱼检测环节，数据安全的 数据资产识别环节等） • 做出“击穿式”效果，具备广 泛的攻防实践 赋能单点技术 阶段二 AI 为主，专家为辅 • AI 承担日常运营值守、业 务上线检查、钓鱼邮件演 练等完整工作流 • 厂商开箱即用 + 面向工作 流个性化构建 从点到线， 闭环安全业务流 阶段三 在人类的监督下 AGI 具备决策及协同能力 • 95% 以上安全工作， AI 自 主闭环 • 智 能 体 / 模 型 高 度 协 同， AI 独立规划和决策 • 安全人员负责监督 全面覆盖， 构建网络安全的 AGI 阶段四 从技术探索回归大模型的商业价值实现 75% 的受访企业表示“降本增效”是企业应用 AIGC 的首要目的 数据来源：红杉中国 2023 年 CIO 调研问卷 75% 降低成本，提升效率 36% 提升市场反应速度 34% 产品差异化创新需求 单点场景及关键节点“质”与“量”的双重飞跃 重新整合流程与 AIGC 单点能力，形成新的工作流程 提供规模化、智能化的整体解决方案 点 线 面 面向未来， GenAI 必将深刻改变网络安全工作 AI 赋能安全看起来很美好，但应该如何在实际环境中有效建设和落地？ 挑 战 • 多个安全模型烟囱式建设，重复投资和对接数据 • 需要灵活适配底层算力，包括国产化算力 生长 • 如何快速起步，降低团队的 AI 门槛 • 大模型加入后，现有的人员分 工如何科学配置？ • 灵活适配未来不断涌现的更强 大模型 • 大模型如何能懂业务、懂场 景、懂客户 生长 组织 开放 但在 AI+ 安全的落地中，仍将面临诸多挑战 同时用户的安全投资也要逐步左移 NDR EDR XDR UEM 蜜罐 沙箱 IDS 沙箱 SIEM SOC IDS IPS WAF EPP AV 影子资产 集权系统 暴露面 潜在攻击路径 漏洞管理 风险治理 身份管理 权限管理 事后：重投资，但结果并不好 （ HW 被打穿、被通报、数据库窃取） 事前：风险治理薄弱，投资不足 用户过往大量的投资在安全事后，但效果仍然不好，未来投资要逐步左移 面向未来的安全架构洞察 威胁检测响应 DR 暴露风险识别 I 拦截威胁 P 减少暴露 P 身份威胁检测响应 DR 数据风险识别 I 保护数据 P 控制访问 P 威胁 对抗 可信 访问 • 安全检测响应和识别能力的 GenAI 的加持下，效率和效果会在得到成倍的提升，企业能在更短时间内处理更多数据，应对更多风险。 • 同时 GenAI 也在深远影响安全运营范式，基于多元化安全智能体将逐步改变传统安全运营架构，安全专家与工具协同方式也将大幅重构。 • 各类安全组件也将更多的面向 AI 智能体开放，标准化的工具调度方式将大幅缩短安全策略的响应速度，加速安全问题的闭环。 • 广泛多层级的安全控制组件将在简化复杂度的目标下持续整合，同时部分实时性较高的模型将原生于安全组件中，强化控制的精准性。 GenAI 将加速推动安全 IPDR 的循环迭代 —— 《 2024 年北美安全峰会技术趋势》 （ Gartner, 2024 ） 计算资源 传统安全应用 支撑安全运维、安全运营等业务的传统安全应 用，用于统一运维管理安全组件，开展识别、 监测与响应等工作。 传统面向人类的工具 场景化大模型 / 智能体 面向细分领域和环节，具备感知安全环境，数 据存储和一定的行为能力，有一定的自主性。 相比传统安全应用和工具，大幅提升安全效果， 具备智能化交互体验。 智算资源 智能体自主开展工作，人类监督 智算资源 智能体决策与协同 通过多模型 / 智能体协同，能够调用复杂工具， 多轮交互，自主闭环完整的安全工作流。极大 提升安全工作效率，释放安全人员精力。 协同组合方式可面向业务流灵活编排定义。 以大模型为大脑的工具 GenAI 赋能传统安全应用，向多模型 / 智能体协同演 进 趋势 1: 安全运营向 AI 范式转变，多元化安全智能体推进运营架构的模式转变 威胁检测响应智能体（模型、工具与数据编排） 工具集 响应控制工具 RAG 企业安全规范与知识库 安全模型 B 威胁检测模型 RAG 威胁情报查询 数据标准化 / 大模型 Prompt 工具调用 趋势 2: 安全组件加速整合，形成越来越多标准化接口融入至安全智能体工作流 传统分散碎片化的安全控制组件 整合度与接口标准化更高的安全组件 传统安全运营架构（平台间相互协同） SOAR 平台 安全编排与自动化响应 TI 平台 威胁情报查询 资产安全 平台 资产风险 监测响应 态势感知 /SIEM 平台 安全告警关联聚合 安全时间研判分析 安全数据采集 / 数据标准化 响应策略下发 威胁检测响应智能体（模型、工具与数据编排） 安全模型 A TH 威胁狩猎模型 RAG 企业安全规范与知识库 工具集 响应控制工具 安全模型 C 安全事件研判模型 安全模型 B 威胁检测模型 RAG 威胁情报查询 数据标准化 / 大模型 Prompt 工具调用 漏洞管理 组件 终端防护 组件 网络控制 组件 主机安全 组件 应用防护 组件 ASM 安全监测 组件 UES 终端安全 组件 SSE 安全服务 边缘组件 CNAPP 云安全 组件 资产管理 组件 终端管理 组件 网络防护 组件 容器安全 组件 云配置 安全组件 依赖专家与 规则自动化 GenAI 推动 安全飞轮效应 转变 过去 未来 GenAI 将加速网络和数据安全的“飞轮效应” 大模型 传统的安全应用 AI 赋能的安全应用 • XDR 安全运营平台 • 安全运营模型 自定义安全智能体 • 业务行为异常监测 • 企业员工安全助手 • HW 值守报告助手 • … … 标准化安全 AI 原生应用 • AI 原生上线安全监测 • AI 原生安全巡检 • AI 原生邮件外发检测 • … … 标准化安全 AI 原生应用 • AI 原生扩展检测响应 • AI 原生身份监测响应 • AI 原生数据风险监测 • … … 多 智 能 体 协 同 调 度 趋势 3 ：单体安全应用与安全 AI 原生应用还会存长期共存，但会被安全 AI 原生应用不断挤压和替换。 安全 AI 原生应用 大模型 构建 / 运营 / 监督 智能体 使用 AI 赋能 的工具 使用 传统工具 智能体 智能体 协同 趋势 4: 安全人员职能转变：从 AI 辅助安全人员→到安全人员构建运营和监督 AI 智能体工作。 • 用户界面更多暴露智能体的管理界面，包括按需构建客制化的智能体，管理智能体运 营，监督安能体的工作，同时在个别情况下还会继续支撑人的临时接管。 • 使用经过大模型赋能的安全工具应用，用户界面主 要是工具，模型能力多数情况隐藏在工作之后。 • 围绕安全工具的使用开 展日常安全运营活动。 个别情况 接管 “GenAI 原生”的安全技术架构展望 -1 • NDR 流量检测工具 • 流量检测模型 • DSP 数据安全平台 • 数据风险模型 • 安全准入产品 • 安全管控产品 • 安全审计产品 传统的安全应用 AI 赋能的安全应用 传统安全应用 • SOC 态势感知平台 • NDR 检测响应平台 • … 平台计算与数据底座 安全大模型 • 安全研判模型 • Web 监测模型 • … 大模型智算底座 传统安全应用 • SIEM 安全管理平台 • NDR 威胁感知平台 • … 平台计算与数据底座 统一安全数据底座 自定义安全智能体 • 业务行为异常监测 • 企业员工安全助手 • … … 标准化安全 AI 原生应用 • AI 原生上线安全监测 • AI 原生安全巡检 • AI 原生邮件外发检测 • … … 标准化安全 AI 原生应用 • AI 原生扩展检测响应 • AI 原生身份监测响应 • AI 原生数据风险监测 • … … 计算与智算融合底座 安全智能体开发底座 多 智 能 体 协 同 调 度 模型 承载 数据共享 广泛分布的安全控制组件 安全组件 安全组件 安全组件 小参数量模型嵌入 安全组件 小参数量模型嵌入 安全组件 小参数量模型嵌入 安全组件 大模型调度 提供从 Agent 构建 到 AI workflow 编 排、 RAG 检索、模 型微调、模型管理等 能力，轻松构建和安 全 AI 原生应用。 趋势 6: 越来越多安全组件通过嵌入小参数量模型实现原生化，但复杂智算需调度 AI 平台完成计算。 智能体 工具调度 数据归集 数据归集 趋势 5: 计算与智算资源趋于融合发展，统一安全数据支撑多元化安全 AI 原生应 用 安全 AI 原生应用平台 “GenAI 原生”的安全技术架构展望 -2 业场景 SOC 高级服务 SaaS 服务 管理 协同 运营 平台层 控制层 人员 流程 智能体 高级服务 SaaS 服务 管理 协同 运营 人员 流程 AI 安全平台 SOC 安全运营 智能体 防钓鱼 智能体 数据安全 智能体 底座层 检测类 数据 身份类 数据 权限类 数据 资产类 数据 数据层 Future 安全体系 规则层 日志层 网络日志 终端日志 安全告警 安全事件 检测类规则 白名单规则 告警筛选规则 终端类 杀毒 桌管 网络类 FW IPS 检测类 NDR EDR 资产类 IM SDP 控制层 终端类 杀毒 桌管 网络类 FW IPS 检测类 NDR EDR 资产类 IM SDP NOW 安全体系 …… …… …… …… 运 营 层 控 制 层 …… …… GenAI 原生的安全技术架构 AI 安全平台整体架构 底座层 安全数据底座 安全数据治理 安全模型底座 模型高效推理 框架 智能体构建 框架 算力和网络基础设施 网络硬件基础设施 防火墙、 DDoS 、 WAF 、路由交换、应用负载等 算力基础设施 模型层 流量检测大模型 安全运营大模型 钓鱼检测大模型 数据安全大模型 零信任大模型 以攻促防 大模型 生产网安全 大模型 应用层 业务安全 大模型 … … 研判值守 AI 应用 终端安全 AI 应用 威胁检测 AI 应用 数据安全 AI 应用 零信任 AI 应用 … 员工安全 助手智能体 工单审核 智能体 攻防有效性 验证智能体 … 安全运营 管理平台 身份组件 日志组件 检测组件 ... ... 资产组件 AI 安全平台 多模态交互 值守研判 已有安全体系 业务大模型 和 AI 应用 AI 和应用体系 对接融合 接入采集 对接融合 业务语料 场景安全语料 业务基座模型 开源基座模型 … 对接挂载 安全基座 模型 原生融合 构建智能体应用 微调 /RAG 推理承载 模型训练 框架 智能体构建 框架 安全数据接入 模型效果 标注和调优 安全模 型 / 智能体 共创 多模态交互 • 安全部门看到漏洞 / 入侵，需要和业务部门排查沟通，跟进工单，耗费大量精力占用（安全人员三分之一的精力） • 钓鱼邮件演练效果很好，但难以覆盖到公司每个人，如中招人员比较多，涉及的沟通确认和安全意识培训的工作量巨大。 • 过去 UEBA 在安全领域的落地效果一直差，关键在于出现异常后，必须和出现异常的终端用户沟通确认，工作量巨大 场景智能体实践：面向集团的安全助手 运营 GPT R1- 分类 和规划 告警确 认任务 安全智 能助手 portal 安全智 能助手 portal R1- 判断 是否完 成了确 认 运营 GPT 待确认告警 依次推送待 确认问题 依次推送待 确认问题 确认、反馈， 可进一步沟 通提问 确认、反馈 安全人员 按需介入 确认、反馈 业务场景 落地价值 • 极大释放安全人员精力，代替安全人员与普通员工、 IT 人员进行日常沟通确认，是真正把安全智能化往前推一大步的核心环节。 • 直接提升事件处置、告警研判、安全意识替身、 ueba 检测等安全工作的闭环效果，帮助安全人员把工作做得更好。 • 凸显安全团队价值，让普通员工高频感知到安全团队的工作，普通员工也可进行管理制度、安全常识问答。 业务场景 落地价值 8 点半启动巡检 任务 自动巡检报 告 事件分析，自动导 入查询语法 告警分析 总结汇报 封堵提报 总结汇报 每天早上 9 点 到达客户现场 巡检：告警 / 流量 / 剧 本积压 / 漏扫接入 / 时 延是否正常 事件分析 告警分 析 封堵提报 日报 到岗即查看巡检报告，大幅 节约琐碎的巡检时间 语法自动通过智能体查 询，异常告警输出报告 封堵自动提报 场景智能体实践： HW 值守安全机器人 RAG 本地数据检索 用户提示词 （含有注入攻击） • 诱导生成违规有害内容 • 回复包含权限外敏感数据 • …… 诱导模型执 行 / 调用恶意代 码 诱导耗尽算力资源 • 企业内部部署开源大模型，支撑各类型业务应用 • 业务应用和大模型缺乏对提示词注入攻击检测识别能力，被恶意用户利用 • 造成业务模型生成违规有害内容，生成内容包含用户权限外的敏感信息，甚 至诱导模型执行恶意代码等高危操作 用户提示词 + 系统提示 词 （含有注入攻击） 场景智能体实践：大模型推理安全智能体 业务场景 输入 提示词注入 工具插件 大模型越狱 工具插件 DeepSeek-R1 输出 问题 重写 数据泄露 知识检索 《敏感数据字段定 义》 《集团合同文档案 例》 问题 重写 合规检查 知识检索 《 xx 集团大模型使用 安全规范》 《生成式人工智能安 全基本要求》 文本 处理 大模型推理安全智能体 对外访问 url ： https://api.example.com/v1/agent/chat API 接口示例：…… • AI 安全平台中构建 agent ，对外发布服 务访问 url 和 API • 用户 AI 应用中构造 hook 点集成 API ， 将送给业务大模型的提示词，送入 agent 检测 • 检测正常，将提示词送入业务大模型；检 测异常，拦截并提示 • 业务大模型生成内容也可进行检测和拦截 • 用户可针对提示词注入、大模型越狱、数 据泄露、合规检查等，自定义敏感字段 • DeepSeek-R1 对检测节点结果进行综合 判断，生成研判结论，可通过提示词控制 R1 给出的结论内容、格式 用户提示词 （含有注入攻击） 用户提示词 + 系统 提示词，送入 agent 检测 检测结论返回应用， 放通或拦截 场景智能体实践：大模型推理安全智能体 落地价值 落地价值 • 面向不同场景、时间（日常值守、 HW 、 两高一弱等）需编写