2025年3月9日星期日 DeepSeek的本地化部署与AI通识教育之未来 陈建海 博导/副教授 浙江大学通识人工智能（A）（理工农医）课程团队负责人 浙江大学计算机科学与技术学院 基础教学中心副主任/支部书记 浙江大学智能计算与系统实验室 负责人 浙江大学人工智能教育教学研究中心 2 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 vDeepSeek与AI通识教育之未来 v总结 3 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 v总结 4 我们进入了一个怎样的时代 人工智能的新时代 农耕时代 互联网时代 大数据时代 智能化 互联网大数据引来智能化 信息技 术革命 5 生成式人工智能：AIGC盛行（文生文、文生图、文生视频.....） 由Lum ChatGPT的100个功能 21 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 v总结 22 什么是DeepSeek的本地化部署 v DeepSeek的本地化部署是指将人工智能系统（如模型、算法及服务）部署在用户指定的本地服务 器或基础设施中，而非依赖云端服务，旨在实现数据主权掌控、文化适配优化和合规性保障的技

...........................................................................................12 4.3 本地部署................................................................................................. 。DeepSeek-V3 和 DeepSeek-R1 的模型参数量较大，达到了 671B ，直接部署这两个模型需要 1.3~2 TB（FP16）的显存支持（如 128 卡 H100 的集群）。为方便一般用户本地 使用， DeepSeek 团队使用 Qwen2.5 和 Llama3.3 ，以 DeepSeek-R1 为教师模 型，蒸馏了 6 款小模型，包含 1.5B～70B 在内共有 6 个尺寸，如表 2 主要有三种渠道：官方渠道、第三方渠道、本地部署。这 三 种渠道各自特点如表 3 所示。 表 3 DeepSeek 三种使用渠道对比 渠道 优点 缺点 官方渠道 功能齐全、操作简单（联网搜索/ 跨设备同步） 高峰期易崩溃，取决于流量，看运气 第三方渠道 规避官方崩溃风险，国产 GPU 加速或白嫖算力 功能受限（如对话记录不保存），需实名认证 /复杂配置 本地部署 隐私性强、永久离线，定制化

情报分析与 解读能力 安全业务场景 分析与处理能力 情报实体抽取云端情报查询 覆盖云、智安全 等多个业务线 用户提问 意图理解 泛化与迁移 本地数据联动 … 学习内容 操作建议 情报安全性 风险分析 情报信息解读 Prompt 提示工 程 AC SIP ! 资产 HCI 辅助驾驶模式：无缝嵌入安全运营平台 辅助驾驶模式：图文并茂的安全趋势解读 辅助运营（可测试，可销售） Saas 交付支持 消费级显卡支持 本地交付支持 国产化显卡支持 D I R ECTO RY 目录 02 安全 GPT 能力介绍 03 部署形态与展望 01 安全困 境 Web 流量检测大模 型 • 新增检测大模型， 补 充 高级检测能力 • SaaS 化 • 本地化 • SaaS 化 • 本地化 • 新增 aES 终端安全插 件 混淆绕过等未 知 威胁检测 钓鱼检测大模 型 运营大模 型 • SaaS 化 • 本地 化 • SaaS 化 • 本地 化 方式 2 ：深信服自有探针或第三方网络组件 / 设备， 通过 XDR ，对 接本地或 SaaS 检测大模型 • 分布式 XDR 只能对接本地检测大模型， SaaS XDR 只能对接 SaaS 检测大 模型 • 第三方组件对接效果需要具体评估

素养提升工 程 2. 算力赋能—— 基础设施升级 3. 基座选型—— 核心模型构建 4. 安全筑盾—— 防护体系建设 5. 场景深耕—— 业务痛点突破 6. 知识聚库——本地知识库建设 7. 智能铸魂 —— AI Agent 构建 三、 四横三纵应对策略路径 智绘之路 ®deepseek 四横三纵七步谋， 智算筑基夯根基。 筑牢安全破瓶颈， 智识赋能启新章。 有特点，用户可以 根据自身需求和预算选择合适的配置，供参考。 2 、算力赋能—— 基础设施升 级 成本效益对比表 维度 DeepSeek Qwen ChatGLM 核心优势 推理能力顶尖， 本地化部署 成本低 多模态、 中文理解、 开源生 态 轻量化、垂直领域适配 适用场景 政务审批 、 灾害预警 、 矿 产 勘探 矿业分析、水环境监测、空 间规划 政策问答 、 保护数据安全，防止信息外泄。 提高信息可追溯性和透明度。 支持动态更新和，保持知识时 效性。 根据当前公开信息，企事业单位应用 DeepSeek 大模型时， 本地知识库 的 构建与应用已成为核心部署策略。 6 、知识聚库——本地知识库建设 DeepSeek 使用正则表达式去除特殊符号（如 \x00 ）、乱码等等噪音数据 计算文本相似度，合并相似度 >90% 的内容，对低频术语建立 同

智慧零售数字便利店 应用驱动数字化技术深度融合 “ 以业务应用场景， 看行业数字化 ” 如何满足行业现场不同异构设备联网？ 如何在资源受限的现场设备运行边缘应用 实现业务本地闭环？ 如何实现边缘应用统一部署和升级 支撑业务迭代？ 行业现场复杂多变是数字化落地最大挑战 硬件形态不同（不同协议的接入设备） 边缘环境迥然（大量异构设备需要联网） 业务千变万化（业务需求多样化） 业务千变万化（业务需求多样化） 行业边缘智能： 面向场景感知 、实时决策和预测分析等业务场景， 将云 原 生能力拓展到行业现场， 基于云边协同部署边缘 AI 应用， 边缘提供 AI 算力 和本地物联接入， 使能行业边缘业务落地 。 行业边缘智能是行业数字化转型基石 IoT 网 络 边缘应用 AI 算 力 边缘平台 物联 管理 安全 策略 开发者 中心 镜像 管理 容器 管理 函数 32Tops ），提供开放的融 合感知平台 边缘网络 n Wi-Fi 6 + LoRaWAN 一体化无线，支持边缘物联设备 接 入 n 灵活扩展 RFID/ 蓝牙 /UWB 定位，本地物联网业务融合 边缘网络 Wi-Fi 6 AP 扩 展 LoRa/ UWB 等 雷达 环境传感器 烟感 行业应用 边缘 IoT 网关 摄像头 AI oT

为主，在各行业中率 先实现净零碳排放。在国家东数西算以及八大枢纽和十大集群的总体布局下， 我们进一步分析各省的智算能力和清洁电力资源的现状及未来，将如何在支持 国家人工智能发展大计的同时，推动本地的经济数字化与智能化。与此同时， 我们关注到智算在各地爆发式增长给电力系统以及控制碳排放带来的短期挑战， 以及算力与电力的协调发展，对于引领和加快新型电力市场建设的意义。 前言 计算的本质是能源的处理形式，计算过程也是能量 中国缓解算力“卡脖子”问题。 全国智算中心用电量，同时也等于各省智算中心用电总量，包括因为时延等要 求下必须在当地完成的推理需求，也包括由绿电丰富地区额外承担跨省训练与 非本地推理的需求。因此，当前面临的突出问题是如何解决东部地区本地推理 的区域性绿电缺口，以及如何提高跨区域的绿电消纳能力。 与其他负荷相比，计算具有独特的灵活性，能够将其能源消耗迁移到远距离。 计算还可以利用多种基于软件的容错技术。因此，计算的多个维度的灵活性， AI 应用的展开，推理将占智能算力的主要部分，而时延敏感的 任务将占推理的主要部分。智算中心完成的任务，可分为延迟敏感、延迟宽容 和延迟容忍。在东数西算的总体布局下，延迟敏感任务仍然必须由部署在本地 的算力完成。随着大模型应用的规模化展开，智能算力的需求将逐步向延迟敏 感的推理倾斜。 英伟达估算当前AI芯片推理需求占40%，亚马逊AWS预计未来推理需求将达到 90%。到 2030 年，

为主，在各行业中 率先实现净零碳排放。在国家东数西算以及八大枢纽和十大集群的总体布局下， 我们进一步分析各省的智算能力和清洁电力资源的现状及未来，将如何在支持 国家人工智能发展大计的同时，推动本地的经济数字化与智能化。与此同时， 我们关注到智算在各地爆发式增长给电力系统以及控制碳排放带来的短期挑战， 以及算力与电力的协调发展，对于引领和加快新型电力市场建设的意义。 前言 计算的本质是能源的处理形式，计算过程也是能量 帮助中国缓解算力“卡脖子”问题。 全国智算中心用电量，同时也等于各省智算中心用电总量，包括因为时延等要 求下必须在当地完成的推理需求，也包括由绿电丰富地区额外承担跨省训练与 非本地推理的需求。因此，当前面临的突出问题是如何解决东部地区本地推理 的区域性绿电缺口，以及如何提高跨区域的绿电消纳能力。 与其他负荷相比，计算具有独特的灵活性，能够将其能源消耗迁移到远距离。 计算还可以利用多种基于软件的容错技术。因此，计算的多个维度的灵活性， AI 应用的展开，推理将占智能算力的主要部分，而时延敏感的 任务将占推理的主要部分。智算中心完成的任务，可分为延迟敏感、延迟宽容 和延迟容忍。在东数西算的总体布局下，延迟敏感任务仍然必须由部署在本地 的算力完成。随着大模型应用的规模化展开，智能算力的需求将逐步向延迟敏 感的推理倾斜。 英伟达估算当前 AI 芯片推理需求占 40%，亚马逊 AWS 预计未来推理需求将达 到 90%。到 2030

进行生产计划及 维修排程决策 故障预测及决策支持 自动化设 备数据 (PLC数据) 传感器 数据 1 通过传感器及PLC采集实施生产数据 资料来源：罗兰贝格 2 本地数据 传输设备 本地边缘计算 3 本地数据 实时传输 故障预警(如与 MES系统连动） 4 维修完毕、重启生产后 恢复正常数据采集作业 5a 安排维修计划 5b 人工智能进行机器运 行实时及故障预测 3 如下： 1. 硬件：主要负责本地数据采集及分析，涵盖数据采集设备 （传感器+数据传输设备）及边缘计算服务器： a) 数据采集设备：主要进行数据采集、数据上传及模型下 发等工作。 b) 边缘计算服务器：主导相关边缘应用如AI预测及本地 数据缓存等。相比云端计算，通过边缘计算器的搭建 可缩短故障报警的反应时间。 （ 可针对项目实际需求 和企业数据环境选择将本地计算移至云端）。 2. 软

ex和能耗的下降。 数据驱动、多粒度/多层次的网络控制机制 • 基于遥测数据驱动、端网协同和信用授权的主动预防式拥塞控制技术将成为高性能无损智算网络的主流； • 逐流、逐包和信元多粒度均衡以及本地/全局的层次化调度，提供流量调度的全面解决方案。 AI原生赋能 • 网络与AI原生融合，全栈赋能智算网络，如流量模型、算法优化等成为性能优化的关键，也是差异 化竞争的重点； • 自动化、智能化的算网一体化运维及服务开放。 端侧主要功能，包括流量标记与优先级管理，终端根据业务类型（如参数同步、数据并行）标记流量优 先级，网络设备基于此实现差异化调度；速率自适应控制，终端基于网络反馈（如ECN、INT数据）动态调 整发送速率；本地流量预测，利用机器学习模型预测GPU显存访问模式，提前调整流量发送窗口，减少微突 发（Microburst）对网络的冲击。 网络侧功能，带内网络遥测，交换机在数据包中插入实时状态信息（如队列深度、链路延迟），供终端 免热点路径拥塞。 端网协同的典型实现架构包括集中式协同架构和分布式协同架构。集中式架构通过中心控制器（如SDN 控制器）统一收集终端与网络状态，计算全局最优策略。分布式架构，端侧与网络设备分别通过本地策略引 擎自主协商控制。C-AQM（Congestion-Aware Active Queue Management）端网协同主动拥塞控制技 术属于分布式架构。 智算网络核心技术 15 AI原生赋能重构

定制，定制对接产品服务编排与策略 下发 3. 日志审计平台（ LAS ） • 集中审计、日志支持多，关联分析，可 以作为 NGSOC 的日志节点 4. 安全运营服务 ( 基于 NGSOC) • 本地运营：驻场工程师 + 项目经理 + 后台专家 • 远程运营：服务中心、城市 / 行业安 全运营中心 5. 漏洞扫描 • 硬件版本，合规漏扫 + 配置核查 +Web 扫描 试图用一个产品代替一个体系 ( 包年众测 ) 3. 漏洞感知 ( 补天漏洞情报 SaaS 服务 ) 4. 全球鹰 1. 网络空间资产测绘（ SaaS 服务） 2. 网站云检测 ( 不是云防护，主要是监测 ) 3. 小鹰盒子（本地资产测绘） 资产感知 响应处置 攻 击 者 视 角 威 胁 告 警 威 胁 视 角 威胁感知 态势感知（大屏） 资产风险态势 外部威胁态势 威胁事件态势 资 产 视 角 TA 日 志 检 索 异常行为场景分析引擎 威胁情报 APT 分析引 擎 BI RT 报表引擎 分析层 SPL 大数据分析引擎 网络管 理 运营配 置 威胁情报 配置 本地操作 审计 白名单配 置 本地账号 配置 云端操作 审计 SNMP 告警 联动 证书管 理 升级配 置 第三方账 号管理 访问白名 单配置 流量访问态势 邮件 威 胁检 测系统