2025年3月9日星期日 DeepSeek的本地化部署与AI通识教育之未来 陈建海 博导/副教授 浙江大学通识人工智能（A）（理工农医）课程团队负责人 浙江大学计算机科学与技术学院 基础教学中心副主任/支部书记 浙江大学智能计算与系统实验室 负责人 浙江大学人工智能教育教学研究中心 2 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 vDeepSeek与AI通识教育之未来 v总结 3 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 v总结 4 我们进入了一个怎样的时代 人工智能的新时代 农耕时代 互联网时代 大数据时代 智能化 互联网大数据引来智能化 信息技 术革命 5 生成式人工智能：AIGC盛行（文生文、文生图、文生视频.....） 由Lum ChatGPT的100个功能 21 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 v总结 22 什么是DeepSeek的本地化部署 v DeepSeek的本地化部署是指将人工智能系统（如模型、算法及服务）部署在用户指定的本地服务 器或基础设施中，而非依赖云端服务，旨在实现数据主权掌控、文化适配优化和合规性保障的技

...........................................................................................12 4.3 本地部署................................................................................................. 。DeepSeek-V3 和 DeepSeek-R1 的模型参数量较大，达到了 671B ，直接部署这两个模型需要 1.3~2 TB（FP16）的显存支持（如 128 卡 H100 的集群）。为方便一般用户本地 使用， DeepSeek 团队使用 Qwen2.5 和 Llama3.3 ，以 DeepSeek-R1 为教师模 型，蒸馏了 6 款小模型，包含 1.5B～70B 在内共有 6 个尺寸，如表 2 主要有三种渠道：官方渠道、第三方渠道、本地部署。这 三 种渠道各自特点如表 3 所示。 表 3 DeepSeek 三种使用渠道对比 渠道 优点 缺点 官方渠道 功能齐全、操作简单（联网搜索/ 跨设备同步） 高峰期易崩溃，取决于流量，看运气 第三方渠道 规避官方崩溃风险，国产 GPU 加速或白嫖算力 功能受限（如对话记录不保存），需实名认证 /复杂配置 本地部署 隐私性强、永久离线，定制化

情报分析与 解读能力 安全业务场景 分析与处理能力 情报实体抽取云端情报查询 覆盖云、智安全 等多个业务线 用户提问 意图理解 泛化与迁移 本地数据联动 … 学习内容 操作建议 情报安全性 风险分析 情报信息解读 Prompt 提示工 程 AC SIP ! 资产 HCI 辅助驾驶模式：无缝嵌入安全运营平台 辅助驾驶模式：图文并茂的安全趋势解读 辅助运营（可测试，可销售） Saas 交付支持 消费级显卡支持 本地交付支持 国产化显卡支持 D I R ECTO RY 目录 02 安全 GPT 能力介绍 03 部署形态与展望 01 安全困 境 Web 流量检测大模 型 • 新增检测大模型， 补 充 高级检测能力 • SaaS 化 • 本地化 • SaaS 化 • 本地化 • 新增 aES 终端安全插 件 混淆绕过等未 知 威胁检测 钓鱼检测大模 型 运营大模 型 • SaaS 化 • 本地 化 • SaaS 化 • 本地 化 方式 2 ：深信服自有探针或第三方网络组件 / 设备， 通过 XDR ，对 接本地或 SaaS 检测大模型 • 分布式 XDR 只能对接本地检测大模型， SaaS XDR 只能对接 SaaS 检测大 模型 • 第三方组件对接效果需要具体评估

素养提升工 程 2. 算力赋能—— 基础设施升级 3. 基座选型—— 核心模型构建 4. 安全筑盾—— 防护体系建设 5. 场景深耕—— 业务痛点突破 6. 知识聚库——本地知识库建设 7. 智能铸魂 —— AI Agent 构建 三、 四横三纵应对策略路径 智绘之路 ®deepseek 四横三纵七步谋， 智算筑基夯根基。 筑牢安全破瓶颈， 智识赋能启新章。 有特点，用户可以 根据自身需求和预算选择合适的配置，供参考。 2 、算力赋能—— 基础设施升 级 成本效益对比表 维度 DeepSeek Qwen ChatGLM 核心优势 推理能力顶尖， 本地化部署 成本低 多模态、 中文理解、 开源生 态 轻量化、垂直领域适配 适用场景 政务审批 、 灾害预警 、 矿 产 勘探 矿业分析、水环境监测、空 间规划 政策问答 、 保护数据安全，防止信息外泄。 提高信息可追溯性和透明度。 支持动态更新和，保持知识时 效性。 根据当前公开信息，企事业单位应用 DeepSeek 大模型时， 本地知识库 的 构建与应用已成为核心部署策略。 6 、知识聚库——本地知识库建设 DeepSeek 使用正则表达式去除特殊符号（如 \x00 ）、乱码等等噪音数据 计算文本相似度，合并相似度 >90% 的内容，对低频术语建立 同

以提升全链路的效率和价值，从而成为推动区域经济高质量发 展的优选伙伴。 投资方： 江苏盐城市国资背景基金 投资逻辑： • 产业协同： 盐城农业产值超千亿，农信的数智猪场、供应链平台可 直接赋能本地生猪畜牧产业。 • 生态构建： 企业将三大运营中心（数智猪场、供应链、营销）落户 盐城，着力打造畜牧数字化产业集群。 • 区域贡献： 包含对地方经济的贡献度、税收及产业生态带动 投资方： 佛山南海区政府引导基金（中科科创管理） 基础完美匹配，驱动产业智能化升级。 • 区域贡献： 强调企业迁移后的税收贡献与对本地产业的提升作用。 投资标的必须与本地优势产业 高度契合，能补强、升级现有 产业链。 产业协同原则 不以财务回报为唯一目标，设 置综合指标（如落地时间、税 收、产业带动效应）以保障国 资安全与产业效益。 多目标对赌模型 通过资本手段吸引企业将总部、 运营中心或核心业务迁入本地， 实现“引资”与“引智”结合。 “以投引促”路径 实践中深入垂直行业场景去 解决实际痛点；高达74%的企业致力于价值链重构，通过数字化平台整合资源，构建网状协同生态，实现数据驱动决策与可持续盈利； 另有22%的企业聚焦产业出海，凭借数字化基建、本地化运营与合规体系，开拓全球市场。 数据来源：2025年度亿邦动力产业互联网千峰奖评选企业申报数据 54% AI创新：深度垂直化与价值务实化 • 垂直行业大模型涌现：基于行业知识与数据， 打造专用AI模型，解决特定领域痛点。

智慧零售数字便利店 应用驱动数字化技术深度融合 “ 以业务应用场景， 看行业数字化 ” 如何满足行业现场不同异构设备联网？ 如何在资源受限的现场设备运行边缘应用 实现业务本地闭环？ 如何实现边缘应用统一部署和升级 支撑业务迭代？ 行业现场复杂多变是数字化落地最大挑战 硬件形态不同（不同协议的接入设备） 边缘环境迥然（大量异构设备需要联网） 业务千变万化（业务需求多样化） 业务千变万化（业务需求多样化） 行业边缘智能： 面向场景感知 、实时决策和预测分析等业务场景， 将云 原 生能力拓展到行业现场， 基于云边协同部署边缘 AI 应用， 边缘提供 AI 算力 和本地物联接入， 使能行业边缘业务落地 。 行业边缘智能是行业数字化转型基石 IoT 网 络 边缘应用 AI 算 力 边缘平台 物联 管理 安全 策略 开发者 中心 镜像 管理 容器 管理 函数 32Tops ），提供开放的融 合感知平台 边缘网络 n Wi-Fi 6 + LoRaWAN 一体化无线，支持边缘物联设备 接 入 n 灵活扩展 RFID/ 蓝牙 /UWB 定位，本地物联网业务融合 边缘网络 Wi-Fi 6 AP 扩 展 LoRa/ UWB 等 雷达 环境传感器 烟感 行业应用 边缘 IoT 网关 摄像头 AI oT

为主，在各行业中率 先实现净零碳排放。在国家东数西算以及八大枢纽和十大集群的总体布局下， 我们进一步分析各省的智算能力和清洁电力资源的现状及未来，将如何在支持 国家人工智能发展大计的同时，推动本地的经济数字化与智能化。与此同时， 我们关注到智算在各地爆发式增长给电力系统以及控制碳排放带来的短期挑战， 以及算力与电力的协调发展，对于引领和加快新型电力市场建设的意义。 前言 计算的本质是能源的处理形式，计算过程也是能量 中国缓解算力“卡脖子”问题。 全国智算中心用电量，同时也等于各省智算中心用电总量，包括因为时延等要 求下必须在当地完成的推理需求，也包括由绿电丰富地区额外承担跨省训练与 非本地推理的需求。因此，当前面临的突出问题是如何解决东部地区本地推理 的区域性绿电缺口，以及如何提高跨区域的绿电消纳能力。 与其他负荷相比，计算具有独特的灵活性，能够将其能源消耗迁移到远距离。 计算还可以利用多种基于软件的容错技术。因此，计算的多个维度的灵活性， AI 应用的展开，推理将占智能算力的主要部分，而时延敏感的 任务将占推理的主要部分。智算中心完成的任务，可分为延迟敏感、延迟宽容 和延迟容忍。在东数西算的总体布局下，延迟敏感任务仍然必须由部署在本地 的算力完成。随着大模型应用的规模化展开，智能算力的需求将逐步向延迟敏 感的推理倾斜。 英伟达估算当前AI芯片推理需求占40%，亚马逊AWS预计未来推理需求将达到 90%。到 2030 年，

为主，在各行业中 率先实现净零碳排放。在国家东数西算以及八大枢纽和十大集群的总体布局下， 我们进一步分析各省的智算能力和清洁电力资源的现状及未来，将如何在支持 国家人工智能发展大计的同时，推动本地的经济数字化与智能化。与此同时， 我们关注到智算在各地爆发式增长给电力系统以及控制碳排放带来的短期挑战， 以及算力与电力的协调发展，对于引领和加快新型电力市场建设的意义。 前言 计算的本质是能源的处理形式，计算过程也是能量 帮助中国缓解算力“卡脖子”问题。 全国智算中心用电量，同时也等于各省智算中心用电总量，包括因为时延等要 求下必须在当地完成的推理需求，也包括由绿电丰富地区额外承担跨省训练与 非本地推理的需求。因此，当前面临的突出问题是如何解决东部地区本地推理 的区域性绿电缺口，以及如何提高跨区域的绿电消纳能力。 与其他负荷相比，计算具有独特的灵活性，能够将其能源消耗迁移到远距离。 计算还可以利用多种基于软件的容错技术。因此，计算的多个维度的灵活性， AI 应用的展开，推理将占智能算力的主要部分，而时延敏感的 任务将占推理的主要部分。智算中心完成的任务，可分为延迟敏感、延迟宽容 和延迟容忍。在东数西算的总体布局下，延迟敏感任务仍然必须由部署在本地 的算力完成。随着大模型应用的规模化展开，智能算力的需求将逐步向延迟敏 感的推理倾斜。 英伟达估算当前 AI 芯片推理需求占 40%，亚马逊 AWS 预计未来推理需求将达 到 90%。到 2030

R—2025—05确定的要求保持与区域/行业功能节点的身份、连接器、 目录等信息的互通；向下连接接入连接器，支持数据提供方、数据使用方、数据服务方通过接入连接器 接入可信数据空间；提供方通过连接器与本地的数据存储、汇聚、加工治理等数据系统对接，完成数据 资源接入；使用方数据应用系统通过连接器获取、使用数据，完成价值化应用；数据服务方，如：算力 服务、智能化服务、数据交易服务、数据治理服务、隐私保护计算公共服务等其他数据服务的提供方， 资源载入接入连接器，作为封装数据产品的基础，应包括以下功能： a) 资源接入：支持本地多样数据资源接入能力，包括但不限于对象存储、数据库、本地文件服 务器等； b) 资源管理：支持对已接入的数据资源进行删除、修改； 10 c) 资源目录：按照 NDI—TR—2025—06 确定的数据资源目录要求，对已接入数据资源进行描述， 形成数据资源目录，同时支持本地数据资源的检索、查询。 5.2.3.4 数据产品管理 除 除通过服务平台门户管理、上架数据产品外，数据提供方也可通过接入连接器管理、上架数据产品。 连接器应支持数据提供方基于接入数据资源封装数据产品，并对本地数据产品进行管理，应包括以下功 能： a) 数据产品封装：基于已接入的数据资源，选择其中部分或全部数据，将其封装为边界清晰、 指向明确、易于流通的数据产品，并对其配置数据使用策略及数据交付前的预处理策略； b) 数据产品上架：支持数据提供方将已封

进行生产计划及 维修排程决策 故障预测及决策支持 自动化设 备数据 (PLC数据) 传感器 数据 1 通过传感器及PLC采集实施生产数据 资料来源：罗兰贝格 2 本地数据 传输设备 本地边缘计算 3 本地数据 实时传输 故障预警(如与 MES系统连动） 4 维修完毕、重启生产后 恢复正常数据采集作业 5a 安排维修计划 5b 人工智能进行机器运 行实时及故障预测 3 如下： 1. 硬件：主要负责本地数据采集及分析，涵盖数据采集设备 （传感器+数据传输设备）及边缘计算服务器： a) 数据采集设备：主要进行数据采集、数据上传及模型下 发等工作。 b) 边缘计算服务器：主导相关边缘应用如AI预测及本地 数据缓存等。相比云端计算，通过边缘计算器的搭建 可缩短故障报警的反应时间。 （ 可针对项目实际需求 和企业数据环境选择将本地计算移至云端）。 2. 软