在药企研发领域的本 地 化部署和应用场景 智慧芽生物医药 2025 年 03 月 智慧芽 01 大模型的发展阶段和 deepseek 02 Deepseek-R1 在药企的本地化部 署 03 芽仔与 Deepseek-R1 对接 04 Al 融入智慧芽生物医药产品 智慧芽 @LS- GTM 智 慧 芽 2 2022.12 智慧芽 @LS- GTM 4 筋 京始前平台 动 她米 N 附大 等 A 附大 理白练 第三方乘道 AaMN 火 山 0 出元建 阿 白 Moly R1( 向量智能 )) 本地部署 · 打破垄断： R1 版以低成本和开源特性打破以往头部企业垄断局面。 · 价格优势： DeepSeek-R1 的 API 定价仅为行业均价的 1/10, 推动了中小型企业低成本接入 Al @LS-GTM o Deepseek 对行业产生巨大影 响 智慧芽 DeepSeek 5 01 大模型的发展阶段和 deepseek 02 Deepseek-R1 在药企的本地化部 署 03 芽仔与 Deepseek-R1 对接 04 Al 融入智慧芽生物医药产品 智慧芽 6 Model Base Model Model Download De

2025年3月9日星期日 DeepSeek的本地化部署与AI通识教育之未来 陈建海 博导/副教授 浙江大学通识人工智能（A）（理工农医）课程团队负责人 浙江大学计算机科学与技术学院 基础教学中心副主任/支部书记 浙江大学智能计算与系统实验室 负责人 浙江大学人工智能教育教学研究中心 2 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 vDeepSeek与AI通识教育之未来 v总结 3 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 v总结 4 我们进入了一个怎样的时代 人工智能的新时代 农耕时代 互联网时代 大数据时代 智能化 互联网大数据引来智能化 信息技 术革命 5 生成式人工智能：AIGC盛行（文生文、文生图、文生视频.....） 由Lum ChatGPT的100个功能 21 提纲 vDeepSeek AI的新时代背景 vDeepSeek的本地化部署实践 vDeepSeek与AI通识教育之未来 v总结 22 什么是DeepSeek的本地化部署 v DeepSeek的本地化部署是指将人工智能系统（如模型、算法及服务）部署在用户指定的本地服务 器或基础设施中，而非依赖云端服务，旨在实现数据主权掌控、文化适配优化和合规性保障的技

本地部署蒸馏小模型 第三方 UI 客户管接入服务 云端网站接入服 务 Deepseek 模型及蒸馏模 型 Chatbox API 及网络调 用 Chatbox API 及网络调 用 API 及蒸馏模 型 API 及蒸馏模 型 本地网络调用 API 接 入 DeepseeK 替代部署方案 • 本地部署蒸馏小模型： 可通过 可通过 o llama 平台、 LM Studio 平台快速本地部署基于 Llama 和 Qwen 蒸馏 的 DeepSeek - R1 推理模型 ，涵盖多种不同参数规模 ，适合想在本地运行模型的用户。 • 第三方 UI 客户管接入服务： 可通过 Anything LLM 、 Cherry Studio 、 Chatbox 等选择 API 接入。 • 秘塔 AI 搜索： 接入满血版 直译过来叫做“检索增强生成 ” 。 相当于这题我不会， 但是我有“小抄 ” ， 我回 答的时候， 就看一眼小抄， 然后再综合我脑子里的已有知识， 进行回答。 蒸馏、微调、 RAG DeepSeek 本地部 署 1. GPU 要求 推荐 NVIDIA 显卡（ RTX 3090/4090/A100 等） 显存要求： ■ 7B 模型： 至少 16GB 显存 ■ 13B/20B 模型：

中国企业出海启示 – 外企进入中国市场经验 出海/本地化进程“五步走”，销售、生产、供应链、研发、公司治理，优势企业本地化进程由浅及深 5 销售与市场 本地化 生产组装 本地化 供应链 本地化 产品研发 本地化 公司治理 本地化 Step 1 Step 2 Step 3 Step 4 Step 5 究其根因，在于企业的本地化深入程度 大型外企深入全流程，中小企业多止步于Step2生产组装 ep2生产组装 企 业 市 场 表 现 本地化进程 … 人形机器人 整机 过去10年，外企在中国市场的表现“两极分化” 大型外企信心与市场表现持续增强 大型外企 企 业 对 中 国 市 场 的 商 业 信 心 当外企对中国市场投资信心产生分野时，市场环境现象： ▪ 政策密集出台：本土产业扶持政策（如中国制造2025）中小企业扶持政策 （如专精特新小巨人）等 ▪ 市场逐渐饱和：大型外企市场表现稳定、结构性领先 大型外企：全流程本地化 中小外企：止步于生产组装 电气设备/3C For Roundtable M2 2025 Proprietary and Confidential All Rights Reserved. 反观中国企业出海，如何构建本地化能力——REGAL Model 深度出海/本地化的本质：基于资源、生态、公司治理的全面本地化，构建敏捷的组织，从而构建稳固的本地化根基 6 Governance

的推理应用信息如<应用 ID、位置、域名、IP 地址>等。 图 3-6 分总调度-算网资源调度使用-北向调度 ② 全局缩略图方式调度  需求提交 12 当算力使用者通过自治系统进行算网调度操作时，如果本地资源 无法满足业务需求，自治系统会将这些未满足的要求提交给算网系统 调度平台，如同在市场中寻求外部合作伙伴的支持。  资源快照返回 算网协同调度平台在接收到请求后，迅速对整体算网资源进行扫 足 了用户多样化的业务需求。 图 3-7 分总调度-算网资源调度使用-全局缩略图方式调度 13 ③ 东->北->西方式调度  需求提交与计算 算力使用者通过自治系统发起算网调度请求，当本地资源不足时， 自治系统将需求提交给算网协同调度平台，算网协同调度平台基于当 前算网资源状态，运用有效的算法和模型进行调度计算，制定出最优 的调度方案，确定目标资源和任务分配策略。 ●需要注意的是 不同调度模式下，算网协同调度平台及自治系统内调度机制，整 ●合本地与外部资源 ，运用有效算法实现资源的跨区域、跨系统优化配 置，提高资源整体利用率。  确保业务稳定运行 面对各类复杂业务需求，多样的调度方式保障资源提供方总能找 到优化方案，获取充足且适宜的计算、存储、网络资源，维持业务连 续性，助力业务稳步拓展。  实现成本效益最优 资源提供方通过合理选择调度策略，既能充分挖掘本地资源潜力， 减少外部资源调

...........................................................................................12 4.3 本地部署................................................................................................. 。DeepSeek-V3 和 DeepSeek-R1 的模型参数量较大，达到了 671B ，直接部署这两个模型需要 1.3~2 TB（FP16）的显存支持（如 128 卡 H100 的集群）。为方便一般用户本地 使用， DeepSeek 团队使用 Qwen2.5 和 Llama3.3 ，以 DeepSeek-R1 为教师模 型，蒸馏了 6 款小模型，包含 1.5B～70B 在内共有 6 个尺寸，如表 2 主要有三种渠道：官方渠道、第三方渠道、本地部署。这 三 种渠道各自特点如表 3 所示。 表 3 DeepSeek 三种使用渠道对比 渠道 优点 缺点 官方渠道 功能齐全、操作简单（联网搜索/ 跨设备同步） 高峰期易崩溃，取决于流量，看运气 第三方渠道 规避官方崩溃风险，国产 GPU 加速或白嫖算力 功能受限（如对话记录不保存），需实名认证 /复杂配置 本地部署 隐私性强、永久离线，定制化

企业大模型的七大落地场景 4.3 企业大模型的部署方式 4.4 为什么需要本地部署大模型 4.5 企业部署大模型规划路线 4.6 企业级应用集成AI大模型的关键步骤 4.7 企业级应用集成大模型的技术架构设计 4.8 大模型应用落地总体“四维认知”框架 4.9 大模型应用落地策略建议 4.10 大模型构建的技术方案选择 4.11本地部署大模型初级方法 4.12 本地部署大模型的成本 4.13 企业部署大模型当前关注的问题 程师的工作效率。通过AI编程助手，减少了重复劳动，提 升了代码质量 编码助手 4.3 企业大模型的部署方式 本地/内网部署 云端部署 通过云厂商实现弹性扩展和成 本优化 通过本地数据中心实现数据完 全掌控 边缘部署 通过边缘节点实现低延迟和实 时处理 容器化/微服务部署 混合部署 通过本地和云端结合实现灵活 性和灾备需求 通过容器技术和微服务架构实 现敏捷开发和资源隔离 联邦部署 网络限制：内网环境无法连接外部网络 本地/内网部署 4.3 企业大模型的部署方式 将DeepSeek大模型部署在靠近数据源的边缘节点， 减少数据传输延迟。适用场景： n 低延迟需求：如物联网、实时监控等需要快速响 应的场景 n 带宽有限：数据传输成本高或带宽有限时，边缘 计算可减少数据上传 n 离线运行：需要在网络不稳定或离线时仍能正常 运行 边缘部署 结合云端和本地部署，DeepSeek大模型部分系统在云

情报分析与 解读能力 安全业务场景 分析与处理能力 情报实体抽取云端情报查询 覆盖云、智安全 等多个业务线 用户提问 意图理解 泛化与迁移 本地数据联动 … 学习内容 操作建议 情报安全性 风险分析 情报信息解读 Prompt 提示工 程 AC SIP ! 资产 HCI 辅助驾驶模式：无缝嵌入安全运营平台 辅助驾驶模式：图文并茂的安全趋势解读 辅助运营（可测试，可销售） Saas 交付支持 消费级显卡支持 本地交付支持 国产化显卡支持 D I R ECTO RY 目录 02 安全 GPT 能力介绍 03 部署形态与展望 01 安全困 境 Web 流量检测大模 型 • 新增检测大模型， 补 充 高级检测能力 • SaaS 化 • 本地化 • SaaS 化 • 本地化 • 新增 aES 终端安全插 件 混淆绕过等未 知 威胁检测 钓鱼检测大模 型 运营大模 型 • SaaS 化 • 本地 化 • SaaS 化 • 本地 化 方式 2 ：深信服自有探针或第三方网络组件 / 设备， 通过 XDR ，对 接本地或 SaaS 检测大模型 • 分布式 XDR 只能对接本地检测大模型， SaaS XDR 只能对接 SaaS 检测大 模型 • 第三方组件对接效果需要具体评估

在线讲座观看人数 • …… 团队联系方式： ziyulin@xmu.edu.cn 厦门大学大数据教学团队 1. 人工智能发展简史 2. 人工智能思维 3. 大模型： 人工智能的前沿 4. 高校本地部署 DeepSeek 大模 型 5. AIGC 应用与实践 6. 基于大模型的智能体 7. AI 赋能高校科研 8. AI 赋能高校教学 目录 厦门大学大数据教学团队作品 ，进行天气预测和气候模拟 。 它们能 够 分析复杂的气象现象，提供准确的气 象预 报 ，帮助人们做出应对气候变化的 决策 3.7 大模型的应用领 域 工业制造 生物信息学 气候研究 4. 高校本地部署 DeepSeek 大模型 厦门大学大数据教学团队作品 大模型 图标 DeepSeek 杂问题。该校表示 ， 目前“深度思考 ”功能对全校教师开放 ， 后续将逐步对学生开放 ，并上线更多功能。 北京师范大学利用该校培养方案、教学手册、教学大纲等高质量 语 料 ， 为近万门课程本地化部署 DeepSeek-R1 大模型。登录智 能 “课程中心 ” ，学业规划、知识问答、概念讲解、资源推荐、解 题 启发、论文润色等功能一目了然 ，为师生提供定制化、情境化 的教 学辅助 ，还支持学生的个性化与探究式学习需求。

素养提升工 程 2. 算力赋能—— 基础设施升级 3. 基座选型—— 核心模型构建 4. 安全筑盾—— 防护体系建设 5. 场景深耕—— 业务痛点突破 6. 知识聚库——本地知识库建设 7. 智能铸魂 —— AI Agent 构建 三、 四横三纵应对策略路径 智绘之路 ®deepseek 四横三纵七步谋， 智算筑基夯根基。 筑牢安全破瓶颈， 智识赋能启新章。 有特点，用户可以 根据自身需求和预算选择合适的配置，供参考。 2 、算力赋能—— 基础设施升 级 成本效益对比表 维度 DeepSeek Qwen ChatGLM 核心优势 推理能力顶尖， 本地化部署 成本低 多模态、 中文理解、 开源生 态 轻量化、垂直领域适配 适用场景 政务审批 、 灾害预警 、 矿 产 勘探 矿业分析、水环境监测、空 间规划 政策问答 、 保护数据安全，防止信息外泄。 提高信息可追溯性和透明度。 支持动态更新和，保持知识时 效性。 根据当前公开信息，企事业单位应用 DeepSeek 大模型时， 本地知识库 的 构建与应用已成为核心部署策略。 6 、知识聚库——本地知识库建设 DeepSeek 使用正则表达式去除特殊符号（如 \x00 ）、乱码等等噪音数据 计算文本相似度，合并相似度 >90% 的内容，对低频术语建立 同