Huawei Proprietary - Restricted Distribution 5 张量低秩压缩以降低 KV Cache 资源开销：相比于传统 MHA ， MLA 通过降 维 操作使得存储的张量维度大幅减小。（下图中仅红色阴影部分需要存 储） (bs, ℎ) (bs, ℎ) 2bsℎ (bs, ℎ) (bs, ℎ) bsℎ′ 压缩后宽度ℎ′ ≪ 隐藏层宽度ℎ ryn- s ri t d， DM istriLb ti可 o n 以 将 K V C a c h e 降 低 为 = 1 . 7 % 只需存储图中的 c v, K 即可； 考虑到矩阵乘法结合律，具体实现过程中 W UK可以与 WUQ 融合、 WUV可 以与 Wo融合，从而无需为每个 query 计算 key-value 集群规模组网，千卡到万卡平滑 演进 千亿稠密 / 万亿稀疏 多模态 更大数据量存储和读写 ( 模型参数、 CheckPoint …) 更复杂的模型及数据切分 更大规模 / 更复杂的组 网 网络控制器 18 Huawei Proprietary - Restricted

(soldered-down) BGA 封装 • 长达 10 年的长期供货保证 2 安全性与可管理性 • Elemental security engine (ESE) • NIST 800-88r1（存储介质清理） 连接 • USB4/英特尔® 雷电技术 4 6 • 经过英特尔® 独立 Wi-Fi 7（英特尔® Wi-Fi 7 BE200、 英特尔® Wi-Fi6E AX210）验证 • 等在内的流行深度学习框架的主流发行版。 优化通用工作负载的性能 采用性能核的英特尔® 至强® 6 处理器在全范围工作负载上表现出色，其主流系列产品拥有 8-86 个内核，在基于双 CPU 的 系统中，网络和存储外接卡拥有多达 176 个 PCIe 5.0 通道，而基于单 CPU 的系统中，单插槽产品则拥有 136 个 PCIe 通道。 所有英特尔® 至强® 6 处理器都能随着服务器利用率的增加而提供可扩 与上一代产品相比提升高达 20%。 • 双路服务器拥有多达 178 条 PCIe Gen 5 通道，单路服务 器则多达 136 条，可以支持重要的 I/O 附加组件，包括加 速器、网络适配器、存储控制器和存储。 • 多达 64 条 Compute Express Link (CXL) 2.0 通道，每 条通道的数据传输速率高达 32 GT/s，支持 CXL 功能， 包括内存扩展和共享（包括 Type

处理和信息服务的需求。 27 云计算 创 新 • 学生通过电子书包 等终端随时随地享 受云端的各种学习 服务 云学习环境 • 保证学习数据的永 不丢失，为学习分 析提供数据支持 存储学习过程 数据 28 泛在网 络 泛在网络是通信网、互联 网、物联网的高度协同和 融合，将实现跨网络、跨 行业、跨应用、异构多技 术的融合和协同。 29 泛在网 络 创 新 学习、生活与工作的连通 信息服务 广播系统 工业标准框架 为资源管理和支持学习提供管 理服务 智慧课堂：利用 21 世纪技术（ IBM 及其伙伴） 虚拟架构、计入虚拟客 户端解决方案 IBM 服务器与 存储器 客户设备、弱式客户 端 IBM 管理的服务 集中式架构 虚拟桌面服务 学生、教师和职员 公共架构 IBM 公有云 旧的桌面服务 开放教育资源 工作需求 信息服务 广播系统

DeepSeek 模型优势：算力、成本角度 解读 2025 年 2 月 ■ 什么算力 ?“ 对信息数据进行计算，实现目标结果的能力” ■ 传统算力：信息计算力 ■ 现代算力：信息计算力、数据存储力、网络运载力 算力的基本概念 大脑 草绳、石子 算盘、算筹 ▶ 计算器、计算机 ■ 原生算力：大脑 ( 可处理复杂逻辑，但不能高速处理简单运算

AnythingLLM 的 实例上私密嵌入 ，文本数据的处理和转换在本地进行 ，不会泄露给第三方。 • Vector Database （向 量数据库）：使用 LanceDB 作为向量数据库， 向量和文档文本都存储在 AnythingLLM 实例上 ，进一步确保数据的私密性和安全性。 • 接入 DeepSeek 模型 • 通过 Ollama 接入：先在本地通过 Ollama 部署 DeepSeek 模型

安卓：应用商店搜索下载或官网直接获取安装包 核心功能： ⚫ 语音输入：长按麦克风图标口述问题（适合通勤场景） ⚫ 离线缓存：断网时可查看历史对话记录 避坑指南：若遇安装失败，检查存储空间是否充足，或关闭杀毒软件后重试 ③微信小程序（轻量化入口） 获取路径： 1.微信搜索"DeepSeek"公众号 2.后台发送关键词【小程序】获取专属链接 ⚫ 优势：无