1 英特尔中国 公有云和互联网创新实践 2 Large Language Model (LLM) 大语言模型 Traditional Deep Learning 传统深度学习 技术篇：英特尔 AI 产品组合 英特尔 AI 实战视频课程 英特尔中国 AI 实战资源库 基于英特尔® 架构的 AI 软件工具组合 03 10 15 30 36 37 CONTENT 目录 Large 型到超大模型的各类需求。 • 使用处理器内置的 AI 加速引擎 -- 英特尔® AMX 和英特尔® AVX-512，提升并行计算和浮点运算能力； • 受益于第五代至强® 可扩展处理器显著提升的内存带宽和三级缓存共享容量，化解 AI 大模型吞吐性能挑战； • 利用第五代至强® 可扩展处理器内置的英特尔® SGX 和英特尔® TDX 安全引擎，实现端到端的数据全流程 保护。 CPU 也能玩转 云服务器升级 解决方案 企业云服务 第五代英特尔® 至强® 可扩展处理器具备更强通用计算和 AI 加速能力 阿里云 ECS g8i 集群可支撑 72B 参数级别的大语言模型分布式推理 文生图 创意辅助工具 AI 生成代码 虚拟助手 1.2.3 数据来源于阿里云未公开的内部测试，如欲了解更多详情，请联系阿里云：https://www.aliyun.com 英特尔并不控制或审计第三方数据。请您审查该

数智园区行业参考指南 "IN" 数智时代 赋能园区转型 全国智能建筑及居住区数字化标准化技术委员会 (SAC/TC426) 英特尔（中国）有限公司 2023 年 12 月 从云端到边缘端，数据正在出现爆炸式增长，数智技术正在带 来颠覆式创新，物理世界与虚拟世界正在加速融合……变革的 浪潮席卷而过。园区作为产业经济集聚的重要形态与主体，正 在成为新一轮数智化变革的见证者与推动者。通过把握数智化 合，满足数智园区在计算、存储、网络等关键资源方面的需求， 充分释放数智转型的潜能。 为了助力园区的数智化转型，全国智能建筑及居住区数字化标 准化技术委员会 (SAC/TC426)（简称：全国智标委）与英特尔 联合众多合作伙伴，发布了《数智园区行业参考指南》。本指 南旨在总结中国数智园区的发展特征，并通过对于数智园区典 型方案和案例的分析与总结，给出数智园区的技术趋势和参考 架构，帮助园区更好地利用数智技术的创新成果，持续拓展数 中来，助力园区内企业、人员、车辆、商业等要素的数智化管 理与运营，不仅实现园区的高质量发展，同时也助力产业经济 的转型升级。 主编单位： 全国智能建筑及居住区数字化标准化技术委员会 (SAC/TC426) 英特尔（中国）有限公司 参编单位（排名不分先后）： 特斯联科技集团有限公司、太一物联科技（深圳）有限公司、 深圳市原基科技有限公司、开域集团、之江实验室 前言 目 录 1 数智园区概况及发展趋势

旨在为社区和行业提供一个用于实验、开发和部署同态加密应用的平台。目前 Intel HE Toolkit 包括了主流的 Leveled HE 库，如 SEAL、Palisade和 HELib，基于使能了英特尔最新指令集加速的的 Intel HEXL 库，在英特尔至强处理器平台上为同态加密业务负载提供了卓越的性能体验。同时，Intel HE Toolkit即将集成半同态 Paillier 加速库 IPCL，为半同态加密应用提供加速支持。此外，Intel Platform Module）的可信架构难以保障程序运行时的可信执行；TrustZone技术为程序提供了两种隔 离的执行环境, 但需要硬件厂商的签名验证才能运行在安全执行环境，开发门槛较高。 解决方案 英特尔软件防护扩展（Intel Software Guard Extensions，SGX）是一组安全相关的指令，它被内置于一些 现代Intel 中央处理器（CPU）中。它们允许用户态及内核态代码定义将特定内存区域，设置为私有区域，此区域 示例程序演示了利用主流的同态加密库构建各种同态加密 应用用于保护用户隐私数据的能力。 同时，Intel HE Toolkit通过使用Intel HEXL 加速库展示了使用最新的英特 尔硬件功能发挥英特尔处理器在HE领域优势的最佳实践。 此外，HEBench为同态加密方案的开发者和用户提供了一个公允且标准的性能测试基准，旨在推动同态加 密技术的演进和应用方案的创新。HEBench由三个部分组成：

发现目前主流机器人厂商都会将算力模组分为高低两个版本提供用户，其中低配的基础算 力模组可以完成一些遥控的走路、跑步、跳跃等基础性动作，二次开发部署潜力较弱，起售价均在10万元以内。宇树、众擎使用英特尔 Core i5及N97作为基础算力模组CPU，其中i5为成熟民用CPU而N97为一款低功耗移动处理器，专为轻量级计算和嵌入式场景设计。如果极客开发 者、院校培训、创业者等需要对机器人进行二次 众擎 松延动力 型号 GO2 G1 H1-2 PM01/02 N2 外形 基础算力模组 8核CPU 8核CPU 英特尔 Core i5 英特尔 N97 未知 高算力模组 英伟达Jetson Orin Nano/NX 英伟达Jetson Orin NX 英特尔 Core i7或英伟 达Jetson Orin NX 英伟达Jetson Orin NX 英伟达Jetson

国家地 区 企业 机构 个人 Source:Beta 内网漏洞 被利用 访问恶意 网站 / 邮 件 横向扩散 无障碍  2012 年 4 月，一名英特尔前员工 为了跳槽后能在 AMD 公司站稳脚， 从英特尔公司窃取了价值 10 亿美 元的电脑芯片制造与设计文件。 员工恶意窃取信息资产导致公司蒙受巨大损失  2015 年，某著名企业联合美国国 土安全部以及 FB 摧毁

本公司具备证券投资咨询业务资格，请务必阅读最后一页免责声明 证券研究报告 24 卫宁健康 2023 年 10 月发布面向医疗垂直领域的大模型 WiNGPT，该解决 方案在第五代英特尔®至强®可扩展处理器上以可以实现最佳性能运行，运行速度 可加快 6.3 倍，加快了人工智能驱动的医疗信息整合解决方案的更好实施。2024 年，为推进医疗数据要素发展及落地，公司医疗大模型 WiNGPT 京大学人民医院、天津市 海河医院、上海市肺科医院、上海市同济医院等项目中落地，充分释放 AI 增强的 智能化产品的能力。 图31：卫宁健康自然语言(NLP)处理后结构化平台解决方案在第四代英特尔®至强® 可扩展处理器上运行速度加快 6.3 倍 资料来源：卫宁健康官网，民生证券研究院 为了扩大不同业务场景的产品在安全性、可靠性、性能和兼容性等方面验证范 围，目前核心产品已完成 .......................................................... 23 图 31： 卫宁健康自然语言(NLP)处理后结构化平台解决方案在第四代英特尔®至强®可扩展处理器上运行速度加快 6.3 倍 ..........................................................................

GPU、FPGA、NPU 和 ASIC 等，其中 GPU 占据 AI 芯片主导地位，根据《中国 AI 算力行业发展报告》，2024 年上半 年，GPU 卡占据国内 AI 芯片出货量 80%市场份额。英伟达、英特尔、 AMD、高通等传统芯片厂商凭借在芯片领域的多年积累，在 GPU 和 深企投产业研究院 34 FPGA 高端芯片领域基本处于垄断地位。英伟达 2024 全年对华 AI 芯 片出口约 171 负载的复杂性和规模不断增长，GPU 和其他处理单元之间需要更快、 更高效的数据传输。相较于传统的电子互联，硅光技术可以在 GPU、 CPU 和其他处理单元之间实现更高速、更低延迟的互连，从而提高 效率和数据传输速度。目前，英特尔、思科、Inphi（被美满电子 Marvell 收购）为代表的美国企业占据了硅光芯片和模块出货量的大部分，国 内中际旭创、熹联光芯、华工科技、新易盛等企业正在快速追赶，技 术差距逐步缩小。 表 2010 年成功研发 50G 硅光模块； 2016 年推出 100G 硅光模块，2017 年批量出货；2018 年推出 400G 硅 光模块；2021 年推出 800G 硅光模 块。 英特尔硅光子学可插 入光学收发器 Cisco 思 科 通过并购上下游交换机构芯片厂 商、硅光芯片厂商形成 CPO 方案 一体化布局，先后收购 Lightwire、 Luxtera 及 Acacia

算力提出更高要求， 高通、英特尔、AMD 等芯片厂商纷纷展开布局，陆续推出针对 AI PC 场景优化的芯片产品。 在 PC 侧，使用独立 GPU 运行 AI 运载，具备高性能、高吞吐量等优势，但功耗高；NPU 方案更具高能效、低功耗等特点，但对高性能要求 AI 负载支持能力有限。考虑 AI 任务需求 以及用户偏好不同，我们认为 AI PC 市场使用 1）CPU+NPU+GPU 处理器（英特尔 Meteor 5-6GB， 故未来运存最低也需要 16GB 才能保证 PC 稳定运行。2）根据 Trendforce，Qualcomm Snapdragon X Elite、AMD Strix Point 及英特尔 Lunar Lake，三款 CPU 的均采用 LPDDR5x， 而非现在主流的 DDR SO-DIMM 模组，主要考量在于传输速度的提升；DDR5 目前速度为 4800-5600Mbps，而 LPDDR5x Databricks、Google Cloud、Hugging Face、Kaggle、IBM WatsonX、Microsoft Azure、 NVIDIA NIM 和 Snowflake 上推出，并得到 AMD、AWS、戴尔、英特尔、英伟达、高通提 供的硬件平台的支持。此外，雷朋 Meta 智能眼镜也将支持多模态的 Meta AI。 原生多模态大 模型/闭源LLM 图片生成模型 音频/音乐生成、 语音合成模型

成本节约仍是企业核心战略。尽管如此， 由于技术迭代需求空前迫切，企业投资就 必须足够精准。制造商需要推出尖端产品以 满足消费者需求，AMD（美国超威半导体 公司）、Intel（英特尔）、Micron（美光）、 Samsung（三星）和Nvidia（英伟达）等头部 厂商间的竞争日趋白热化。 “ 06 2025：变局中的审慎乐观 AI（人工智能）成为市场升级的增长极

Prismark, 国信证券经济研究所整理 资料来源： Prismark, 国信证券经济研究所整 理 柔性板 16.9% 单双面板 图：服务器平台升级要求传输速率提升， Dk 、 Df 下降 英特尔 Purley （ Sky Lake ） Purley （ Cascade Lake ） Whitley Eagle Stream CPU 制程 14nm+ 14nm++ 10nm+ 10nm++ FR4 为主，为 Mid Loss 等级； PCIe4.0 主板 PCB 需升级至 Low Loss 等级，对应松下 M4 、 生益 S7439 、联茂 IT-958G 等材料。 l 新一代英特尔和 AMD 支持 PCIe5.0 的服务器平台，主板 PCB 将继续升级至 Ultra Low Loss 等级， 推 动 PCB 单价进一步提高。根据 Prismark 的数据， 2019 年 8-16