英特尔-工业人工智能白皮书2025年版工业人工智能 (AI) 行业观察 第三,实时响应问题。 工厂在线检测、智能驾驶等应用,需要系统实时做出 响应的情况下,需要模型能够实时处理输入数据并快 速做出响应。将场景应用端的数据再传输到云端处 理,庞大的数据量会造成带宽拥挤,影响处理的时效 性。采用边缘计算方案来缓解时效性问题,但是这对 边缘端计算硬件的实时处理能力提出了挑战。 第二,算力问题。 无论是训练 AI 算法还是各种工业大模型,都需要强 虚拟机 (VM) 级 隔离 英特尔® 信任域扩展(英特尔® TDX)在虚拟机级别提供隔离和机密性。在基于英特尔® TDX 的机密虚拟机中,客户机操作系统和虚拟机应用程序被隔离开来,无法被云端主机、虚拟机 管理程序和平台的其他虚拟机访问。 24 02 英特尔 ® 技术方案 亮点技术 AI 计算能力 • 单路英特尔® 至强® 6 性能核处理器拥有多达 128 个内核, OpenVINO™ 提供了一系列 模型优化和转换工具,帮助开发者优化他们搭建的模型的性能,例如提高推理速度、降低运行内存等等。最后,OpenVINO™ 支持将模型部署在各种各样的环境上,无论是云端、浏览器还是本地设备、英特尔® 或是第三方硬件、CPU、GPU、NPU 或 FPGA。 性能优化 图:OpenVINO™ 图示(来源:https://docs.openvino.ai/2024/index0 积分 | 82 页 | 5.13 MB | 7 月前3
从智慧教育到智慧课堂:理论、规范与实践并行计算和网格计算等技术的发展。 • 将分布在各地的服务器群进行网联, 能够实现大规模计算能力、海量数据 处理和信息服务的需求。 27 云计算 创 新 • 学生通过电子书包 等终端随时随地享 受云端的各种学习 服务 云学习环境 • 保证学习数据的永 不丢失,为学习分 析提供数据支持 存储学习过程 数据 28 泛在网 络 泛在网络是通信网、互联 网、物联网的高度协同和 融合,将实现跨网络、跨10 积分 | 74 页 | 10.39 MB | 7 月前3
山东大学:DeepSeek 应用与部署Deepseek ! Deepseek 部署全线 图 移动手机应用 本地部署蒸馏小模型 第三方 UI 客户管接入服务 云端网站接入服 务 Deepseek 模型及蒸馏模 型 Chatbox API 及网络调 用 Chatbox API 及网络调 用 API 及蒸馏模 型 API 及蒸馏模 型 本地网络调用10 积分 | 79 页 | 6.52 MB | 7 月前3
共 3 条
- 1
