行 董 事 Ibrahim Haddad PyTorch2.1 版本同步支持昇腾 NPU 华为正式加入 PyTorch 基金 会 兼容成本高 需要经过 1 月左右时间适配 PyTorch 新版本 迁移成本高 需要花费数周时间进行模型迁移，才能获得 昇腾 NPU 加速 同步发布 昇腾与社区版本同步发布 原生开发 可在昇腾 NPU 上直接享受原生 PyTorch

预测结果： “香蕉” 客户端 应用 客户端 应用 客户端 应用 g R P C / R E S T A P I 推理 OpenVINO™ 与 AI 大模型 在最新版本的 2024.3 中，OpenVINO™ 增加了需要针对 AI 大模型的新功能，包括： • 扩大了对生成式 AI 和大模型框架的覆盖和支持，并在 Hugging Face* 上提供 OpenVINO™ OpenVINO™ 工具套件的优化技术， 例如模型量化、层融合和硬件级优化，用户可以显著提高神经网络推理的效率。部署到独立 GPU 上时，这些经优化的模型 可以利用 GPU 的并行处理能力，从而加快推理。最新版本的 OpenVINO™ 2024.3 通过增加更广泛的模型支持、减少内存 占用以及为大型模型引入其他压缩技术进一步提升推理性能。 丰富的算力平台和软件工具包支持灵活的将异常检测方案部署在英特尔®