的弹性并发 能力，以满足高并发访问时的计算需求，还要有效降低推理服务成本， 实现经济效益最大化。对于实时性要求较高的请求，在边缘云上使用 GPU 的成本问题尤为突出。 现有公有云通过 Serverless 容器的方式为 AI 推理提供弹性能力， 但由于 AI 镜像和模型文件较大，导致冷启动问题严重，这极大地影 响了用户体验。此外，公有云通常无法提供城域级的边缘云服务，难 以满足部分对实 步骤一：任务发布 算力使用者通过调度中心发布推理任务，明确指定推理任务的计 算需求（CPU、GPU 型号 / 数量、框架、价格）、网络需求（IB、 RDMA）、地域需求以及任务类型为 Serverless。这些详细的参数设定， 确保调度中心能够精准匹配最合适的边缘算力资源，满足任务的多样 68 化需求。 ① 总分调度架构 此架构下，资源需方直接在算网协同调度平台发布业务需求。 图 （CPU、GPU，框架，价格），指定内部网络需求（IB、RDMA)，并 要求对训练任务镜像进行存储预热；对于推理任务指明确计算需求 （CPU、GPU，框架，价格），指定地域需求，任务类型为 Serverless， 要求对推理任务镜像进行存储预热，指定所需的存储类型和存储介质。 这些详细的参数设置，为调度中心提供了准确的任务信息，便于进行 82 合理的资源调度。 ① 总分调度架构 此架构

比、平台锁定和服务模式等因素。对于效费比，通常引入无服务器计 算（Serverless）作为关键技术，通过事件驱动、函数即服务（FaaS） 和按需计费，实现资源动态扩缩容与细粒度调用，屏蔽底层管理，显 著降低成本并提升效率。对于平台锁定，通过采用多云多平台容灾备 份机制，保障业务连续性与数据安全。在服务模式方面，构建开放共 享的算力生态圈，促进多维有序协作。资源编排通过整合 Serverless、 微服务、容器化等技术，实现算力资源的高效、灵活、安全调度，是

Linux 内核虚拟化（KVM）的开源轻量级虚拟化技术，在保持传统虚拟化的隔离能力和 安全能力的同时，降低了内存资源消耗，提高了虚拟机启动速度。StratoVirt 可以应用于微服务或函数计算等 Serverless 场景，保留了相应接口和设计，用于快速导入更多特性，直至支持通用虚拟化。 StratoVirt 的核心架构如图 3-82 所示，从上到下分为三层。 图 3-82 StratoVirt virtio-pci 以及 VFIO 直通设备等，极大提高虚拟机的 I/O 性能。 StratoVirt 配合 iSulad 容器引擎和 Kubernetes 编排引擎可形成完整的容器解决方案，支持 Serverless 负载高效运行。 StratoVirt 软件架构 StratoVirt QMP-Compatible-API bootloader CPU system bus PCle bus

�.�一键实现多可用区部署 构建风险可控的安全运维体系，还需遵守严格的部署与变更管控流程，具体体现在数据库的自动 化部署、扩缩容等方面。 就TDSQL而言，无论实例形态是预置资源还是 Serverless，都具备多可用区部署的功能。与单一 可用区的部署策略相比，多可用区部署显著增强了系统的容灾能力，有效保障了数据库的安全， 以防数据库实例出现故障或所在可用区发生服务中断，能够抵御包括机房整体故障在内的多种