执行，简化系统架构，提升响应性能与可靠性，持续改善搜推广、语音/视频处理以及中小模 型的推理体验。 云原生方案形成整体保障：除了算力层面的降本措施，云服务商还通过持续增强弹性伸缩、 Serverless以及统一运维等云原生解决方案的效能，实现硬件、算法、平台、服务的协同进 化。例如，在强化弹性伸缩能力时，综合运用编排调度（例如Kubernetes）、服务监控、服 务治理以及相关的配置管 存储节点，进一步增加了系统设计和实现的复杂度。 云原生架构带来系统架构和技术栈的新问题：例如如何处理微服务间频繁的通信、复杂的拓 扑、多样化存储以及动态多变的负载等，并强化隔离保障安全。云服务商通过持续增强弹性 伸缩、Serverless以及统一运维等云原生解决方案的效能，帮助用户降低成本。例如，在强 化弹性伸缩能力时，综合运用编排调度（例如Kubernetes）、服务监控、服务治理以及相关 的配置管理等云原生能力。 ��

的弹性并发 能力，以满足高并发访问时的计算需求，还要有效降低推理服务成本， 实现经济效益最大化。对于实时性要求较高的请求，在边缘云上使用 GPU 的成本问题尤为突出。 现有公有云通过 Serverless 容器的方式为 AI 推理提供弹性能力， 但由于 AI 镜像和模型文件较大，导致冷启动问题严重，这极大地影 响了用户体验。此外，公有云通常无法提供城域级的边缘云服务，难 以满足部分对实 步骤一：任务发布 算力使用者通过调度中心发布推理任务，明确指定推理任务的计 算需求（CPU、GPU 型号 / 数量、框架、价格）、网络需求（IB、 RDMA）、地域需求以及任务类型为 Serverless。这些详细的参数设定， 确保调度中心能够精准匹配最合适的边缘算力资源，满足任务的多样 68 化需求。 ① 总分调度架构 此架构下，资源需方直接在算网协同调度平台发布业务需求。 图 （CPU、GPU，框架，价格），指定内部网络需求（IB、RDMA)，并 要求对训练任务镜像进行存储预热；对于推理任务指明确计算需求 （CPU、GPU，框架，价格），指定地域需求，任务类型为 Serverless， 要求对推理任务镜像进行存储预热，指定所需的存储类型和存储介质。 这些详细的参数设置，为调度中心提供了准确的任务信息，便于进行 82 合理的资源调度。 ① 总分调度架构 此架构

比、平台锁定和服务模式等因素。对于效费比，通常引入无服务器计 算（Serverless）作为关键技术，通过事件驱动、函数即服务（FaaS） 和按需计费，实现资源动态扩缩容与细粒度调用，屏蔽底层管理，显 著降低成本并提升效率。对于平台锁定，通过采用多云多平台容灾备 份机制，保障业务连续性与数据安全。在服务模式方面，构建开放共 享的算力生态圈，促进多维有序协作。资源编排通过整合 Serverless、 微服务、容器化等技术，实现算力资源的高效、灵活、安全调度，是

Linux 内核虚拟化（KVM）的开源轻量级虚拟化技术，在保持传统虚拟化的隔离能力和 安全能力的同时，降低了内存资源消耗，提高了虚拟机启动速度。StratoVirt 可以应用于微服务或函数计算等 Serverless 场景，保留了相应接口和设计，用于快速导入更多特性，直至支持通用虚拟化。 StratoVirt 的核心架构如图 3-82 所示，从上到下分为三层。 图 3-82 StratoVirt virtio-pci 以及 VFIO 直通设备等，极大提高虚拟机的 I/O 性能。 StratoVirt 配合 iSulad 容器引擎和 Kubernetes 编排引擎可形成完整的容器解决方案，支持 Serverless 负载高效运行。 StratoVirt 软件架构 StratoVirt QMP-Compatible-API bootloader CPU system bus PCle bus

�.�一键实现多可用区部署 构建风险可控的安全运维体系，还需遵守严格的部署与变更管控流程，具体体现在数据库的自动 化部署、扩缩容等方面。 就TDSQL而言，无论实例形态是预置资源还是 Serverless，都具备多可用区部署的功能。与单一 可用区的部署策略相比，多可用区部署显著增强了系统的容灾能力，有效保障了数据库的安全， 以防数据库实例出现故障或所在可用区发生服务中断，能够抵御包括机房整体故障在内的多种

头部险企普遍采用微服务化部署，其中中国 太保构建的智能体编排引擎支持 200+保险场景的流程自动化，但 需要维护复杂的服务网格（Istio+Linkerd）。中小保险公司更倾向 使用 Serverless 架构，阳光保险通过 AWS Lambda 实现按需调 用，将 IT 运营成本降低 35%。值得注意的是，所有技术路线均需 解决保险条款动态更新的实时同步问题，目前行业最优实践是通过 GraphQL