请务必阅读正文之后的免责声明及其项下所有内容 证券研究报告 | 2023年05月31日 超 配 电子 AI+系列专题报告 边缘 AI：大语言模型的终端部署，推动新一轮终端需求 核心观点 行业研究·行业专题 电子 超配·维持评级 证券分析师：胡剑 证券分析师：胡慧 021-60893306 021-60871321 hujian1@guosen.com.cn huhui2@guosen 研究表明，模型参数的 上涨需要配合等比例上升的优质数据集来达到最佳训练效果。因此，大模型 参数在十亿级以上发展并受限于优质数据集的增速是 AI 发展的必然趋势。 大模型增长挑战芯片算力和内存，无法实现完整端侧部署。大模型训练和推 理的三大瓶颈是算力、显存和通信，根据我们的测算，算力方面 GPT-3 训练 所需算力为 121528 TFLOPS，若 30 天内完成，需要 1558 颗 A100。内存角度， GPT-3 优化后大模型可在旗舰机型芯片上运行，AI 落地有望推动新一轮换机潮。 AI 部署本地化具有必要性，优势包括更低的延迟、更小的带宽、提高数据安 全、保护数据隐私、高可靠性等。完整的大模型仅参数权重就占满一张 80G 的 GPU，但是通过量化、知识蒸馏、剪枝等优化，大模型可以在手机本地实 现推理。高通团队使用骁龙 8 Gen2 部署 Stable Diffusion，实现本地运营 15 秒出图，证明了大模

...........................................................................................151 7. 部署与实施计划.............................................................................................. .....................................................................................163 7.2.1 分阶段部署计划................................................................................................. .......................................................................................203 9.1 开发与部署成本.................................................................................................

恒生电子：恒生电子于 2025 年 3 月发布了恒生光子大模型一体机 DeepSeek 版，基于华为昇腾 800IA2 推理服务器，满足行业对于 AI 应用高 效部署、算力底座以及业务数智化创新的需求，助力金融机构快速完成大模型的部署落地，加速行业数智化转型进程。 蚂蚁金服： 2025 年 3 月，蚂蚁集团 Ling 团队发表了一篇技术成果论文，推出两款不同规模的 MoE 大语言模型——百灵轻量版（ 日，腾讯混元自研的快思考模型 Turbo S 正式发布，能够实现“秒回”，吐字速度提升一倍，首字时延降低 44% ， 同 时在知识、数理、创作等方面也有突出表现。通过模型架构创新， Turbo S 部署成本也大幅下降，持续推动大模型应用门槛降低。 东方财富：妙想金融大模型是东方财富重磅打造的金融行业大语言模型， 2025 年 3 月 21 日，东方财富宣布妙想大模型已正式向所有用户开 放，并全面登陆东方财富 程度上提高基础工作效率，降低成 本。 引入 AI 系统后， B+C 端投资者 投资效率提升，投融资需求提升， 市场交易活跃度提高。 AI 赋能券商业务的三种形式 与现有模型合作 本地化部署开源模型与自研模型结 合 纯自研模型 投研、投顾 资管业务 自营业务 新生业务 2.1. AI 赋能券商行业逻辑链条梳 理 风控合规 战略支持 市场研究、人力资源等后台部门

用私有协议，各子系统（如消防、安防、楼控）间形成信息壁垒，数据互 通依赖定制网关，实施复杂、延迟高、扩展难，运维成本高且响应缓慢。 高标准数字园区要求推行“协议开放化+部署轻量化”双路径改造：协议 层面，建立支持多协议无损转换的开放通信框架，降低对接与适配成本； 部署层面，推广低功耗广域网等无线技术，减少线缆与桥架依赖，支持终 端即插即用与自动组网。 综上，弱电系统改造需以开放协议打破数据壁垒、以无线技术重构物 充分体现这一趋势 的演进： （1）无线化：随着智慧化业务的发展，对终端需要更精细化的管理和控 制，终端将朝着 IP 化发展，有条件的终端将通过无线化技术实现快速 IP 化。终端通过无线化极简部署，将减少大量的布线建网和维护成本；通过 终端上电即联网，提供随时随地服务，无需固定场所；终端通过 Wi-Fi、 无源 RFID、RedCap、星闪等多方式技术实现无线化、敏捷接入园区数字 平台。 MACSec）、身份与访问管理（微分段等）、持续威胁检测、威胁响应分析 等，是应对当下复杂网络威胁环境的关键解决方案。 在零售与教育行业的数字化实践中，高品质万兆以太网方案展现出显 著效益。京东园区通过部署高品质万兆网络和 AI 运维平台，实现了大规 模终端的高并发无线覆盖，问题定位效率提升 95%以上，并依托智能业务 调度有效保障每日上万场视频会议流畅进行。东南大学则借助同类先进网 络架构（mGE

信贷。专注与扩展 项目旨在与Securities, Inc.会面，共同构建超大规模数据中心 激增的需求以及加拿大丰业银行支持GPU中心。 数据中心将资助云公司及美国，共计1.5吉瓦。 由能力驱动的持续发展 部署资本 由人工智能工作负载开发，一站式服务。 其北部的定制AI/ 美国高性能计算数据中心 中心平台发展。 总计近 1.4吉瓦的IT 容量 机构投资者对数据中心融资的新兴趣显著增长，这得益于有吸引力的供需 高价（$/千瓦） 2024年，美国数据中心租赁率在不同部署类型和地 区市场间的变化减少，但与历史基准相比出现了显 著增长。在疫情前，低于500kW的零售数据中心租 赁率平均不到200美元/kW，包括电力，每月，但 现在已飙升至超过250美元/kW，在北加利福尼亚 等市场甚至高达300-400美元/kW。平均国内价格 至少上涨了20%。 对于大规模部署，由于供应限制和新建项目预期的 回报，批发和超大规模容量定价已经趋同。批发和 回报，批发和超大规模容量定价已经趋同。批发和 超大规模部署（超过500kW）以前的价格在电费扣 除后为$85–$110/kW，而现在在主要市场为$150–$2 00/kW，在二级位置为$125–$160/kW。资本成本的 上升，加上大多数吸收发生在新建项目，推动了这 些增长。 注：包括电力来源：Colliers U.S. Researc h，Green Street 注：净电力来源：科利斯美国研究，格林 街 t

年）》。报告阐述了“算力+教育”行业应用发展 的背景，剖析了算力在不同学段的应用现状，明确了“算力+教育” 产业发展状况，以及算力赋能教育在教学、学习、管理以及科研等领 域的典型应用场景，并对各应用场景的部署进行了分析，征集了“算 力+教育”在基础设施层、平台技术层和应用服务层的典型案例，最 后从基础设施、标准规范、人才培养以及政策支持等维度提出了推动 “算力+教育”行业应用发展的策略建议。 “ 业发展，加强课程体系 改革，优化学科专业设置。打造人工智能教育大模型。建设云端学校 普惠算力赋能教育行业研究报告（2025 年） 5 等。 部委层面发布文件，从算力行业和教育行业角度出发，部署算力 赋能教育行业数字化转型的重点任务。2023 年 10 月工业和信息化部 等六部门印发了《算力基础设施高质量发展行动计划》，明确了深化 算力赋能行业应用的重大任务，并且提出“算力+教育”的赋能方向， 个性化学习、学生行为分析等。硬件配 置方面，教育行业在支持 VR 教学和教育行业大模型训练方面需要 GPU/TPU 密集型算力中心来提供大量的算力支撑，并且当前众多学 校或教育机构都在积极部署边缘计算节点，将算力基础设施部署在本 地，为学校提供本地算力降低延迟，例如中国电信江门分公司与五邑 大学展开战略合作，携手华为科技有限公司在五邑大学投建国产算力 节点。在网络架构方面，为了保障例如远程课堂互动、在线考试以及

协同与生态成熟推动推理普及 03 中国算力正朝着“训推一体”融合架构快速发展，以支撑大规模 模型与多模态应用的高效低延迟推理。国产AI芯片与推理框架不 断优化，结合模型压缩、量化、动态推理等技术，进一步提升能 效比和部署灵活性。 3 沙利文市场研读 | 2025/08 2 研究框架  中国推理算力市场综述 • 关键发现 • 中国推理算力定义及服务覆盖范围 • 算力需求重心从训练转向推理 • 中国推理算力市场规模分析 中国：人工智能系列 市场研读 | 2025/02 58% 49% 16% 26% 19% 8% 12% 5% 4% 3% 2023 2027 推理平台及应用部署偏好 设备端 边缘服务器 本地一体机部署 私有云 公有云 来源：沙利文、头豹研究院 中国推理算力：定义与服务覆盖范围 关键发现 推理算力主要负责AI模型的推理任务，主要用于处理和执行已经训练好的模型进行实 确保快速响应时间和稳定的服务。 但不一定需要与训练时相同的硬 件配置 。  推理型智算中心的硬件更注重处 理速度和可靠性。 推理算力定义范围  随着AI从训练为重走向推理为主，私有化环境及边 缘的部署需求都在迎来爆发。 ？？？？？？？ ‘自行车’ 模型推理 Inference 模型权重 Model weights Forward 5 www.leadleo.com 400-072-5588

。操作系统层面，从 早期的Unix、Windows Server到如今广泛应用的Linux开源生态，为算力提供了稳定的运 行环境；Docker、Kubernetes等虚拟化与容器技术的普及使应用部署与管理变得更加高 效、灵活。开发框架与工具链的成熟大幅降低了算力使用门槛，主流AI框架如 TensorFlow、PyTorch、PaddlePaddle已成为算法开发的标准化工具；CUDA计算平台构建 速 了AI应用落地。数据服务与管理、中间件与平台软件等环节也发挥了重要的辅助和连接 作用。数据中心作为算力的物理承载中心，其发展呈现出超大规模化、绿色低碳化、智 能化运维以及为满足低延迟需求而部署边缘节点的显著趋势，绿色低碳化具体表现为广 泛应用液冷和自然冷却技术，并积极利用可再生能源。中国的“东数西算”战略是推动 数据中心区域协同布局的典型代表。云计算平台主要由公有云巨头如AWS、Azure、阿里 进制造，力图维 持其技术领导力。中国在国家战略驱动和巨额投入下，正全力推进半导体产业链涵盖设 计、制造、设备和材料的自主可控，在成熟制程扩张、人工智能或网络等专用芯片设计 以及超大规模数据中心部署方面取得明显进展，成为重塑格局的重要力量，但也持续面 临供应链脱钩风险。欧盟通过欧洲芯片法案雄心勃勃地提升本土先进制造能力，吸引台 积电、英特尔、三星等巨头建厂，并强化其在汽车芯片、工业半导体及量子计算等领域

益增长的生产生活需求之间的矛盾愈发突出。园区从安全、体验、 成本和效率等方面，面临着挑战，大致归纳为以下几个方面： 1、园区基础设施收待改造：数量众多的园区，弱电系统、园区 网络、数据中心等基础设施老化，有线、无线等多张网络独立部署， 彼此不联通，缺乏智能化的基础，迫切需要升级改造。 2、园区建设缺乏顶层设计：传统园区往往缺乏系统性和前瞻性 规划，智慧化建设以碎片化功能建设为主，系统性考虑不足，各子 系统封闭孤立。园区 信息孤岛现象严重；同时，缺乏对数据的有效挖掘，数据应用少， 即使单个部门/业务做了智慧化改造，但系统之间无法联动，无法实 现整体智能化。 六、项目建设的必要性 1、项目的建设是响应产业信息化战略部署的必然选择，智慧园 区建设是国家创新发展，产业升级，推动新型信息化园区建设的重 要战略。 2、建设智慧园区平台对加快工业化、信息化融合，提升管委会 与园区内企业的经济、能耗等方面的管控能力及可持续发展能力具 经济开发区“智慧园区”项目项目建议书 件，并且该告警事件能在地图上进行定位，展示其告警事件详情。 从而全面掌握告警事件的发生及进展情况，做到情况明、处理清、 责任到人。 5）环境监测展示 通过部署在园区敏感点的监测设备，基于物联网传感和无线传 输技术，对园区内的空气质量、水源质量以及环境噪声进行动态采 集和实时监测和展示。 6）会议室信息展示 ●会议室使用状况统计 提供会议室使用状况统计展示，可统计出已预订、会议结束、