1 Insights into Scaling Virtual Power Plants Real-World Findings for Successful Deployment January 2025 Angela Long (Rockcress Consulting) Ryan Long (Rockcress Consulting) Smith, Puget Sound Energy 5 5 REAL-WORLD FINDINGS FOR SUCCESSFUL DEPLOYMENT Insights into Scaling Virtual Power Plants Executive Summary Introduction Leadership Investments Planning Case Studies Introduction Leadership Investments Planning Case Studies Appendices Introduction This project, Scaling VPPs: Insights, Profiles and Inventory, seeks to overcome several challenges of accelerating the

性能：蒸馏小型模型展现 Test-time Scaling ，可支持多项基础业务场 景 资料来源： s1: Simple test-time scaling ，中泰证券研究所 9 模型展现出随推理时间增加准确度增加的 Test time Scaling S1 仅使用 1000 个微调示例就达到了类似 r1 的准 确度 资料来源： s1: Simple test-time scaling ，中泰证券研究 所 图表：各模型微调示例数与准确度对比 图表：各模型微调示例数与准确度对比 图表： s1 表现出的 Test time Scaling n DeepSeek 可以通过 API 接口或者数据中台架构，实现与传统银行技术系统的数据交互，从而实现各类业务高效高质的无 缝对接，有望释放海量私域数据价值。 Post-Train 阶段大规模强化学习的训练方法使模型拥有了更强的自主推理能力， 不 再依赖传统提示工程。根据 DeepSeek 的官方使用指南， 多模态理解和视觉生成表现 资料来源： Janus-Pro: Unified Multimodal Understanding and Generation with Data and Model Scaling ，中泰证券研究所 11 多模态： Janus-Pro 等开源多模态模型有望进一步提升应用能 力 理解金融应用的“降本增效 - 价值创 造 - 决策赋能”三个层次 2 n 我们认为金融行

2 ables, thresholds for dangerous AI capabilities, and voluntary risk management policies for scaling AI capabilities. The workshop proceedings synthesize insights from these sessions, outline the methodology seeks to continuously measure dangerous model capabili- ties, allowing for the development of scaling laws and appropriate mitigations. Unlocking AI Capabilities Regarding unlocking model capabilities dialogues, and considering the insights and innovations of the private sector. Responsible Capability Scaling Gradient of Risks and Benefits This dialogue examined the feasibility and implica- tions of establishing

ALOHA2[58] TidyBot[49], VIMA[50], Instruct2Act[51], VoxPoser[52], VilA[30] RoboGen[42], Mimicgen[43], Scaling up and distilling down[44], DrEureka[45], Omnigrasp[46], Meta-World[47], BEHAVIOR-1K[48] ALOHA[37] 含适当空间配置的物体及资产的模拟环境; 然后, 将高级任务分解成子任务, 选择最优学习方式 (强 化学习、运动规划或轨迹优化), 生成训练监督; 最 终, 学习获取新技能的策略. 类似地, Scaling up and distilling down[44] 提出 了一个在模拟器中进行学习的框架, 使用大语言模 型指导高层规划, 并利用基于采样的机器人规划器 (如运动或抓取采样器) 生成多样化和丰富的操作轨 the 7th Conference on Robot Learning. Atlanta, USA: PMLR, 2023. 43 Ha H, Florence P, Song S. Scaling up and distilling down: Lan- guage-guided robot skill acquisition. In: Proceedings of the 7th Conference

明确界定标准来判定模型为小模型还是大模型。根 据模型表现和模型算力需求，业界一般认为一个经过 充分训练的百亿参数的模型可认定为大模型 ［1］。大模 型遵循的三大统计特征如下。 a）Scaling Law。模型表现依赖于模型规模、计算 量和数据量，这些因素之间呈现幂律关系 ［2］。 b）Chinchilla Law。模型大小和数据量要同等比 例扩展，即数据量需达到参数量的 20 倍，模型训练结 大模型语言模型：原理、实现与发展 ［J］. 计算机研究与发展，2024，61（2）：351-361. ［2］ KAPLAN J，MCCANDLISH S，HENIGHAN T，et al. Scaling laws for neural language models［EB/OL］.［2024-01-20］. https：//arxiv. org/ abs/2001.08361. ［3］ HOFFMANN

中国信息通信研究院副院长 魏亮 序言 3 超节点发展报告 05 人工智能高速演进背景下，算力需求呈指数级增长，大模型竞争已进入 “参数规模摸高” 与 “训 练效率提升” 并行的新阶段。Scaling Law（规模定律）将以多元形态长期生效，持续推动人工智 能技术突破能力边界，而超大规模 Transformer、MoE（混合专家模型）、稀疏注意力模型等，已 成为可扩展模型的核心架构方向。 J., McCandlish, S., Henighan, T., Brown, T. B., Chess, B., Child, R., ... & Amodei, D. (2020). Scaling laws for neural language models. arXiv. https://arxiv.org/ abs/2001.08361 3. 我国已有 433 款大模型完成备案并上线提供服务——AI 27 术语表 AI 处理器（AI Processor）： 本文中提及的 AI 处理器泛指用于人工智能计算的加速器，如神经网络处理器（NPU）和图形处理器 （GPU）等。 规模定律 (Scaling Law): 揭示了 AI 模型性能与参数量、数据量、计算投入之间存在幂律关系的法则。该法则驱动了模型参数 的指数级增长，是推动基础设施走向超节点架构的核心理论之一。 超节点通信域 (Supernode

market forces. These technologies all play a more muted role in this year’s forecast, only really scaling in the 2040s. In contrast, cheap renewable electrons, stored when necessary in ever-cheaper batteries demand. Beyond 2030 Looking further ahead, the dynamics are increasingly shaped by technology scaling and cost. Each shift in process node — from mainstream 14–22 nm designs to advanced 5–10 nm, and The Indian Subcontinent shows a decline in BTM share of total solar additions over time, due to scaling of utility-scale solar outpacing distributed systems South East Asia 0 10 20 30 40 50 60

具身大模型离实用还有差距 2023及之前 2025 及之后 2024 大模型 大数据 基本能力 单任务 单本体 单场景 多任务 单本体 单场景 通用智能系统 多本体 多场景 Scaling Law 在大语言模型和多模态大模型 上都得到了验证 感知和理解 决策和规划 执行和协作 评估和反馈 端到端 多模态大模型机器人 Hand-Eye Coordination Robotic

Sevilla, Tamay Besiroglu, Lennart Heim, Marius Hobbhahn, Will we run out of data? Limits of LLM scaling based on human-generated data,2024-06-04 [2]. https://www.caict.ac.cn/english/research/whit

万卡，占全国万卡集群的 58%。 （二）海外加快十万/百万卡集群演进，跨地域的多节点协同部 署成为新方向。 一方面，规模定律（Scaling Law）依然有效，海外科技巨头积 极建设十万/百万卡级集群。以美国为代表的算力资源较充沛的国家 依然延续 scaling law 路径，利用十万卡集群推动其在基座大模型、 智能算法研发，以及生态服务等方面的技术创新，如谷歌已利用十万 卡自研 TPU