电子AI+系列专题:复盘英伟达的AI发展之路S0980522100001 S0980522090001 l GPU 是人工智能时代下满足深度学习大量计算需求的核心 AI 芯片。 过去五年,大型语言模型的参数规模以指数级增长;从 2018 年起, OpenAI 开始发布生成式预训练语言模型 GPT 以来, GPT 更新换代持续提升模型 及参数规 模; 45.11% 。 AI 芯片中 由于 GPU 通用型强,满足深度学习大量计算 的需求,因此 GPU 在训练负载中具有绝对优势。以 GPT-3 为例,在 32 位的单精度浮点数数据下,训练 阶段所需 GPU 数量为 1558 个,谷歌级应用推理阶段所 需 GPU 数量为 706315 个。 l 英伟达开辟 GPGPU 加速计算格局, GPU 架构演进及产品布局赋能 AI 时代。 英伟达 (NVIDIA) (NVIDIA) 成立于 1993 年,总部位于美国加利福尼亚州圣克拉拉,是一家人工智能计算公司。据 JPR 数据, 4Q22 英伟达独立 GPU 出货量占比 为 82% , 位居市场第一。公司股价经历 2016-2018 年、 2020-2021 年、 2022 年 9 月以来三轮快速增长;其中 2022 年 9 月至今,受 AI 驱动下针对芯片算力需 求提升,公 司股价呈现大幅度反弹;截至 20230 积分 | 30 页 | 1.27 MB | 7 月前3
电子行业AI+系列专题:边缘AI,大语言模型的终端部署,推动新一轮终端需求-20230531-国信证券-25页...... 9 图12: 算力计算公式 ...................................................................... 10 图13: 近年推出的大预言模型有效算力比率 .................................................. 10 图14: 边缘计算的应用场景 ........... ............................................ 11 图15: 云计算与边缘计算的区别 ............................................................ 11 图16: 云计算与边缘计算 ....................................................... ... 22 表1: GPT 参数和训练集规模快速增长 .........................................................8 表2: 大语言模型的计算 .................................................................... 9 表3: 大预言模型算力测算 ............0 积分 | 25 页 | 2.20 MB | 7 月前3
2024中国主要城市交通分析报告-高德地图中心数据分析团队撰写,所载全部内容仅 供参考。 报告是基于高德地图及行业浮动车数 据,通过大数据挖掘技术结合交通算法及 交通理论编制,保证报告合理性与科学性。 报告中地面道路交通通行时间计算方法, 是考虑融合道路交叉口延误时间(即信号 灯等待时间),从时间、空间、效率三个 维度客观、综合地反映了城市道路交通健 康状况并提出诊断方案的研究。报告力争 做到精准、精细、精确,为公众出行、机 变规律、预测未来发展趋势,专注拥堵成因及解决对策的研究。本季度报告由高德 地图联合“国家信息中心大数据发展部”、“清华大学土木水利学院”、“同济大 学智能交通运输系统(ITS)研究中心”、“未来交通与城市计算联合实验室”等机 构共同联合发布,在此一并表示感谢。高德地图愿与政府、企业、院校等研究机构 保持开放合作,共建交通共同体。 Summary 概 述 4 交通“评诊治”咨询报告服务 交通“评诊治”数据接口服务 拉萨早晚高峰时段调整为08:00-10:00、18:00-20:00。 无其他特殊说明,本报告统计时间均为2024年01月01日~2024年12月31日 城市范围: 城市道路公共交通评价、地面道路交通评价分别进行独立计算。 数据呈现: 地面交通50城 选取 360城市+全国高速 选取 公共交通39城 地面道路交通评价 —— 采用“六宫格”综合指标表示城市交通运行健康状况,多项指标兼容GB/T 36610 积分 | 30 页 | 2.00 MB | 7 月前3
电子AI+系列专题:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求云团队联合首发并上线基于华为云昇腾云服务 的 DeepSeekR1/V3 推理服务。 l DeepSeek 通过 MLA 和 DeepSeekMoE 实现高效的推理和低成本训练,构建 DualPipe 算法和混合精度训练优化计算与通信负载;通过 ( 分阶段 ) 强化学习实现 性能突破。 多头潜在注意力 (MLA) 通过低秩联合压缩技术,大幅削减了注意力键 (keys) 和值 (values) 的存储空间,显著降低了内存需求。 了整体的运行效率和表现。 DeepSeek 模型对跨节点的全对全通信机制进行优化, 充分利用 InfiniBand 和 NVLink 提供的高带宽。创新性提出了 DualPipe 算法,通过优化计算与通信的重叠,有效减少了流水线中的空闲时间。采用 FP8 混合精 度训练技术,不仅极大地加快 了训练速度,还大幅降低了 GPU 内存的消耗。 DeepSeek-R1-Zero 通过强化学习架构创新实现突破性性能,核心技术创新体现在训 Intelligence ,通用人工智能 ) 的创新型科技公司,专注于开发先进 的大语言模型和相关技术。 DeepSeek 由知名量化资管巨头幻方量化创立,幻方量化创始人梁文峰在量化投资和高性能计算领域具有深厚的背景和丰富的经验。 l 2024 年 5 月, DeepSeek-V2 发布,成为全球最强开源通用 MoE 模型。 DeepSeek 独创 Attention 结构 MLA( 一种新的多头潜在注意力机制0 积分 | 38 页 | 1.95 MB | 7 月前3
浙江省地标-大中型体育场馆智慧化建设和管理规范31168 信息安全技术 云计算服务安全能力要求 GB/T 32581 入侵和紧急报警系统技术要求 GB/T 34311 体育场所开放条件与技术要求 总则 GB/T 35319 物联网 系统接口要求 GB/T 36326 信息技术 云计算 云服务运营通用要求 GB/T 37732 信息技术 云计算 云存储系统服务接口功能 GB/T 37741 信息技术 云计算 云服务交付要求 GB/T stadiums 拥有3000座以上室内健身场地或10000座以上露天健身场地的体育场馆。 3.2 体育场馆智慧化 stadium intelligence 以体育场馆空间为主体,应用BIM、云计算、物联网、5G通信、大数据、人工智能、数字孪生等现 代信息技术,形成体育场馆即时感知、科学决策、主动服务、高效运行、智能监管等功能为一体的新型 建设和运行管理模式。 4 缩略语 下列缩略语适用于本标准。 GIS:地理信息系统(Geographic Information System) NB-IoT:基于蜂窝的窄带物联网(Narrow Band Internet of Things) PC:个人计算机(Personal Computer) SDK:软件开发工具包(Software Development Kit) VR:虚拟现实技术(Virtual Reality) 5 总体要求 50 积分 | 20 页 | 613.17 KB | 6 月前3
电子行业深度报告:AI系列深度,AI+降本增效拓宽应用,硬件端落地场景丰富-20230712-东吴证券-28页GPT-3.5,在 各种专业和学术基准上已经表现出人类水平。智能终端接入人工智能大 模型的趋势是明确的,预计很快在下游应用层面将出现 AI 百花齐放的 景象。国产半导体产业已经加速了“创新车轮”,在端侧围绕计算、感 知、存储等关键环节作充足准备,以迎接人工智能新机遇。 ◼ AI 拓宽 C 端应用场景,推动创新需求。 C 端更注重用户体验和使用场 景的匹配,随着轻量型大模型的发布,AI 应用有望从 PC ..................................................................... 6 图 4: GPT-4 理解图表中数据的含义并做进一步计算 ....................................................................... 6 图 5: AIGC 相关技术场景及成熟度分类 ............................. 8 图 9: 全球边缘计算潜在市场规模(亿元)....................................................................................... 9 图 10: 中国边缘计算行业市场规模(亿元).................................0 积分 | 28 页 | 2.68 MB | 7 月前3
2025年智能金融:AI+驱动的金融变革报告-浙江大学(郑小林)基于循环神经网络RNN描述单 词序列的概率 • 优点:通过词嵌入和隐 藏层,上下文捕捉和泛 化能力较强; • 缺点:计算复杂度高, 面对长文本序列仍会有 “灾难性遗忘”问题 基于文本概率分布建模 通常基于马尔可夫假设建立词 预测模型(N-gram) • 优点:可解释、计算速 度快 • 缺点:从前向后单向计 算;单纯基于统计频次、 缺少对上下文的泛化; 随着n的增大,参数空 间呈指数增长 扩展规律 (GPT3、GPT4…) 基于Transformer架构的语言模型 • 优点: ✓ 长距离依赖处理能力强:自注意力机制能捕捉任 意距离的依赖关系。 ✓ 并行计算能力强:Transformer架构支持并行计算, 训练速度更快。 • 缺点:资源消耗大 自然语言处理模型的演进 浙江大学人工智能教育教学研究中心 中心 智能教育教学研究中心 大学人工智能教育教学研究中心 浙江大学人工智能教育教学研究中心 encoding来衡量word位置信息 注意力Attention 自注意力机制:使序列中的每个单词都能“关注”其他单词,包括自己 在内,以更好地理解上下文。(通过计算输入序列中每个位置与其他位置之间 的注意力权重,得到加权的位置向量作为输出) 多头注意力机制:多个独立计算的自注意力机制,将相同的输入映射到 不同的空间中进行上下文理解,使得模型获得了对输入序列有更细致透视,丰 富了其表示,带有多样化的上下文信息。10 积分 | 45 页 | 7.21 MB | 1 月前3
经济开发区“智慧园区”可行性研究分析报告《中华人民共和国网络安全法》; 《信息技术设备的安全》(GB4943-2011); 《国家电子政务工程建设项目管理暂行办法》 《计算机软件开发规范》(GB/T8566-2007); 《建设项目经济评价方法与参数(第三版)》; 《信息技术开放系统互连网络层安全协议》(GB/T17963); 《计算机信息系统安全》(GA216.1-1999)。 《2020-2025 年中国智慧园区行业深度发展研究与“十四五”企 与 园区内的众多企业之间的关系,尤其关注通过技术手段加强各方之间 信息的互通性和人员的协作能力。 4 经济开发区“智慧园区”项目项目建议书 智慧产业园区建设的目的,就是要利用物联网技术、云计算技 术、移动互联技术等各种新兴技术,形成跨多平台的融合服务,从 而提高产业园区的监管性、创新性、有序性和持续性,形成以智慧 产业发展技术应用的"智慧综合经济型园区"。另外,本次智慧园区 的建设还包含一部分政府职能。 暂无 九、主要结论和建议 (一)结论 本项目建设符合国家产业政策,项目围绕国家“一带一路”重大 战略,立足内蒙古准格尔经济开发区,以政府主导、公司运作、产 业带动、快捷高效为指导思想,以云计算、大数据、物联网、安全 认证等信息技术为手段,统筹信息化系统建设与信息产业发展,建 设具有生态环境分析能力的平台体系,为实现生态体系的建设奠定 基础。 (二)建议 建议建设单位根据本项目建议书结合自身条件和发展目标,按10 积分 | 164 页 | 16.45 MB | 7 月前3
中国推理算力市场追踪报告,2025H1-沙利文中国推理算力:定义与服务覆盖范围 关键发现 推理算力主要负责AI模型的推理任务,主要用于处理和执行已经训练好的模型进行实 际应用。这包括执行推理任务、处理实时数据和提供预测结果。推理过程通常对计算 资源需要快速响应,对实时性要求较高。 市场研读 2025/08 中国:云服务系列 中国:云服务系列 推理是指利用训练好的大模型, 使用新数据推理出各种结论。 推理芯片的目标是在已经训练好 的模型上执行任务,推理芯片不 需要进行复杂的学习过程,其设 计重点是在保持高效计算的同时, 尽可能减少功耗。 因此,推理芯片比较关注低延时、 低功耗。可配置使用优化的推理 硬件,高效能的服务器和网络设 备如GPU、NPU或FPGA,这些硬件 能够高效执行模型推理任务,以 确保快速响应时间和稳定的服务。 通过高性能RoCE网络实现预填充与解码实例间KV Cache同步 每个NPU配备不少于200Gbps的RoCE接口 确保数据传输低延迟和高带宽 用户请求 任务调度 预填充实例 Prefill 任务类型:计算密集型 硬件需求:高算力NPU/GPU集群 优化目标:最小化首Token时延 解码实例 Decoding 任务类型:内存密集型 硬件需求:大容量内存+高内存带宽 优化目标:最大化Token生成效率10 积分 | 12 页 | 1.12 MB | 1 月前3
智慧停车发展及智慧停车系统白皮书得到各界的 广泛关注。与此同时,智慧停车也是智能网联汽车优先商用的重要场景,基于无人驾 驶的自主代客泊车功能已开始搭载在部分量产车型上,为消费者提供更加便利的停 车体验。随着 5G、大数据、云计算等新一代信息技术赋能智慧停车快速发展,将推 动停车产业信息化、智能化升级,有效缓解“停车难”“找车难”问题,促进城市高 质量发展。 本文针对当前停车服务面临的问题和挑战,分析总结了智慧停车的未来发展趋 ........... 15 3.3 场侧智能设备和关键技术 .................................................... 16 3.3.1 感知计算设备及技术 .................................................... 16 3.3.2 室内停车场高精度定位技术 ................ 1.1 智慧停车内涵及价值 1.1.1“智慧停车”的内涵 智慧停车是指:面向一段时间内需要在固定车位进行的车辆停放,将无线通信、 卫星定位和室内定位、地理信息系统、视觉感知、大数据、云计算、物联网、互联网、 智能终端等技术综合应用于城市车位信息的采集、管理、查询、预订与导航服务等, 实现停车位资源的实时更新、查询、预订与导航服务一体化,实现停车位资源利用率 的最大化、停车服务利润的最大化和车主停车体验的最优化。10 积分 | 43 页 | 1.73 MB | 7 月前3
共 32 条
- 1
- 2
- 3
- 4
