低空智能感知专题合订本(548页)型通过权重共享支持多档码率动态 调整,在移动端部署时模型体积减小 70%而 MS-SSIM 仅下降 0.003。熵编码效率成为关键 瓶颈。Checkerboard Context Model[193]设计棋盘格上下文预测器,利用奇偶像素依赖关系实 现并行解码,将熵编码速度提升 3 倍,CLIC2020 挑战赛 BD-Rate 节省 12%。针对无损压缩 需求,iVPF[194]构建可逆体积 compression[C]// IEEE/CVF Conference on Computer Visi on and Pattern Recognition , 2021: 4998-5007. [193] Dailan He, Yaoyan Zheng, Baocheng Sun, et al. Checkerboard context model for eff icient learned image 矩阵,减少了一半的可训练参数。VeRA[192]进一步冻结 A、B 参数矩阵并且在 模型层间进行共享,通过使用两个可训练的缩放向量来适应模型。这种方法减少了可训练参 数的数量,同时保持了与 LoRA 相当的性能。LoRA-XS[193]利用奇异值分解初始化 LoRA 矩 阵并固定权重,并在 LoRA 矩阵之间引入一个小的 r×r 权重矩阵,在训练过程中只更新中间 的小矩阵来进一步减少可训练参数的数量。从而实现了更高的参数效率。10 积分 | 548 页 | 14.65 MB | 1 月前3
共 1 条
- 1
