ISSN 1009-5624 CN 10-2021/TQ 主管:中国乐凯集团有限公司 主办:北京乐凯科技有限公司
中国知网全文收录期刊
万方数据库收录期刊
RCCSE中文学术期刊
维普资讯网/超星域出版 全文收录
中国核心期刊(遴选)数据库收录期刊
万方数据库收录期刊
RCCSE中文学术期刊
维普资讯网/超星域出版 全文收录
中国核心期刊(遴选)数据库收录期刊
ISSN 1009-5624 CN 10-2021/TQ 主管:中国乐凯集团有限公司 主办:北京乐凯科技有限公司
【摘要】随着深度学习技术的快速发展，模型规模和数据量呈指数级增长，数据存储与传输面临巨大挑战。 文章提出一种多层次混合压缩框架，通过整合自适应量化和分布式稀疏编码技术，实现深度学习数据的高效压缩。 该框架根据数据特征和网络结构采用差异化压缩策略，在权重层面使用动态位宽量化，特征图层面应用块稀疏编码，梯度层面采用自适应压缩技术。 实验结果表明：该方法在 ＲｅｓＮｅｔ５０ 模型上实现 １２ 倍的压缩率，模型精度损失控制在 ０.５％以内。 同时，通过并行化优化设计、存储效率优化和计算开销优化等方案，显著提升压缩算法的性能，为大规模深度学习系统提供实用的优化方案。
