基于pytorch实现模型剪枝
创始人
2024-05-26 18:09:05
- 一，剪枝分类
- 二，PyTorch 的剪枝
- 三，总结
- 参考资料
一，剪枝分类
所谓模型剪枝，其实是一种从神经网络中移除"不必要"权重或偏差（weigths/bias）的模型压缩技术。关于什么参数才是“不必要的”，这是一个目前依然在研究的领域。
1.1，非结构化剪枝
非结构化剪枝（Unstructured Puning）是指修剪参数的单个元素，比如全连接层中的单个权重、卷积层中的单个卷积核参数元素或者自定义层中的浮点数（scaling floats）。其重点在于，剪枝权重对象是随机的，没有特定结构，因此被称为非结构化剪枝。
1.2，结构化剪枝
与非结构化剪枝相反，结构化剪枝会剪枝整个参数结构。比如，丢弃整行或整列的权重，或者在卷积层中丢弃整个过滤器（Filter）。
1.3，本地与全局修剪
剪枝可以在每层（局部）或多层/所有层（全局）上进
上一篇：适合穷人的18个创业项目投资小,创业都有什么行业 100元低成本创业项目适合穷人加盟 90后低成本创业项目适合穷人创业
下一篇：大学生创新创业项目计划书ppt,大学生创新创业项目计划书 创新创业计划书ppt案例怎么写 创新创业项目计划书ppt模板长版
相关内容
热门资讯
中衡设计(603017.SH)...
格隆汇4月22日丨中衡设计(603017.SH)发布2025年年报显示，公司全年实现营业收入11.7...
海港人寿总经理变更：齐美祝任临...
炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！ 每经记者|涂颖浩...
出息了！德国市长试乘贵州造无人...
2026年4月21日，德国东部城市开姆尼茨。市政厅门前，一辆圆润的胶囊状小巴缓缓驶出。车内坐着三...
谷歌推出AI训练与推理专用芯片...
核心要点谷歌将推出一款专门运行人工智能模型的芯片，同时推出另一款独立处理器用于模型训练。亚马逊也...
龙腾光电修订公司章程及多项治理...
4月23日，龙腾光电（证券代码：688055）发布公告称，公司于2026年4月22日召开第三届董事会...