基于pytorch实现模型剪枝
创始人
2024-05-26 18:09:05
0次
- 一，剪枝分类
- 二，PyTorch 的剪枝
- 三，总结
- 参考资料
一，剪枝分类
所谓模型剪枝，其实是一种从神经网络中移除"不必要"权重或偏差（weigths/bias）的模型压缩技术。关于什么参数才是“不必要的”，这是一个目前依然在研究的领域。
1.1，非结构化剪枝
非结构化剪枝（Unstructured Puning）是指修剪参数的单个元素，比如全连接层中的单个权重、卷积层中的单个卷积核参数元素或者自定义层中的浮点数（scaling floats）。其重点在于，剪枝权重对象是随机的，没有特定结构，因此被称为非结构化剪枝。
1.2，结构化剪枝
与非结构化剪枝相反，结构化剪枝会剪枝整个参数结构。比如，丢弃整行或整列的权重，或者在卷积层中丢弃整个过滤器（Filter）。
1.3，本地与全局修剪
剪枝可以在每层（局部）或多层/所有层（全局）上进
上一篇：适合穷人的18个创业项目投资小,创业都有什么行业 100元低成本创业项目适合穷人加盟 90后低成本创业项目适合穷人创业
下一篇：大学生创新创业项目计划书ppt,大学生创新创业项目计划书 创新创业计划书ppt案例怎么写 创新创业项目计划书ppt模板长版
相关内容
热门资讯
中证A500ETF摩根（560...
8月22日，截止午间收盘，中证A500ETF摩根（560530）涨1.19%，报1.106元，成交额...
A500ETF易方达（1593...
8月22日，截止午间收盘，A500ETF易方达（159361）涨1.28%，报1.104元，成交额1...
何小鹏斥资约2.5亿港元增持小...
每经记者｜孙磊 每经编辑｜裴健如 8月21日晚间，小鹏汽车发布公告称，公司联...
中证500ETF基金（1593...
8月22日，截止午间收盘，中证500ETF基金（159337）涨0.94%，报1.509元，成交额2...
中证A500ETF华安（159...
8月22日，截止午间收盘，中证A500ETF华安（159359）涨1.15%，报1.139元，成交额...
科创AIETF（588790）...
8月22日，截止午间收盘，科创AIETF（588790）涨4.83%，报0.760元，成交额6.98...
创业板50ETF嘉实（1593...
8月22日，截止午间收盘，创业板50ETF嘉实（159373）涨2.61%，报1.296元，成交额1...
港股异动丨航空股大幅走低 中国...
港股航空股大幅下跌，其中，中国国航跌近7%表现最弱，中国东方航空跌近5%，中国南方航空跌超3%，美兰...
电网设备ETF（159326）...
8月22日，截止午间收盘，电网设备ETF（159326）跌0.25%，报1.198元，成交额409....
红利ETF国企（530880）...
8月22日，截止午间收盘，红利ETF国企（530880）跌0.67%，报1.034元，成交额29.0...