38.常用的轻量级网络——SequeezeNet
创始人
2024-06-02 23:31:24
- 保证精度不损失的同时，将原始AlexNet压缩至原来的510倍
在网络结构设计方面主要采取以下三种方式：
38.1 网络结构设计
- 用1*1卷积核替换3*3卷积
- 理论上一个1*1卷积核的参数是一个3*3卷积核的1/9，可以将模型尺寸压缩9倍。
- 减小3*3卷积的输入通道数
- 根据上述公式，减少输入通道数不仅可以减少卷积的运算量，而且输入通道数与输出通道数相同时还可以减少MAC。
- 延迟降采样
- 分辨率越大的输入能够提供更多特征的信息，有利于网络的训练判断，延迟降采样可以提高网络精度。
38.2 网络架构
- SqueezeNet提出一种多分支结构——fire model，其中是由Squeeze层和expand层构成
- Squeeze层是由s1个1*1卷积组成，主要是通过1*1的卷积降低expand层的输入维度
- expand层利用e1个1*1和e3个3*3卷积构成多分支结构提取输入特征，以此提高网络的精度(其中e1=e3=4*s1)
- SqueezeNet整体网络结构：
<
相关内容
热门资讯
俄罗斯通报挫败一起针对高级军官...
本文来自微信公众号“大象新闻”俄罗斯联邦安全局26日通报说，有关部门日前在圣彼得堡挫败一起针对俄高级...
利弗莫尔中概股龙头指数盘初跌2...
转自：财联社【利弗莫尔中概股龙头指数盘初跌2%】财联社2月26日电，利弗莫尔中概股龙头指数盘初跌2%...
营养专家：为什么吃蔬菜要多选「...
红橙黄绿紫，不同颜色的蔬菜在营养价值上有什么区别？《中国居民膳食指南（2022）》建议，成年人每日摄...
金银狂飙之下，直播间“锁价券”...
（来源：北京商报）春节假期结束，黄金白银价格盘中再度走强。截至2月26日20时30分，伦敦金现当日最...
友邦吊顶股东林圣全增持200股...
2月25日消息，友邦吊顶职工代表董事林圣全于2026年2月25日，通过竞价交易方式增持200股，占林...