38.常用的轻量级网络——SequeezeNet
创始人
2024-06-02 23:31:24
  • 保证精度不损失的同时,将原始AlexNet压缩至原来的510倍
    在网络结构设计方面主要采取以下三种方式:

38.1 网络结构设计

  • 用1*1卷积核替换3*3卷积
    • 理论上一个1*1卷积核的参数是一个3*3卷积核的1/9,可以将模型尺寸压缩9倍。
  • 减小3*3卷积的输入通道数
    • 根据上述公式,减少输入通道数不仅可以减少卷积的运算量,而且输入通道数与输出通道数相同时还可以减少MAC。
  • 延迟降采样
    • 分辨率越大的输入能够提供更多特征的信息,有利于网络的训练判断,延迟降采样可以提高网络精度。

38.2 网络架构

  • SqueezeNet提出一种多分支结构——fire model,其中是由Squeeze层和expand层构成
    • Squeeze层是由s1个1*1卷积组成,主要是通过1*1的卷积降低expand层的输入维度
    • expand层利用e1个1*1和e3个3*3卷积构成多分支结构提取输入特征,以此提高网络的精度(其中e1=e3=4*s1)

  • SqueezeNet整体网络结构:

<

相关内容

热门资讯

7 天精彩对决,内蒙古高中篮球... 转自:草原云2月5日,2025—2026耐克中国高中篮球联赛(内蒙古赛区)在呼和浩特职业技术大学完赛...
一封成都来信融化了母子三天“冷... 转自:扬子晚报“叶子老师,最近因为他数学学习把我气得不行,两三天不理他了。但下午看到你拍的照片——他...
印尼宣布全面禁止大象骑乘活动 新京报讯(记者张建林)印度尼西亚是全球旅游业中使用大象数量较多的国家之一。据世界动物保护协会消息,印...
VALA(02051):首惠集... VALA(02051)发布公告,于2026年2月5日,杭州恩牛、杭州振牛、杭州商牛、杨先生、杨先生关...
视频丨今年29省区市将全面开展... 转自:央视新闻客户端  今天(2月4日)上午10时,国务院新闻办公室举行新闻发布会,介绍锚定农业农村...