38.常用的轻量级网络——SequeezeNet
创始人
2024-06-02 23:31:24
  • 保证精度不损失的同时,将原始AlexNet压缩至原来的510倍
    在网络结构设计方面主要采取以下三种方式:

38.1 网络结构设计

  • 用1*1卷积核替换3*3卷积
    • 理论上一个1*1卷积核的参数是一个3*3卷积核的1/9,可以将模型尺寸压缩9倍。
  • 减小3*3卷积的输入通道数
    • 根据上述公式,减少输入通道数不仅可以减少卷积的运算量,而且输入通道数与输出通道数相同时还可以减少MAC。
  • 延迟降采样
    • 分辨率越大的输入能够提供更多特征的信息,有利于网络的训练判断,延迟降采样可以提高网络精度。

38.2 网络架构

  • SqueezeNet提出一种多分支结构——fire model,其中是由Squeeze层和expand层构成
    • Squeeze层是由s1个1*1卷积组成,主要是通过1*1的卷积降低expand层的输入维度
    • expand层利用e1个1*1和e3个3*3卷积构成多分支结构提取输入特征,以此提高网络的精度(其中e1=e3=4*s1)

  • SqueezeNet整体网络结构:

<

相关内容

热门资讯

巴黎世家受众画像:不为Logo... 在时尚的洪流中,巴黎世家始终是一个独特的存在,它不仅仅是奢侈品的代名词,更是一种关于身份认同、意识形...
最新!我国盐湖锂资源萃取分离关... 每经编辑|杜宇     据央视新闻1月10日消息,总台记者从中国科学院青海盐湖研究...
猪价持续“磨底” 企业借期货工... 来源:@经济观察报微博记者 陈姗“2025年,中国生猪市场在供需矛盾加剧、政策密集调控与行业深度转型...
迎春以诗,“第40届青春诗会诗... (来源:上观新闻)新年伊始,诗声迎春。1月3日,由《诗刊》社、蜂巢当代艺术中心、中国诗歌网联合主办的...
从“源头”到“龙头” 山西晋城... 中新网晋城1月10日电 (杨佩佩 王金枝)水网改造、县域统管、智慧运营……2025年,山西晋城推进城...