38.常用的轻量级网络——SequeezeNet
创始人
2024-06-02 23:31:24
0
  • 保证精度不损失的同时,将原始AlexNet压缩至原来的510倍
    在网络结构设计方面主要采取以下三种方式:

38.1 网络结构设计

  • 用1*1卷积核替换3*3卷积
    • 理论上一个1*1卷积核的参数是一个3*3卷积核的1/9,可以将模型尺寸压缩9倍。
  • 减小3*3卷积的输入通道数
    • 根据上述公式,减少输入通道数不仅可以减少卷积的运算量,而且输入通道数与输出通道数相同时还可以减少MAC。
  • 延迟降采样
    • 分辨率越大的输入能够提供更多特征的信息,有利于网络的训练判断,延迟降采样可以提高网络精度。

38.2 网络架构

  • SqueezeNet提出一种多分支结构——fire model,其中是由Squeeze层和expand层构成
    • Squeeze层是由s1个1*1卷积组成,主要是通过1*1的卷积降低expand层的输入维度
    • expand层利用e1个1*1和e3个3*3卷积构成多分支结构提取输入特征,以此提高网络的精度(其中e1=e3=4*s1)

  • SqueezeNet整体网络结构:

<

相关内容

热门资讯

小观看天丨强降水不断,预警持续... 气象万千,小观看天!小伙伴们,早上好!今天是7月8日,星期二。昨天,四川继续发布山洪灾害蓝色预警和地...
酒企高层密集调整,行业深度变革... 近期酒行业掀起高管变动潮,金种子酒、华润啤酒、洋河股份三大酒企相继宣布核心管理层更迭。此番变动背后,...
欧盟争取与美达成原则性贸易协议 【#欧盟争取与美达成原则性贸易协议#】#欧盟准备好对美反制清单#欧盟委员会发言人奥洛夫·吉尔7日表示...
《以法之名》看片会在沈举办 转自:辽宁日报 本报讯 记者刘海搏报道 7月4日,国内首部聚焦“检察侦查”职能的剧集《以法之名》看片...
华人社团慰问菲“慰安妇”幸存者... 【环球时报驻菲律宾特派记者 樊帆】6日上午,在世界反法西斯战争胜利80周年之际,菲律宾华裔青年联合会...
美资管公司推出“反分红”标普E... 财联社7月8日讯(编辑 赵昊)知名ETF发行商Roundhill Investments推出了一只另...
韩国总理履职,李在明下任务 【环球时报驻韩国特约记者 刘媛 环球时报特约记者 伊文】据韩联社报道,韩国民调机构Realmeter...
2016年新小本创业项目大大的... 现在小本创业什么好2021创业好项目加盟店微小创业有什么好项目夫妻创业小项目创业小项目 个人创业小型...
有哪些可靠的小本创业致富项目 ... 好项目致富目前有啥致富项目致富赚钱项目致富项目吧选致富项目新致富项目在家致富的小项目致富有哪些项目致...
美法官暂时阻止政府执行禁止为美... 转自:央视当地时间7日,美国联邦地区法官暂时阻止特朗普政府执行禁止为美国计划生育联合会提供医疗补助资...