计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)
创始人
2024-05-30 00:18:26

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

相关内容

热门资讯

哪款空调划算 环保用户关注新一... 当夏日蝉鸣渐起,冬夜寒意悄然攀窗,节能环保关注者不再满足于基础冷暖——他们需要真正懂空气、惜能源、护...
2026空调性能排行榜 小空间... 夏日午后的宿舍楼道里,风扇嗡鸣、墙面微烫,而隔壁房间却静得只听见翻书声——那台悄然运行的空调正以近乎...
美股午盘走低道指下挫880点,...   北京时间7月30日凌晨,美股周三午盘继续下跌,道指跌逾880点。美国国债收益率走高。市场静待美联...
谎称认识领导能办理船牌号   本报讯 临高男子王某谎称“认识领导”,以帮助办理船牌号、申请造船指标为名,骗取表哥符某36.1万...
浙江坤博精工股东减持计划届满:... 2026年7月27日,浙江坤博精工科技股份有限公司(以下简称“公司”)发布股东减持股份结果公告,披露...