计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)
创始人
2024-05-30 00:18:26

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

相关内容

热门资讯

言短意长|“烹饪大师”退场,餐... 地方行业协会的“大师”清理仍在进行时。近日,四川泸州市餐饮行业协会、泸州市餐饮行业工会联合会发出一纸...
国家发展改革委向民营企业 公开... (来源:嘉兴日报)转自:嘉兴日报  新华社北京9月11日电(记者 魏玉坤)记者11日从国家发展改革委...
弓弦之上 热爱与梦想同箭齐发 (来源:嘉兴日报)转自:嘉兴日报  ■记者 龚思雨  拉弓、瞄准、放弦,箭矢破空而出,一声清脆的“b...
漫画的启示 (来源:南湖晚报)转自:南湖晚报   长安镇中心小学605班 潘奕桐 指导老师 杜盈  漫画虽然不会...
三友联众聘任44岁杜欣洋为核心... 9月12日,三友联众公告,聘任杜欣洋先生为公司核心技术人员。资料显示,杜欣洋先生,中国国籍,无境外永...