计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)
创始人
2024-05-30 00:18:26

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

相关内容

热门资讯

长光华芯(688048.SH)... 格隆汇5月20日丨长光华芯(688048.SH)公布,经公司董事长、总经理闵大勇先生提名,董事会提名...
2元一斤与69.8元半斤,樱桃...   “我看网上的视频,樱桃2元一斤,但是去超市一看,樱桃就没有下来20元的,批发市场的本地樱桃便宜一...
“黑心商家,我拍了五斤给我发十... “黑心的蒜薹商家,我拍五斤,给我发了十斤”最近,被蒜薹“支配”的恐惧开始蔓延。打开抖音,你大概率会刷...
天龙集团股东会审议通过多项议案... 广东天龙科技集团股份有限公司(证券代码:300063,证券简称:天龙集团)2025年年度股东会于20...
杭州钱江世纪城发布10亿元科创... 5月18日举行的钱江世纪城投资促进大会上,发布了“世纪科创启航”基金三年行动方案。基金总规模10亿元...