计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)
创始人
2024-05-30 00:18:26

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

相关内容

热门资讯

米莱取消访问英国 据埃菲社9月10日报道,阿根廷总统米莱取消了原定于10月访问英国的行程。此前,因他宣布对在马尔维纳斯...
印尼9月干旱持续 火点已超50... 格隆汇9月11日|印尼在应对山火与浓重烟霾方面或将面临更严峻的挑战,因为异常干燥的天气将持续至本月底...
梅卡曼德邵天兰批评“攒局型”具... 21世纪经济报道记者周慧9月10日,“具身智能眼脑手第一股”梅卡曼德创始人兼CEO邵天兰的微信朋友圈...
2025年我国新发现非油气矿产... 来源:新华网新华社天津9月11日电(记者黄江林、宋瑞)11日,在天津举行的2026中国国际矿业大会上...
“‘支联会’煽动颠覆国家政权”... 9月11日上午10时,香港西九龙裁判法院(暂代高等法院)对已经解散的反中乱港组织“支联会”及其头目李...