计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)
创始人
2024-05-30 00:18:26

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

相关内容

热门资讯

多方协商后商家同意为消费者换新     罗先生所购衬衫出现的裂口。    本报记者黎兆齐 摄  本报讯(记者黎兆齐)市民罗先生在南宁...
3月16日起报名!陕西省教育考... 3月6日陕西省教育考试院网站发布关于做好2026年陕西省普通高等学校体育类专业招生考试工作的通知具体...
特朗普再批斯塔默:英国没有第一... 据英国《卫报》报道,针对英国考虑向中东地区派遣航空母舰一事,美国总统特朗普当地时间3月7日再次对英国...
实验室变科普课堂 食药安全可见...     检验人员讲解药品知识,教大家辨别中药材真伪。    本报记者苏昭宇 摄  本报讯(记者苏昭宇...
北京打造未来产业创新高地|“十... 发展未来产业,是应对全球产业竞争的主动抉择,更是塑造长远发展新优势的关键支点。 “十五五”规划纲要草...