计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)
创始人
2024-05-30 00:18:26

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

相关内容

热门资讯

2月末我国外储规模3.4万亿美... 21世纪经济报道记者 边万莉 3月7日,国家外汇管理局公布2026年2月末外汇储备规模数据。截至20...
谷歌NotebookLM新增功...   炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会! (来源:IT之家)I...
国际原油价格飙升!下周调价窗口... 受中东地缘冲突持续等影响,国际原油价格再度飙升,WTI原油、布伦特原油价格已双双站上90美元/桶,创...
假装“出走”   ▌星闪  开学快一礼拜了,暖爸才告诉我,寒假里小暖的离家出走是他帮着策划的。  女儿小暖读初二了...
教育部部长答人民日报社《民生周... 今天上午,十四届全国人大四次会议在梅地亚中心新闻发布厅举行民生主题记者会,教育部部长怀进鹏、民政部部...