计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)
创始人
2024-05-30 00:18:26

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

相关内容

热门资讯

儿童面膜热销,谁在刻意制造孩子... (来源:上观新闻)当一款印着卡通图案的粉色面膜被轻轻敷在5岁女孩脸上,她的母亲按下快门,将这一幕分享...
现货白银价格单日涨超5% 突破... 财联社11月29日讯(编辑 赵昊)周五(11月28日)纽约时段,现货白银价格一度涨超5.5%最高报每...
一土耳其油轮爆炸起火 暂无人员... 转自:财联社【一土耳其油轮爆炸起火 暂无人员伤亡】财联社11月29日电,一艘土耳其油轮“凯罗斯”号在...
世贸组织:全球货物贸易增速将放... 来源:央视新闻客户端当地时间28日,世贸组织发布最新一期货物贸易晴雨表显示,2025年上半年货物贸易...
王毅会见英国首相国家安全事务顾... 11月28日,中共中央政治局委员、中央外办主任王毅在北京会见英国首相国家安全事务顾问鲍威尔。王毅说,...