计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)
创始人
2024-05-30 00:18:26

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

相关内容

热门资讯

克洛泽16球的进球纪录 梅西和... 转自:金羊网-新快报■“榜一大哥”德国传奇前锋克洛泽。北京时间明天凌晨,2026年美加墨世界杯就将拉...
老挝土匪山发生两起翻车事故致两... 中国驻琅勃拉邦总领事馆6月10日发布关于注意行车安全的领事提醒。近期,在老挝琅勃拉邦省22号公路九公...
风浪里的深蓝牧场 在东海远洋培... 团队在现场调试设备。受访者供图6月9日,浙大宁波理工学院机电与能源工程学院大三学生张钦耘,又一次跟随...
1.54亿元!长安汽车转让合资... (来源:汽车之地)据重庆联合产权交易所官网显示,重庆长安汽车股份有限公司(以下简称长安汽车)挂牌转让...
跨越“死亡谷” 低空经济将“高... □本报记者 何可  5月28日,四川自贡兰田机场内,伴随着8个升力旋翼高速切割空气的低鸣,一架沃兰特...