计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)
创始人
2024-05-30 00:18:26
0

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

相关内容

热门资讯

淮南新华医疗集团新华医院获评国... (转自:淮南日报)近日,由国家卫生健康委人口文化发展中心主办的“国民健康管理促进项目”名单上,淮南新...
金浦钛业新增质押6370万股 ... 7月4日,金浦钛业公告,控股股东金浦投资控股集团有限公司(以下简称金浦集团)将其持有的金浦钛业637...
云海肴首席执行官吕志韬当庭代表... 经济观察网讯 字节跳动海外员工食物中毒事件有了新进展。2025年7月2日,新加坡国家法院庭审显示,云...
微信重大更新!网友:手机有救了 7月4日,腾讯宣布微信重大更新——优化聊天记录备份。据了解,优化后,用户可以将手机聊天记录备份至外部...
玲珑轮胎副总裁孙松涛新任董事,... 7月5日,玲珑轮胎公告,聘任孙松涛先生为公司董事。资料显示,孙松涛,男,1979年生,中共党员,本科...
答案(三首) 转自:劳动午报 每首诗 有每首诗的神 一首平庸之诗的出笼 大概是因作者 没能请来与你对接的 闪亮的诗...
以案说险:警惕车辆统筹保险,守... 转自:中国宁波网  近年来,随着车辆保有量的不断增加,越来越多的车主开始关注车辆保险问题。然而,在琳...
时代新材高管熊友波拟减持4万股... 7月4日,时代新材公告,总法律顾问熊友波计划在2025年7月28日至2025年10月27日期间,通过...
贺博生:黄金原油晚间行情涨跌趋...   黄金最新行情趋势分析:7月4日,黄金消息面解析:周五(7月4日)恰逢美国独立日假期,金价在欧市早...
捷克所有变电站恢复运行 电力供... 人民财讯7月4日电,当地时间4日下午,捷克国家输电系统公司表示,该国所有输电系统变电站均已恢复运行。...