计算神经网络参数量Params、计算量FLOPs(亲测有效的3种方法)
创始人
2024-05-30 00:18:26

1.stat(cpu统计)

pip install torchstat

from torchstat import statstat(model, (3, 32, 32)) #统计模型的参数量和FLOPs,(3,32,32)是输入图像的size

结果:

 问题:当网络中有自定义参数时,就很有可能漏掉那部分参数对应的统计量;stat好像不支持双输入。

2.summary网络结构对应参数(cuda上面统计)

pip install torchsummary

from torchsummary import summarysummary(model,input_size=(3,32,32))

问题:当网络中有自定义参数时,就很有可能漏掉那部分参数。
结果:

3.统计flops和参数量

pip install thop

from thop import profiledummy_input = torch.randn(1, 3, 32, 32)#.to(device)flops, params = profile(model, (dummy_input,))print('FLOPs: ', flops, 'params: ', params)print('FLOPs: %.2f M, params: %.2f M' % (flops / 1000000.0, params / 1000000.0))

问题:当网络中有自定义参数时,flops和params就很有可能漏掉那部分参数。


参考链接:

6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码_python transformer计算量flops代码_工科女博的博客-CSDN博客

网络模型的参数量和FLOPs的计算 Pytorch_网络flop_清纯世纪的博客-CSDN博客

https://zhuanlan.zhihu.com/p/541165764

相关内容

热门资讯

广西宁明:AI+低空经济赋能 ... 转自:新华财经日前,“人工智能赋能县域经济高质量发展院士专家宁明行”活动暨广西人机交互与智能决策重点...
视频丨转发周知!春运火车票今起... 今天(1月19日)春运第一天火车票开售哪天可买春节假期第一天的车票?2026年春运购票有哪些新变化?...
钨金属原料价格持续上涨,翔鹭钨... (来源:财闻) 预计归属于上市公司股东的净利润为1.25亿元~1.8亿元,...
网友:为什么飞船必须有舷窗 转... #神20舷窗裂纹维修细节披露#【网友:#为什么飞船必须有舷窗#[思考]转存长知识!】今天,#神20飞...
监管对“投资大V”出手,收割粉... 财联社1月19日讯(记者 吴雨其)在许多普通投资者眼里,社交平台上的“实盘冠军”、“投资大V”,似乎...