【python】性能测试工具和函数和质量控制
创始人
2024-05-09 05:15:37
0

文章目录

  • 前言
  • 1.timeit 模块
  • 2. cProfile 和 Profile
  • 3.质量控制
  • 总结

前言

一些Python用户对了解同一问题的不同方法的相对性能产生了浓厚的兴趣。 Python提供了一种可以立即回答这些问题的测量工具。


1.timeit 模块

from timeit import Timer
Timer('t=a; a=b; b=t', 'a=1; b=2').timeit()
0.020554084330797195
Timer('a,b = b,a', 'a=1; b=2').timeit()
0.01771862991154194

提供两种方式:
1.代码方式
2.命令行方式

也可以自己实现,封装在装饰器中使用,打上注解@timethis就可以随便用了。

from functools import wraps
import timedef timethis(func):"""用于统计业务层各个函数花费多少时间:param func::return:"""@wraps(func)def wrapper(*args, **kwargs):start = time.time()r = func(*args, **kwargs)end = time.time()print(func.__module__, func.__name__, end - start)return rreturn wrapper@timethis
def func1(a:int, b:int)->int:time.sleep(1)return a+bfunc1(10,20)

输出:

__main__ func1 1.0010700225830078

ref:https://docs.python.org/zh-cn/dev/library/timeit.html#module-timeit

2. cProfile 和 Profile

cProfile 和 profile 提供了 Python 程序的 确定性性能分析 。 profile 是一组统计数据,描述程序的各个部分执行的频率和时间。这些统计数据可以通过 pstats 模块格式化为报表。

Python 标准库提供了同一分析接口的两种不同实现:

对于大多数用户,建议使用 cProfile ;这是一个 C 扩展插件,因为其合理的运行开销,所以适合于分析长时间运行的程序。该插件基于 lsprof ,由 Brett Rosen 和 Ted Chaotter 贡献。

profile 是一个纯 Python 模块(cProfile 就是模拟其接口的 C 语言实现),但它会显著增加配置程序的开销。如果你正在尝试以某种方式扩展分析器,则使用此模块可能会更容易完成任务。该模块最初由 Jim Roskind 设计和编写。

import cProfile
import re
cProfile.run('re.compile("foo|bar")')

结果:

214 function calls (207 primitive calls) in 0.002 secondsOrdered by: cumulative timencalls  tottime  percall  cumtime  percall filename:lineno(function)1    0.000    0.000    0.002    0.002 {built-in method builtins.exec}1    0.000    0.000    0.001    0.001 :1()1    0.000    0.000    0.001    0.001 __init__.py:250(compile)1    0.000    0.000    0.001    0.001 __init__.py:289(_compile)1    0.000    0.000    0.000    0.000 _compiler.py:759(compile)1    0.000    0.000    0.000    0.000 _parser.py:937(parse)1    0.000    0.000    0.000    0.000 _compiler.py:598(_code)1    0.000    0.000    0.000    0.000 _parser.py:435(_parse_sub)

命令行方式:

python -m cProfile [-o output_file] [-s sort_order] (-m module | myscript.py)

还有一个是stats, profile和stats都在下面这个ref
ref:https://docs.python.org/zh-cn/dev/library/profile.html#module-profile

print("----------------------------------------------------------------------------------------")import cProfile, pstats, io
from pstats import SortKey
pr = cProfile.Profile()
pr.enable()
for i in range(10):time.sleep(1)
pr.disable()
s = io.StringIO()
sortby = SortKey.CUMULATIVE
ps = pstats.Stats(pr, stream=s).sort_stats(sortby)
ps.print_stats()
print(s.getvalue())
  11 function calls in 10.010 secondsOrdered by: cumulative timencalls  tottime  percall  cumtime  percall filename:lineno(function)10   10.010    1.001   10.010    1.001 {built-in method time.sleep}1    0.000    0.000    0.000    0.000 {method 'disable' of '_lsprof.Profiler' objects}
import cProfilewith cProfile.Profile() as pr:# ... do something ...pr.print_stats()

3.质量控制

开发高质量软件的一种方法是在开发过程中为每个函数编写测试,并在开发过程中经常运行这些测试。

doctest 模块提供了一个工具,用于扫描模块并验证程序文档字符串中嵌入的测试。测试构造就像将典型调用及其结果剪切并粘贴到文档字符串一样简单。这通过向用户提供示例来改进文档,并且它允许doctest模块确保代码保持对文档的真实:

def average(values):"""Computes the arithmetic mean of a list of numbers.>>> print(average([20, 30, 70]))40.0"""return sum(values) / len(values)import doctest
doctest.testmod()   # automatically validate the embedded tests

import unittest

class TestStatisticalFunctions(unittest.TestCase):

def test_average(self):self.assertEqual(average([20, 30, 70]), 40.0)self.assertEqual(round(average([1, 5, 7]), 1), 4.3)with self.assertRaises(ZeroDivisionError):average([])with self.assertRaises(TypeError):average(20, 30, 70)

unittest.main() # Calling from the command line invokes all tests

unittest 模块不像 doctest 模块那样易于使用,但它允许在一个单独的文件中维护更全面的测试集:

总结

与 timeit 的精细粒度级别相反, profile 和 pstats 模块提供了用于在较大的代码块中识别时间关键部分的工具。
手册上就有很好的性能测试工具,profile,stats,都是linux的命令,查看函数调用、耗时的命令有很多,这方便我也在学习,等有了成果在写blog

相关内容

热门资讯

三羊马:已建成联系亚欧大陆的物... 三羊马在回应海外业务布局时表示,公司以汽车主机厂所在地为枢纽,形成贯穿东西南北,连接全国各地的交通运...
青农商行涨2.02%,成交额2... 4月22日,青农商行盘中上涨2.02%,截至11:12,报3.03元/股,成交2.53亿元,换手率1...
科技赋能为实战“添翼” 转自:草原云“正前方150米处,2米乘2米区域是幸存区域,半径0.8米圆框内有受伤人员,迅速投掷救生...
亿道信息一季度亏损减少至158... 4月21日,亿道信息(001314)公布2025年一季报,公司营业收入为5.48亿元,同比上升14....
联创电子:公司与蔚来&... 每经AI快讯,有投资者在投资者互动平台提问:公司已向蔚来&乐道供应nt2.0&3.0的adas摄像头...
浩欧博涨2.11%,成交额44... 4月22日,浩欧博(维权)盘中上涨2.11%,截至11:12,报96.80元/股,成交4474.98...
科学家首次发现孤独流浪黑洞,像... 来源:@福布斯中文网微博 【#科学家首次发现孤独流浪黑洞...
预防预付费商家“携款跑路” 公... 转自:中国青年报  公证预付资金监管平台小程序页面。手机截图  “我想消费者都会对预付费商家‘跑路’...
退休之后继续助力中国跳水事业发... 转自:上观新闻4月22日上午,中国游泳协会第六届会员代表大会在北京召开,各省市体育局代表共同出席了会...
大风蓝色预警 转自:长沙发布长沙市气象台2025年4月22日7时56分发布大风蓝色预警信号预计湘江新区、雨花区、天...
建设银行涨2.09%,成交额5... 4月22日,建设银行盘中上涨2.09%,截至11:12,报9.27元/股,成交5.41亿元,换手率0...
统计之窗丨一季度泰安市工业生产... 转自:泰安发布近日,在新泰市翟镇智能制造聚集区项目建设现场,机械轰鸣、车辆穿梭,一派如火如荼紧抓建设...
何以中国|巍巍武夷 物华弥新 转自:上观新闻武夷山下,九曲溪畔,正是青翠欲滴时,闽山闽水一派生机。4月21日晚,由中央网信办、国家...
“集中精力”做自己 155项试... 转自:北京日报客户端在美国挥舞“关税大棒”的背景下,我们也在“集中精力”做好自己的事。国务院新闻办2...
央行等部门:提升人民币跨境使用... 本报记者 刘琪4月21日,中国人民银行消息显示,近日,中国人民银行、国家金融监督管理总局、国家外汇管...
中国公共外交协会“临甲7号沙龙... 来源:人民网-国际频道 人民网北京4月21日电(记者李潇)中国公共外交协会21日在京举办“临甲7号沙...
新元科技跌2.02%,成交额5... 4月22日,新元科技(维权)盘中下跌2.02%,截至11:15,报4.36元/股,成交5366.31...
这堂课,我们“搬砖”去!‌ “原来搬砖真能‘卷’出学问!”近日,湖北工程学院南校区工地上热闹非凡。土木工程专业学生梁好和30余名...
华夏航空跌2.11%,成交额5... 4月22日,华夏航空盘中下跌2.11%,截至11:15,报7.43元/股,成交5878.89万元,换...
茂硕电源跌2.04%,成交额3... 4月22日,茂硕电源盘中下跌2.04%,截至11:15,报8.66元/股,成交3164.47万元,换...