python之异步编程
创始人
2024-05-28 10:05:30
0

一、异步编程概述

异步编程是一种并发编程的模式,其关注点是通过调度不同任务之间的执行和等待时间,通过减少处理器的闲置时间来达到减少整个程序的执行时间;异步编程跟同步编程模型最大的不同就是其任务的切换,当遇到一个需要等待长时间执行的任务的时候,我们可以切换到其他的任务执行;

与多线程和多进程编程模型相比,异步编程只是在同一个线程之内的的任务调度,无法充分利用多核CPU的优势,所以特别适合IO阻塞性任务;

python版本 3.9.5

二、python的异步框架模型

python提供了asyncio模块来支持异步编程,其中涉及到coroutines、event loops、futures三个重要概念;

event loops主要负责跟踪和调度所有异步任务,编排具体的某个时间点执行的任务;

coroutines是对具体执行任务的封装,是一个可以在执行中暂停并切换到event loops执行流程的特殊类型的函数;其一般还需要创建task才能被event loops调度;

futures负责承载coroutines的执行结果,其随着任务在event loops中的初始化而创建,并随着任务的执行来记录任务的执行状态;

异步编程框架的整个执行过程涉及三者的紧密协作;

首先event loops启动之后,会从任务队列获取第一个要执行的coroutine,并随之创建对应task和future;

然后随着task的执行,当遇到coroutine内部需要切换任务的地方,task的执行就会暂停并释放执行线程给event loop,event loop接着会获取下一个待执行的coroutine,并进行相关的初始化之后,执行这个task;

随着event loop执行完队列中的最后一个coroutine才会切换到第一个coroutine;

随着task的执行结束,event loops会将task清除出队列,对应的执行结果会同步到future中,这个过程会持续到所有的task执行结束;

三、顺序执行多个可重叠的任务

每个任务执行中间会暂停给定的时间,循序执行的时间就是每个任务执行的时间加和;

import timedef count_down(name, delay):indents = (ord(name) - ord('A')) * '\t'n = 3while n:time.sleep(delay)duration = time.perf_counter() - startprint('-' * 40)print(f'{duration:.4f} \t{indents}{name} = {n}')n -= 1start = time.perf_counter()count_down('A', 1)
count_down('B', 0.8)
count_down('C', 0.5)
print('-' * 40)
print('Done')# ----------------------------------------
# 1.0010 	A = 3
# ----------------------------------------
# 2.0019 	A = 2
# ----------------------------------------
# 3.0030 	A = 1
# ----------------------------------------
# 3.8040 		B = 3
# ----------------------------------------
# 4.6050 		B = 2
# ----------------------------------------
# 5.4059 		B = 1
# ----------------------------------------
# 5.9065 			C = 3
# ----------------------------------------
# 6.4072 			C = 2
# ----------------------------------------
# 6.9078 			C = 1
# ----------------------------------------
# Done

四、异步化同步代码

python在语法上提供了async、await两个关键字来简化将同步代码修改为异步;

async使用在函数的def关键字前边,标记这是一个coroutine函数;

await用在conroutine里边,用于标记需要暂停释放执行流程给event loops;

await 后边的表达式需要返回waitable的对象,例如conroutine、task、future等;

asyncio模块主要提供了操作event loop的方式;

我们可以通过async将count_down标记为coroutine,然后使用await和asyncio.sleep来实现异步的暂停,从而将控制权交给event loop;

async def count_down(name, delay, start):indents = (ord(name) - ord('A')) * '\t'n = 3while n:await asyncio.sleep(delay)duration = time.perf_counter() - startprint('-' * 40)print(f'{duration:.4f} \t{indents}{name} = {n}')n -= 1

我们定义一个异步的main方法,主要完成task的创建和等待任务执行结束;

async def main():start = time.perf_counter()tasks = [asyncio.create_task(count_down(name,delay,start)) for name, delay in [('A', 1),('B', 0.8),('C', 0.5)]]await asyncio.wait(tasks)print('-' * 40)print('Done')

执行我们可以看到时间已经变为了执行时间最长的任务的时间了;

asyncio.run(main())# ----------------------------------------
# 0.5010 			C = 3
# ----------------------------------------
# 0.8016 		B = 3
# ----------------------------------------
# 1.0011 	A = 3
# ----------------------------------------
# 1.0013 			C = 2
# ----------------------------------------
# 1.5021 			C = 1
# ----------------------------------------
# 1.6026 		B = 2
# ----------------------------------------
# 2.0025 	A = 2
# ----------------------------------------
# 2.4042 		B = 1
# ----------------------------------------
# 3.0038 	A = 1
# ----------------------------------------
# Done

五、使用多线程克服具体任务的异步限制

异步编程要求具体的任务必须是coroutine,也就是要求方法是异步的,否则只有任务执行完了,才能将控制权释放给event loop;

python中的concurent.futures提供了ThreadPoolExecutor和ProcessPoolExecutor,可以直接在异步编程中使用,从而可以在单独的线程或者进程至今任务;

import time
import asyncio
from concurrent.futures import ThreadPoolExecutordef count_down(name, delay, start):indents = (ord(name) - ord('A')) * '\t'n = 3while n:time.sleep(delay)duration = time.perf_counter() - startprint('-'*40)print(f'{duration:.4f} \t{indents}{name} = {n}')n -=1async def main():start = time.perf_counter()loop = asyncio.get_running_loop()executor = ThreadPoolExecutor(max_workers=3)fs = [loop.run_in_executor(executor, count_down, *args)  for args in [('A', 1, start), ('B', 0.8, start), ('C', 0.5, start)]]await asyncio.wait(fs)print('-'*40)print('Done.')asyncio.run(main())# ----------------------------------------
# 0.5087 			C = 3
# ----------------------------------------
# 0.8196 		B = 3
# ----------------------------------------
# 1.0073 	A = 3
# ----------------------------------------
# 1.0234 			C = 2
# ----------------------------------------
# 1.5350 			C = 1
# ----------------------------------------
# 1.6303 		B = 2
# ----------------------------------------
# 2.0193 	A = 2
# ----------------------------------------
# 2.4406 		B = 1
# ----------------------------------------
# 3.0210 	A = 1
# ----------------------------------------
# Done.

相关内容

热门资讯

云南检察机关对梁志敏涉嫌受贿案...   本报北京7月11日电(记者郭荣荣)记者今天从最高人民检察院了解到,日前,云南省人大监察和司法委员...
低度白酒简史:从“上不了台面”... 2018年,泸州老窖董事长刘淼在日本考察时意外得知:当地年轻人居然认为十几度的清酒度数太高。当时在中...
厦门南平“山盟海誓” “福建,我们来啦!”近日,随着国际旅游达人的热情呼喊,2025“山盟海誓”厦门—南平入境旅游联程合作...
全国托育服务县级覆盖率达98.... 转自:湖州日报  据新华社北京7月11日电(记者  田晓航)2024年我国托育服务县级覆盖率达到98...
【浙商银行FICC·利率债日报... (转自:浙商银行FICC)境内市场今日市场出现久违的波动,收益率小幅低开后,在权益市场拉升和股债跷跷...
行走城市看文脉,当历史风貌与人... 转自:北京日报客户端游客在河北正定古城南城门游览。张晓峰摄河北正定古老韵味触碰现代繁华邵玉姿热浪挡不...
联合国秘书长谴责胡塞武装恢复袭... 来源:中国新闻网 中新社联合国7月11日电 联合国秘书长古特雷斯11日通过发言人发表声明,强烈谴责也...
桥影初筑 天鹅伴工 转自:嘉兴日报   昨天,在秀洲区的秀湖上,跨湖大桥正在紧张施工中;桥下的湖面上,一群黑天鹅游水、觅...
“甩”出来的快乐 N长安镇中心... 转自:南湖晚报   “甩”出来的快乐  N长安镇中心小学404班 马云皓  指导老师 徐陈斐  在一...
“快!把警示牌立起来” 11日,泉州市中心城区普降暴雨,部分地区出现较明显内涝积水。作为泉州市丰泽区有名的城中村,灯星社区乌...