求解, python3.5 的 asyncio 库, async/await 的一些疑惑

async/await 这个协程 异步为什么对磁盘 io 无效?

import asyncio
async def wr1():
# f = open(\’text1.txt\’,\’w\’)
# for x in range(1,39999999):
# f.write(\’12345ddd\’)
# f.close()

f = open(\'text3.txt\',\'r\')
print(f.read())
f.close()

async def wr2():
# f = open(\’text2.txt\’,\’w\’)
# for x in range(1,79999999):
# f.write(\’23456fff\’)
# f.close()

for x in range(1,519999):
	print(\'xx\')

async def wr3():
# f = open(\’text3.txt\’,\’w\’)
# for x in range(1,99999999):
# f.write(\’34567ggg\’)
# f.close()

for x in range(1,919999):
	print(\'yy\')

def demo4():

async def washing1():
    await wr1()

async def washing2():
    await wr2()

async def washing3():
    await wr3()


# 1. 创建一个事件循环
loop = asyncio.get_event_loop()

# 2. 将异步函数加入事件队列
tasks = [
    washing1(),
    washing2(),
    washing3(),
]

# 3. 执行事件队列, 直到最晚的一个事件被处理完毕后结束
loop.run_until_complete(asyncio.wait(tasks))


# 4. 如果不再使用 loop, 建议养成良好关闭的习惯
loop.close()

if name == \’main\’:
start = time()

 demo4()  

end = time()
print(\'elapsed time = \' + str(end - start))

第一段是读取磁盘,第二第三段是打印。按道理遇到 io,dma 交出总线,cpu 就空运转直到有数据才工作,所以 wr1 应该和 2 或 3 一块执行才对的,而实际情况不是这样的,是跟单线程同步执行一样的所需时间

相关文章

29 thoughts on “求解, python3.5 的 asyncio 库, async/await 的一些疑惑

  1. washing1(),washing2(),washing3()不要 await wr1(),wr2(), wr3()这么搞,这样本来就和同步一样了

  2. 首先你得明白协程的概念,不是加个 async 修饰就能叫异步函数的。如果使用了 asyncio,那 io 以及 sleep 等操作,就要使用 asyncio 包内的封装函数。或者使用 executor 。
    你的代码里 open 操作卡死整个线程,导致没法 yield 到其他协程,所以只能顺序执行。

  3. 在异步函数里面调用同步函数还是会阻塞的啊,你得用异步的文件接口。官方库里面没有,得用线程池,或者你自己造。

  4. 这就是 Python 这些语言半路出家搞协程的缺点

    底层很多东西没有异步,不是简单加个 async 关键字就解决问题了

    其实目前绝大部分异步方案都无法做到文件 IO 的异步,都是线程池去模拟的

  5. @lniwn 不懂求解。那就是说,必须是 asyncio 包内封装的函数,例如 asyncio.sleep(3)这种才有用吗?(我也测过,asyncio.sleep 函数的确有效,会快很多,但这不是真的 io 操作啊)。那遇到真的 io 操作如何是好?其实我是想和 tornado 搭配用的。tornado6 不支持 @gen.coroutine 了,必须用 async/await 。我的理解 ioloop 是通过 epoll 的 in out error 非堵塞做到单线程高并发的,遇到 EAGAIN 就用协程继续执行另一段逻辑。不知道这样理解是否有错

  6. @Trim21 不懂求解。
    from tornado.web import RequestHandler
    from tornado import gen
    import tornado.ioloop

    class IndexHandler(RequestHandler):
    def get(self):
    self.write(‘this is index’)

    class BlockingHandler(RequestHandler):
    async def get(self):
    result = await self.dosomething()
    self.write(result)

    async def dosomething(self):
    # 如果是其他处理函数或者逻辑,要保证函数是协程
    await gen.sleep(20)
    return ‘block end’

    app = tornado.web.Application([
    (r”/index”, IndexHandler),
    (r”/blocking”, BlockingHandler)
    ])
    if __name__ == “__main__”:
    app.listen(80)
    tornado.ioloop.IOLoop.instance().start()

    那 async/await 用在 tornado6 上有啥作用呢?一定要 asyncio 内包装的函数才有效。但 IOLoop 已经用 epoll 实现网络 io 复用了。实际应用中,堵塞的不都是磁盘 io 么。那这么做的目的又是啥呢

  7. @fghjghf #10 io 复用和异步 io 是两个概念吧,async/await 是为了解决 io 阻塞,不负责解决 io 是否复用的问题。

  8. @Trim21 但网络 io 的堵塞问题,封装 eopll 的 ioloop 已经帮我们处理了。底层有个队列。socket 非堵塞执行,epollin 和 out 的时候才能寻找对应路由表执行逻辑。EAGAIN 就 modify epoll 的状态,继续执行队列的下一个,如此类推。那就是能走到路由表的 client socket 的网络 io 绝对是可用的。根本不存在堵塞啊。那 tornado 上的 async/await 具体有啥作用呢,不知道我这理解有没有错

  9. @fghjghf #12 这个是 python 语言内的异步。之前 python 同步调用(比如 requests.get )是没法在 io 阻塞的时候让出解释器的。

  10. 没学会走就开始跑就这结果了

    正正经经的把异步编程写几次,什么 select,epoll 多线程都好好用过几次再来折腾协程吧

    别堕落到低端 php 程序员的水准好么

  11. async/await 本质上是对 IO 复用机制的封装,系统提供的 IO 复用不能完成的事情,async/await 也不能实现。比如你想用底层是 epoll 实现的 eventloop 去处理文件 IO 那是不行的,要不就是模拟。
    去读《 Unix 网络编程》吧,回来就会更好地理解这些语法

  12. 官方 group 有讨论过这个问题,由于底层系统不支持,现在的异步本地 io 都是多线程包装的,实际的提升很小,所以 asycio 才没有做这个

  13. — async/await 这个协程 异步为什么对磁盘 io 无效?

    可以看看官网文档,明确说了对磁盘 IO 不支持,他们推荐 `loop.run_in_executor`

  14. 因为 python 的协程本质上是借助 IO 多路复用来实现异步的,磁盘 IO 没有相应的机制和接口

  15. python 的协程就是搞笑的,别花太多心思,底层大部分不支持。比如网络 io,你用 socket 弄到死都不能异步,你得用
    asyncio.open_connection(host,22),

  16. @ipwx 看你跟什么比,你用 go 的,最基础的 net.Conn 就是支持的,python 要是不能让 socket 支持,那异步有个毛用呢,现在这么多库都是基于 socket,得要人家全部重写

  17. @pmispig

    go 新出来了,大家要造新类库,可以这没问题。

    asyncio 新出来了,大家要造新类库,不行这很垃圾。

    不觉得这么评价很奇怪么?

  18. 这需要库专门支持,比如 requests 不行得用 aiohttp
    不像多线程,直接往里面放就行了,多线程该阻塞的还是阻塞,只不过不在一个线程
    协程是阻塞的时候直接转向 loop 里的下一个任务,所以这里面就有一个操作,就是告诉系统你待会儿来找我,
    普通的库并没有这个操作,只会让你等着
    就像买东西,有些人你能打个招呼,待会等做完了来取东西,有些只能等着不能走

  19. @pmispig #26 跟 go 比异步支持那是作死,整个语言设计和运行时设计就是想着异步来的。
    你有本事跟 erlang 比分布式系统啊,go 还要 grpc,那之前用 xmlrpc 的那些是不是都得重写?
    何况这叫协程,一个不接受协调的程序放里面不能如你想象地运作,不是很符合语义吗?

    你需要的是 gevents 吧……

发表评论

电子邮件地址不会被公开。 必填项已用*标注