scrapy的高并发是如何实现的

来源:11-3 协程在爬虫服务的应用

慕婉清7405387

2021-02-26

crapy 里面有没有协程呢? 在start_urls 使用的是多线程? 那scrapy 里面的yield 又如何解释?

写回答

1回答

咚咚呛

2021-02-28

在scrapy框架里面,当然是支持协程的,可以直接使用python的async、await来定义协程并交由框架进行调度。而yield的作用可课程中介绍的是一样的,让出CPU,由外部进行调度。

希望对你有所帮助。

0
0

学透协程/进程/线程 程序员必知必会技能

程序员都需要掌握的高性能开发技术

281 学习 · 55 问题

查看课程