scrapy的高并发是如何实现的
来源:11-3 协程在爬虫服务的应用
慕婉清7405387
2021-02-26
crapy 里面有没有协程呢? 在start_urls 使用的是多线程? 那scrapy 里面的yield 又如何解释?
写回答
1回答
-
咚咚呛
2021-02-28
在scrapy框架里面,当然是支持协程的,可以直接使用python的async、await来定义协程并交由框架进行调度。而yield的作用可课程中介绍的是一样的,让出CPU,由外部进行调度。
希望对你有所帮助。
00
相似问题
请问这10个进程的并发或者并行状态?
回答 1
关于Python大数据平台开发的问题请教
回答 1