关于scrapy中间件

来源:13-2 通过修改scrapy-redis完成增量抓取 -1

慕函数7358036

2020-09-10

老师,scrapy对于处理response的中间件是优先级越大越优没有问题吧,那为什么我自定义的处理429的中间件没有生效,该中间件继承自默认的重试中间件,优先级510,默认重试中间件是500,理论上应该是生效的,可是调试的模式下程序不会在断点处暂停,也没输出我定义的log,是有什么我没考虑到吗

写回答

1回答

bobby

2020-09-11

数字越小优先级越高,

0
4
bobby
回复
慕函数7358036
你留下qq 我加你看看呢
2020-09-13
共4条回复

Scrapy打造搜索引擎 畅销4年的Python分布式爬虫课

带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎

5796 学习 · 6290 问题

查看课程