课程6-4 调试拉钩网爬取url,response为302重定向为登录页面,没有进入调用callback函数parse_item,提取不到后续url

来源:7-4 Rule和LinkExtractor使用

慕仔0239935

2017-08-27

http://szimg.mukewang.com/59a2cc0e0001d5e717830829.jpg

写回答

1回答

bobby

2017-08-28

亲 这是被怀疑为爬虫 然后重定向你去登录了 就不会进入parse_detail了 你可以适当限制一下爬虫速度

0
10
bobby
回复
慕尼黑530398
你说的请求头是什么? 可以在组件中设置
2017-12-04
共10条回复

Scrapy打造搜索引擎 畅销4年的Python分布式爬虫课

带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎

5829 学习 · 6293 问题

查看课程