爬取lagou时报错无法获取内容

来源:7-7 职位数据入库-1

williamg

2017-07-02

http://szimg.mukewang.com/59590e3d0001ebba05740242.jpg显示重定向,有2个问题 -

1. 是不是被禁爬虫了?该如何解封?

2. 另外再问下,用crawl模板生成的任务中,如何加入header?

写回答

1回答

bobby

2017-07-03

重启家里的路由器 然后ip就会变 直接在yield request(headers=header)

0
2
bobby
回复
williamg
你加我的qq 442421039 我看看
2017-07-10
共2条回复

Scrapy打造搜索引擎 畅销4年的Python分布式爬虫课

带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎

5795 学习 · 6290 问题

查看课程