拉勾网一直返回空列表

来源:16-1 scrapyd部署scrapy项目

归根结底不优秀

2019-06-10

图片描述

写回答

2回答

归根结底不优秀

提问者

2019-06-11

老师,我是先用scrapy抓,然后一直返回的是空列表,才用shell来试一试的

0
1
bobby
有没有设置过 user-agent?
2019-06-11
共1条回复

bobby

2019-06-11

//img.mukewang.com/szimg/5cff0eec0001114617670478.jpg 这里已经说得比较清楚了,拉钩判断到你这是脚本抓取的 没有给你返回html,所以你解析就没有用了,最好使用requests请求,scrapy shell对于一些简单的url返回没问题,对于一些加了反爬的 最好还是使用requests去模拟请求

0
0

Scrapy打造搜索引擎 畅销4年的Python分布式爬虫课

带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎

5796 学习 · 6290 问题

查看课程