我想请问怎么爬取多页的内容

来源:2-8 爬取当当网的数据

慕粉3414773

2020-08-14

好像京东,当当的书籍不只这么多本,不知道怎么匹配页码,全部爬取啊

写回答

1回答

NavCat

2020-08-15

这种要去分析你的目标网站,数据绝大部分都是通过分页的方式加载的,每页加载N条数据,分析找到这个规律后,就可以爬取全部数据了。

拿京东的举例,先开打开浏览器的调试模式,在最底部,有分页,点击分页时,在浏览器右侧可以看到请求。

我们对比每一个请求的参数不难发现,page参数就是分页的参数之一。

//img.mukewang.com/szimg/5f37f51f09d0c54919210960.jpg

0
0

手把手教你把Python应用到实际开发 不再空谈语法

学会项目开发思路,掌握Python高阶用法。

1341 学习 · 244 问题

查看课程