如何处理数据获取中断问题

来源:3-1 根据项目需求设计mysql数据库结构

慕后端0509175

2019-09-14

在获取数据时,即使使用了代理,进行了异常捕获,但是程序还是中断,在实际爬虫开发中,数据抓取应该是可持续的,如果时间不是那么紧,可以每天抓取一点,但要是一次获取大量数据而中断,这个该怎么来处理?

写回答

1回答

慕后端0509175

提问者

2019-09-14

当然,一方面在开发中,使用定时任务持续获取数据也是可以的,但是这个时间是多长还需要测试。

0
0

Python爬虫实战数据可视化分析

网站数据收集分析必备技能

3982 学习 · 115 问题

查看课程