spider执行完后如何关闭所有浏览器?
来源:4-18 mysql表结构设计
Long3ck
2020-12-28
spider执行完后如何关闭所有浏览器?
我现在爬完后,总有一个进程没关闭
百度到下面这个,这个是要加到哪里?
.
spider里还是middlewares?
写回答
1回答
-
bobby
2020-12-31
你如果是想某一个请求完成以后就关闭浏览器 那么在middleware中完成,但是如果接下来你还有其他 的url需要请求吗那么你得重新开启一个chrome,如果你是整个抓取过程中都要chrome 那么就在spider的close方法中关闭
00
相似问题
如何控制爬虫爬取的速度
回答 1
每检测一次,都会启动一个谷歌浏览器
回答 1