不同的爬虫对图片是否加载有不同的要求

来源:7-1 数据表结构设计

穆步思

2018-09-07

多个爬虫,一个爬虫想要加载图片,一个爬虫不想要加载图片,如何设置,能把middleware中对图片是否加载能放到spider中吗

写回答

1回答

bobby

2018-09-10

每个爬虫可以独立设置自己的settings 课程中有讲解过这个知识

0
2
bobby
回复
穆步思
如果是用chrome就不行了,你只有启动多个服务了。因为这个是在selenium启动的时候就设置好了是否需要加载图片了
2018-09-12
共2条回复

Scrapy打造搜索引擎 畅销4年的Python分布式爬虫课

带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎

5813 学习 · 6291 问题

查看课程