from_crawler类方法的疑问

来源:8-5 通过downloadmiddleware随机更换user-agent - 2

慕后端4419857

2020-11-24

图片描述
老师,请问from_crawler 是可以在 spiders 、middlewares和pipelines中任意使用吗? 如果都可以用,它到底是哪个类的类方法?

写回答

1回答

bobby

2020-11-26

这里的类方法定义在randomuseragentmiddleware中的话 那么就需要使用randomuseragentmiddleware来访访问,即使是spider中能访问也是在spider中找到对应的randomuseragentmiddlewar并调用from_crawler方法

0
0

Scrapy打造搜索引擎 畅销4年的Python分布式爬虫课

带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎

5796 学习 · 6290 问题

查看课程