爬虫的疑问
来源:15-4 单任务版爬虫的架构

鱼右
2018-05-27
老师这里面我直接把Fetcher产生的text直接交给Parser,应该也可以吧!为什么还需要在用Engine进行调度呢
写回答
1回答
-
这是一个设计问题,涉及到解藕。fetch产生的数据应该给谁?其实fetcher不应知道,它的职责就是产生(拉)数据。那么这数据怎么办呢?答案就是由engine交给parser。同理parser也不应知道fetcher在它上游。
212018-05-29
相似问题
后面的章节哪个地方用到了这个算法呢?
回答 2
不知道是不是加入了反爬虫机制
回答 1