分布式爬虫

来源:8-11 分布式爬虫的架设(下)

qq_慕函数4181556

2023-03-26

老师你好,分布式爬虫在部署的时候 可不可以一台服务器上部署很多个工作者爬虫,然后再拿一台服务器单独部署一个任务发布爬虫。还是必须要一台机器 一个工作者爬虫?
写回答

1回答

小布_老师

2023-03-28

分布式爬虫的框架优势,就是可以随意拓展。

你可以自由控制服务器的数量,需要的时候可以增加服务器,没任务可以减少服务器。

这里的一台电脑部署,是因为方便,而且小规模,单台服务器就够了。

0
0

Python高级爬虫实战-系统掌握破解反爬技能 挑战高薪

加密破解、逆向重构、分布式框架及海量存储方案

494 学习 · 105 问题

查看课程