为什么redis服务会给我返回一个空的结果,导致redis服务关闭

来源:10-9 集成bloomfilter到scrapy-redis中

TT2_X

2018-05-15

运行crawl爬虫,socket返回空字符串,redis服务就关闭了,根本爬取不了呀http://img.mukewang.com/szimg/5afa67ae0001a76911270288.jpg

写回答

8回答

bobby

2018-05-18

  1. 首先你查询的这个值确实在redis中没有吗? 为什么会给你返回空字符串?

  2. 你怎么确定返回空字符串后redis会关闭? client是不太可能有权限去关闭server的,要不然漏洞就太大了。你是返回空字符串以后你就用redis的client去连接测试过吗?

0
7
bobby
回复
TT2_X
增量 定期将需要抓取的页面的首页url重新放入到redis中就行了 记得用优先级队列
2018-05-21
共7条回复

TT2_X

提问者

2018-05-16

request对象序列化保存到redis会不会爆炸

0
0

TT2_X

提问者

2018-05-15

这个问题困扰我一天了

0
0

TT2_X

提问者

2018-05-15

这个到底是redis的错还是bloomfilter的错?


0
0

TT2_X

提问者

2018-05-15

scrapy-redis集成bloomfilter只能在本地127.0.0.1才不会出错,只要连接公网上的会出错,京东云和阿里云都试了,一样的错,这个问题到底怎么解决?


0
0

TT2_X

提问者

2018-05-15

老师我注释你在dupefilter中添加的代码过后就没有报错,但是bloomfilter怎么集成进去

0
0

TT2_X

提问者

2018-05-15

我在本地用redis服务器可以成功运行,在远程连接服务器上的redis的时候会失败,远程的服务的redis我是可以连接成功的,但是就是会出现我所提的问题

0
0

TT2_X

提问者

2018-05-15

我lpush啦

0
0

Scrapy打造搜索引擎 畅销4年的Python分布式爬虫课

带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎

5795 学习 · 6290 问题

查看课程