关于Item数据错误问题

来源:9-10 scrapy的数据收集

慕后端4419857

2020-04-15

老师,您好。
我的项目在爬取文章时出现了这样一个错误,好几条数据的某一个字段值是一样的,如下图:
图片描述

我的代码如下:
图片描述

经过我的研究,我发现这几条数据中,只有第一条数据这个字段有返回,其余几条 没有返回这个字段,导致后边几个字段沿用了第一条返回的值。

下图是我搜的这个字段,8条数据只有一个有返回值:

图片描述

pipline.py中的代码:
图片描述

请问老师,我应该怎么改呢?

写回答

1回答

bobby

2020-04-16

你可以看看这些重复的item中的url是不是同一个url?

0
2
bobby
回复
慕后端4419857
好的,
2020-04-19
共2条回复

Scrapy打造搜索引擎 畅销4年的Python分布式爬虫课

带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎

5796 学习 · 6290 问题

查看课程