保存到数据库表只有一条数据,主键值全都一样

来源:4-21 数据插入主键冲突的解决方法

御剑魁拔

2020-01-10

不管是同步还是异步,保存到数据库表只有一条数据,数据不停的重复更新同一个记录,url_object_id主键值也相同,主键冲突解决的方法也用了,不知道怎么回事

写回答

2回答

御剑魁拔

提问者

2020-01-11

yield Request(url=parse.urljoin(response.url,
              "/NewsAjax/GetAjaxNewsInfo?contentId={}".format(post_id)),
              meta = {"article_item":item_loader,"url":response.url},
              callback=self.parse_nums)

找到错误了,meta里面“url":reponse.url 没有写,url没有赋值,也就不能转换成url_object_id

1
0

御剑魁拔

提问者

2020-01-11

//img.mukewang.com/szimg/5e195f880999589310230719.jpg

数据库表把主键换了,可以正常爬取了,不过url_object_id都是重复的

1
1
bobby
好的,
2020-01-12
共1条回复

Scrapy打造搜索引擎 畅销4年的Python分布式爬虫课

带你彻底掌握Scrapy,用Django+Elasticsearch搭建搜索引擎

5829 学习 · 6293 问题

查看课程