训练ssd模型时报错

来源:6-22 TensorFlow-ssd 模型训练-实操(2)

baoxiang777

2019-07-10

老师您好,我想请问一下,在训练时报下列错误应该怎么办?OOM when allocating tensor with shape[64,128,160,160] and type float。我查了一下网上说是显卡显存容纳不了这么多数据,但是我不知道改哪里的代码。
或者可以提供一下您训练完的frozen_inference_graph.pb文件让我进行一下测试和用于之后的小程序编程嘛
已找到!

写回答

1回答

会写代码的好厨师

2019-07-25

显卡容量不够的话,首先考虑减小batchsize,然后,在考虑减少主干网络的大小,这个该起来都比较复杂,可以qq联系我,告诉你怎么改。另外,你的显卡是多少?一定要注意的是模型改太小会影响性能。

2
1
baoxiang777
非常感谢!
2019-08-08
共1条回复

Python3+TensorFlow打造人脸识别智能小程序

理论与实战项目双管齐下,让AI技术真正落地应用,适合毕设展示。

1095 学习 · 538 问题

查看课程