所需GPU内存大小

来源:6-23 TensorFlow-ssd 模型训练-实操(3)

慕少536339

2020-04-28

老师请问训练所需要的GPU内存要多少啊,我在colab上用GPU训练(12GB RAM)中途都会被强行^C掉。请老师指教!
后来甚至用25GB的,结果
Resource exhausted: OOM when allocating tensor with shape[64,256,160,160] and type float on /job:localhost/replica:0/task:0/device:GPU:0 by allocator GPU_0_bfc

写回答

1回答

会写代码的好厨师

2020-04-29

GPU 显存11个G完全够用了,你可以吧batchsize调小一点。基础网络选择的什么网络?如果很大的话,把channel减小一些。按照我视频的配置修改,应该没问题的。

0
0

Python3+TensorFlow打造人脸识别智能小程序

理论与实战项目双管齐下,让AI技术真正落地应用,适合毕设展示。

1086 学习 · 538 问题

查看课程