所需GPU内存大小
来源:6-23 TensorFlow-ssd 模型训练-实操(3)

慕少536339
2020-04-28
老师请问训练所需要的GPU内存要多少啊,我在colab上用GPU训练(12GB RAM)中途都会被强行^C掉。请老师指教!
后来甚至用25GB的,结果
Resource exhausted: OOM when allocating tensor with shape[64,256,160,160] and type float on /job:localhost/replica:0/task:0/device:GPU:0 by allocator GPU_0_bfc
写回答
1回答
-
会写代码的好厨师
2020-04-29
GPU 显存11个G完全够用了,你可以吧batchsize调小一点。基础网络选择的什么网络?如果很大的话,把channel减小一些。按照我视频的配置修改,应该没问题的。
00
相似问题