能不能“显存不够，内存来凑”？

来源：1-1 课程导学

Mr_小祥

2018-09-18

再使用GPU版本的TensorFlow时，发现显存不太够用，但是计算机内存特别特别大。能不能把部分Tensor指定放到内存中？以缓解显存不够的窘境？

写回答

2回答

正十七

2018-09-19

已采纳

Tensorflow是可以设置某些节点放在cpu上的。使用with tf.device('/cpu') 就可以。

Mr_小祥

非常感谢！

2018-09-22

共1条回复

Mr_小祥

提问者

2018-09-18

唉，不用了。手算了一下是我的模型设置不合理，有的节点占用显存不合理的大。所以batch size才没办法设大

正十七

很多时候因为显存问题是不得不把batch size调小的。所以之前我有用过把一张图切成几部分，每一部分放在一个GPU上。比如卷积神经网络，前三层放在GPU0上，中间三层放在GPU1上等。在这里需要注意，就是需要设置把每个变量的train_op放在和变量一样的GPU上。

2018-09-19

共1条回复

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学，深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

相似问题

回答 1

回答 1

回答 1

回答 2

回答 1