多显卡如何配置训练？
来源：4-2 Session-Tensor-Operation-Feed-Fetch介绍
WPaulG
2022-10-15
老师，问下如何配置多显卡训练一个任务，比如4张11G的，共同训练一个模型。
写回答
1回答
-
会写代码的好厨师
2022-10-16
这个配置起来比较麻烦，需要用tf的distribute来把训练代码做调整，另外，有有些参数比如学习率也需要做调整。所以，课程暂时没有支持多卡。可以具体了解下，tf的distribute接口。也可以了解下，estimator。不过，单机多卡和多机多卡，我用pytorch 多一些，使用起来很容易，推荐用这个。
012022-10-17
相似问题