这篇文章主要介绍pytorch如何使用单个GPU与多个GPU进行训练与测试，文中介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们一定要看完！

成都创新互联 - 成都二枢机房，四川服务器租用，成都服务器租用，四川网通托管,绵阳服务器托管，德阳服务器托管，遂宁服务器托管，绵阳服务器托管，四川云主机，成都云主机，西南云主机，成都二枢机房，西南服务器托管，四川/成都大带宽，服务器机柜，四川老牌ＩＤＣ服务商

如下所示：

device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")#第一行代码
model.to(device)#第二行代码

首先是上面两行代码放在读取数据之前。

mytensor = my_tensor.to(device)#第三行代码

然后是第三行代码。这句代码的意思是将所有最开始读取数据时的tersor变量copy一份到device所指定的GPU上去，之后的运算都在GPU上进行。需要注意的是这句话并不像前面的两行代码一样只需要写一遍，第三行代码需要写的次数就等于需要保存到GPU上的tensor变量个数；一般情况下这些tensor变量都是最开始读取数据时的tensor变量，后面所衍生的变量自然也都在GPU之上。

以上是使用单个GPU的情况。当你拥有多个GPU时，要想使用多个GPU进行训练和测试，需要在第一二行代码之间插上下面这样一个判断语句，其余的写法也都是一样的。

if torch.cuda.device_count() > 1:
 model = nn.DataParallel(model)

使用多个GPU的原理就是通过上面这句代码将model在每个GPU上分别保存一份，然后对model的输入tensor进行自动的分割，每个GPU计算tensor的一部分，这样就能实现计算量的平均分配。在每个model计算完成之后，DataParallel将这些结果进行收集和融合，之后再将结果返回。

以上是“pytorch如何使用单个GPU与多个GPU进行训练与测试”这篇文章的所有内容，感谢各位的阅读！希望分享的内容对大家有帮助，更多相关知识，欢迎关注创新互联成都网站设计公司行业资讯频道！

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。

新闻标题：pytorch如何使用单个GPU与多个GPU进行训练与测试-创新互联
分享URL：http://cdweb.net/article/dpeeso.html