浅谈pytorch torch.backends.cudnn设置作用
作者：慢行厚积 发布时间：2022-06-20 16:25:06
标签：pytorch,torch.backends.cudnn
cuDNN使用非确定性算法，并且可以使用torch.backends.cudnn.enabled = False来进行禁用
如果设置为torch.backends.cudnn.enabled =True，说明设置为使用使用非确定性算法
然后再设置：
torch.backends.cudnn.benchmark = true
那么cuDNN使用的非确定性算法就会自动寻找最适合当前配置的高效算法，来达到优化运行效率的问题
一般来讲，应该遵循以下准则：
如果网络的输入数据维度或类型上变化不大，设置 torch.backends.cudnn.benchmark = true 可以增加运行效率；
如果网络的输入数据在每次 iteration 都变化的话，会导致 cnDNN 每次都会去寻找一遍最优配置，这样反而会降低运行效率。
所以我们经常看见在代码开始出两者同时设置：
torch.backends.cudnn.enabled = True
torch.backends.cudnn.benchmark = True
来源：https://www.cnblogs.com/wanghui-garcia/p/11514502.html
0
投稿猜你喜欢
- 问题：需要循环获取网元返回的某个参数，并计算出平均值。解决方案：通过expect解决返回More的问题。通过具体的参数位置，精确获取到参数。
- 对大家推荐很好使用的MySql节点系统，像让大家对MySql节点系统有所了解，然后对MySql节点系统全面讲解介绍，希望对大家有用在向大家详
python使用qq邮箱（个人邮箱）发送邮件需开启qq邮箱的SMTP服务在设置中开启pop3/SMTP服务，返回的密码就是之后代码中登录使用- 很有趣的招聘方式和题目：以下是该次招聘前端开发工程师的聘题解答：小贤是一条可爱的小狗(Dog)，它的叫声很好听(wow)，每次看到主人的时候
- MySQL存储过程SAVEPOINT ROLLBACK to示例如下：DELIMITER $$DROP PROCEDURE IF EXIST
- 原型扩展：>> String.prototype :String对象原型扩展 --------------
- asyncio介绍熟悉c#的同学可能知道，在c#中可以很方便的使用 async 和 await 来实现异步编程，那么在p
- 目前，我们要在网页中使用圆角效果，总是通过切图然后嵌套很多div，用背景来实现圆角效果。对于前端开发工程师来说，圆角的确是一个让人又爱又恨的
- 文件名：Awa_temp.Class.asp 代码如下:<％ 'Crazy蛙!模板操作类 '作者C
- 昨天在看别人blog的时候发现DW有这么一个东西。叫做代码片断。我们可以将常用的css定义写一个代码片断。保存在DW中，作为公用库。当再次写
- 虽然现在的GMail已经看不到这个效果，但之前那个可爱的深红色Loading仍然让许多人喜爱。我也将这款效果融入了我自己的WordPress
- 如下：counter.htm＜a href=counter.asp?save=123&url=http://127.0.0
- 本文实例讲述了python实现简单ftp客户端的方法。分享给大家供大家参考。具体实现方法如下：#!/usr/bin/python# -*-
- 一、背景希望根据企业名称查询其经纬度，所在的省份、城市等信息。直接将企业名称传给百度地图提供的API，得到的经纬度是非常不准确的，因此希望获
- 首先我们要在邮箱的设置中开通那个POP3然后我们要导入这些包import poplibfrom datetime import dateti
- Windows客户端业务群产品营销主管斯蒂芬最近在向记者示范Internet Explorer 8 Beta2版浏览器的技术特征时标识,与用
- 如下所示：# coding:utf-8import osfrom PIL import Image# bmp 转换为jpgdef bmpTo
- 目前市面上成熟的CMS产品有很多，无外乎两种解决方案：第一种就是用XSL+XML的方式来实现客户端具体数据；第二种是生成HTML或者SHTM
- 首先，必须有错误继续进行的声明On Error Resume Next 然后尝试简历jmail实例： Dim JMail Set JMail
- 这篇文章主要介绍了python主线程与子线程的结束顺序实例解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,
