浅谈pytorch torch.backends.cudnn设置作用
作者：慢行厚积 发布时间：2022-06-20 16:25:06
标签：pytorch,torch.backends.cudnn
cuDNN使用非确定性算法，并且可以使用torch.backends.cudnn.enabled = False来进行禁用
如果设置为torch.backends.cudnn.enabled =True，说明设置为使用使用非确定性算法
然后再设置：
torch.backends.cudnn.benchmark = true
那么cuDNN使用的非确定性算法就会自动寻找最适合当前配置的高效算法，来达到优化运行效率的问题
一般来讲，应该遵循以下准则：
如果网络的输入数据维度或类型上变化不大，设置 torch.backends.cudnn.benchmark = true 可以增加运行效率；
如果网络的输入数据在每次 iteration 都变化的话，会导致 cnDNN 每次都会去寻找一遍最优配置，这样反而会降低运行效率。
所以我们经常看见在代码开始出两者同时设置：
torch.backends.cudnn.enabled = True
torch.backends.cudnn.benchmark = True
来源：https://www.cnblogs.com/wanghui-garcia/p/11514502.html
0
投稿猜你喜欢
- 1、通过requests.get方法r = requests.get("http://200.20.3.20:8080/job/C
- 1、说明Python实现异步IO非常简单，asyncio是Python 3.4版本引入的标准库，直接内置了对异步IO的支持。asyncio的
- python 利用pywifi模块实现连接网络破解wifi密码实时监控网络，具体内容如下：import pywififrom pywifi
- 这里介绍一个nii文件保存为png格式的方法。这篇文章是介绍多个nii文件保存为png格式的方法：https://www.jb51.net/
- from http://www.devshed.com/c/a/MySQL/Error-Handling-Examples/ Error H
- 错误出现：导入数据时出现“SqlDateTime 溢出。必须介于 1/1/1753 12:00:00 AM 和 12/31/9999 11:
- 这篇文章主要介绍了python global和nonlocal用法解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学
编辑距离编辑距离（Edit Distance），又称Levenshtein距离，是指两个字串之间，由一个转成另一个所需的最少编辑操作次数。编- 一、关于exists查询explain select * from vendor where EXISTS(select * from ar
- execjs 使用有了selenium+Chrome Headless 加载页面为什么还要用execjs来运行js？selenium+Chr
- 问题：例如我们要选从不同省份选取一个号码，每个省份的权重不一样，直接选随机数肯定是不行的了，就需要一个模型来解决这个问题。简化成下面的问题：
- 概念softmax函数是常用的输出层函数，常用来解决互斥标签的多分类问题。当然由于他是非线性函数，也可以作为隐藏层函数使用反向传播求导可以看
- python2.7安装目录下没有Scripts文件夹。这种问题可能是你装的python安装包年代久远了，到官网下载最新的python2.7安
- 问题描述最近产品提出一个需求，说是做表格呈现统计数据，不过数据源是来自两个地方的，所以需要做两个表格去呈现数据，同时在表格最后统计数据。效果
- 如下所示：l = [1, 2, 3, 5]l_one = [2, 8, 6, 10]print set(l) & set(l_one
- 已经有很多年不使用SQLServer了，毕竟商业版本是个收费的，安装也不容易。最近因为想带领学生学习做个练习性的项目，参考了.net下的pe
- 阅读目录一般而言，当我们需要某些功能的模块时（无论是内置模块或自定义功能的模块），可以通过import module 或者 from * i
- 在运行复杂的Python程序时，执行时间会很长，这时也许想提高程序的执行效率。但该怎么做呢？首先，要有个工具能够检测代码中的瓶颈，例如，找到
- 本文实例讲述了php面象对象数据库操作类。分享给大家供大家参考。具体实现代码如下：//此处构造一个数据库操作类，封装所有数据库操作 //可以
- 简介虽然使用Explain不能够马上调优我们的SQL，它也不能给予我们一些调整建议，但是它能够让我们了解MySQL 优化器是如何执行SQL
