对PyTorch中inplace字段的全面理解
作者：冷月葬婲魂 发布时间：2022-11-15 13:52:24
标签：PyTorch,inplace
例如
torch.nn.ReLU(inplace=True)
inplace=True
表示进行原地操作，对上一层传递下来的tensor直接进行修改，如x=x+3；
inplace=False
表示新建一个变量存储操作结果，如y=x+3，x=y；
inplace=True
可以节省运算内存，不用多存储变量。
补充：PyTorch中网络里面的inplace=True字段的意思
在例如nn.LeakyReLU(inplace=True)中的inplace字段是什么意思呢？有什么用？
inplace=True的意思是进行原地操作，例如x=x+5，对x就是一个原地操作，y=x+5,x=y，完成了与x=x+5同样的功能但是不是原地操作。
上面LeakyReLU中的inplace=True的含义是一样的，是对于Conv2d这样的上层网络传递下来的tensor直接进行修改，好处就是可以节省运算内存，不用多储存变量y。
inplace=True means that it will modify the input directly, without allocating any additional output. It can sometimes slightly decrease the memory usage, but may not always be a valid operation (because the original input is destroyed). However, if you don't see an error, it means that your use case is valid.
来源：https://blog.csdn.net/u013382233/article/details/85761805
0
投稿猜你喜欢
最近的一个页面中碰到的，本来想用 border 来模拟设计图的虚线效果，但是很明显 border 效果不如设计图来的好看。顺便研究了下 da- 一直以来，我们大多使用js来实现弹出菜单，可是根据 w3c 的css标准，根本就没有这个必要。只需要简单得使用css+html就可以做出一个
- 上一一节我们讲了while循环，while循环主要用于重复程序的运行，for循环更加倾向于遍历一个项目，即将特定内容（比如一个列表、一个字符
- SpringBoot体系内推荐使用Thymeleaf作为前端页面模板。jsp还得自己整合一下。1.项目结构对比以前的项目结构，main目录下
- 本文实例讲述了python网络编程之读取网站根目录的方法，分享给大家供大家参考。具体实现方法如下：import socket, sys po
- 今天把博客的日历脚本又改了一改，就帖上了，以后找起来方便一点，同时也给需要的人带来方便，本来还想加点功能再帖上来，不过我看还是没必要了，帖的
- 任务1、我的咖啡馆你做主元组coffee_name=('蓝山','卡布奇诺','拿铁',&#
- 在上一篇《服务器XMLHTTP（Server XMLHTTP in ASP）基础》中我介绍了一下ServerX
- 前言在这篇文章 Go Mutex：保护并发访问共享资源的利器 中，主要介绍了 Go 语言中互斥锁 Mutex&
- 最近产品妹子提出了一个体验issue —— 用 iOS 在手Q阅读书友交流区发表书评时，光标点击总是不好定位到正确的位置：如上图，具体表现是
- 背景图像滤波的作用简单来说就是将一副图像通过滤波器得到另一幅图像；明确一个概念，滤波器又被称为卷积核，滤波的过程又被称为卷积；实际上深度学习
- 原来的语句是这样的： select sum(sl0000) from xstfxps2 where dhao00 in ( select d
- 本文实例讲述了python异常处理用法。分享给大家供大家参考，具体如下：之前用Java的时候，在容易出错的地方我们经常使用try…catch
- chat.html <html> <head><title>asp之家-简单聊天&l
- vue框架移动端做ip输入框组件，input在浏览器和微信端兼容问题。要求：只能输入数字，输入数字以外的字符（包括点、冒号等数字符号）时自动
- python的uuid都是32位的，比较长，处理起来效率比较低，本算法利用62个可打印字符，通过随机生成32位UUID，由于UUID都为十六
- 背景：调试服务最好的方式就是直接上机实践。对在公司的员工来说，在同一套服务上协同开发比在单独的环境上开发，应该会更有感觉。有问题可以一起发现
- python3 读取串口数据 demo最近在写一个demo，zigbee串口连接树莓派，树莓派使用串口通信接受zigbee穿过来得值。其中我
- 在移动社交时代，微信已经成为我们生活不可或缺的一部分。2017年的《微信数据报告》中显示：每天有380亿条消息从微信上发出，其中6亿条是语音
- 【1】 以XML 返回 （1）未定义属性的 select logisticsId,logisticsName from LogisticsC
