python中torch.nn.identity()方法详解
作者：sigmoidAndRELU 发布时间：2021-05-21 16:51:01
标签：python,torch.nn.identity()
先看代码
m = nn.Identity(
54,
unused_argument1=0.1,
unused_argument2=False
)
input = torch.randn(128, 20)
output = m(input)
>>> print(output.size())
torch.Size([128, 20])
这是官方文档中给出的代码，很明显，没有什么变化，输入的是torch，输出也是，并且给定的参数似乎并没有起到变化的效果。
看源码
class Identity(Module):
r"""A placeholder identity operator that is argument-insensitive.
Args:
args: any argument (unused)
kwargs: any keyword argument (unused)
Examples::
>>> m = nn.Identity(54, unused_argument1=0.1, unused_argument2=False)
>>> input = torch.randn(128, 20)
>>> output = m(input)
>>> print(output.size())
torch.Size([128, 20])
"""
def __init__(self, *args, **kwargs):
super(Identity, self).__init__()
def forward(self, input: Tensor) -> Tensor:
return input
这相当的简洁明了啊，输入是啥，直接给输出，不做任何的改变。再看文档中的一句话：A placeholder identity operator that is argument-insensitive.
翻译一下就是：不区分参数的占位符标识运算符。百度翻译，其实意思就是这个网络层的设计是用于占位的，即不干活，只是有这么一个层，放到残差网络里就是在跳过连接的地方用这个层，显得没有那么空虚！
应用
例如此时：如果此时我们使用了se_layer，那么就SELayer(dim)，否则就输入什么就输出什么（什么都不做）
来源：https://blog.csdn.net/TTLoveYuYu/article/details/118224298
0
投稿猜你喜欢
作为一位不懂代码的业余网页制 * 好者，常常羡慕专业程序人员在浏览器中编制出的效果超酷的一些多媒体作品。唉，无奈程序那东东，酶涩南学，非一日之- 本文实例讲述了Symfony2框架表单用法。分享给大家供大家参考，具体如下：对于一个Web开发者来说，处理HTML表单是一个最为普通又具挑战
- 一套javascript摇奖程序，随机6+1选号码，类似游戏彩票摇奖效果，实时滚动。截图：<style>.inp{ width:
- 在第1章项目结构分析中，我们提到Startup.cs作为整个程序的入口点，等同于传统的Global.asax文件，即：用于初始化系统级的信息
- 1.断点调试是啥？难不难？断点调试其实并不是多么复杂的一件事，简单的理解无外呼就是打开浏览器，打开sources找到js文件，在行号上点一下
- '创建DOM对象set objDom=server.CreateObject("MicroSoft.XMLDom"
- 先谈一下面包屑的由来：很久很久以前，在大森林的边上住着一个贫穷的樵夫，他妻子和两个孩子与他相依为命。他的儿子名叫汉赛尔，女儿名叫格莱特。后来
- 在SQL Server中进行开发会让你身处险地，并且寻找快速解决方案。我们编辑了前十名关于SQL Server开发的常见问题。对常见的针对表
- 1.简介celery(芹菜)是一个异步任务队列/基于分布式消息传递的作业队列。它侧重于实时操作，但对调度支持也很好。celery用于生产系统
- 我们平日办公时用得最多的软件是Execl、Word或WPS Office等，你的计算机中一定储存着大量的XLS、DOC、WPS文件吧！网页制
- 你一定很喜欢像QQ或者MSN好友登录提示的效果吧，那么怎么样能在网页中实现呢？asp之家为大家找到了这
- Tracert 命令跟踪路由原理是IP路由每经过一个路由节点TTL值会减一，假设TTL值=0时数据包还没有到达目标主机，那么该路由则会回复给
- 如何用表单在线建立目录？很简单，两个文件就搞定了：creatfolder.htm' 表单文件<form n
- 我们可用正规表达式来寻找并替换URL和邮件地址为活动的超级链接。用到的主要函数就是InsertHyperlinks(inText)，语法为：
- 在开发高并发系统时有三把利器用来保护系统：缓存、降级和限流!为了保证在业务高峰期，线上系统也能保证一定的弹性和稳定性，最有效的方案就是进行服
- linux平台及windows平台mysql重启方 * inux下重启MySQL的正确方法：1、通过rpm包安装的MySQLservice m
- 富文本编辑器，Rich Text Editor, 简称 RTE, 它提供类似于 Microsoft Word 的编辑功能，容易被不会编写 H
- 在SQL Server数据库中，主要是通过角色来继承相关的权限。但是，这个权限继承很容易造成权限上的冲突。如现在有个销售员账户SALE1，有
- 在网上查了部分资料但是发现粘上去的代码都存在问题，无奈只好自己修改了一下，代码如下： 如下代码能正常运行，都是网上查找资料最后拼凑总结出来的
- DOM遍历基于ID、元素类型、类名查找元素非常有用，但是如果你想基于它在DOM树中的位置来查找元素该怎么办？换句话说，你有一个给定的元素，你
