人工智能学习pyTorch的ResNet残差模块示例详解
作者:Swayzzu 发布时间:2022-05-04 21:45:22
标签:pyTorch,ResNet,人工智能,残差模块
1.定义ResNet残差模块
一个block中,有两个卷积层,之后的输出还要和输入进行相加。因此一个block的前向流程如下:
输入x→卷积层→数据标准化→ReLU→卷积层→数据标准化→数据和x相加→ReLU→输出out
中间加上了数据的标准化(通过nn.BatchNorm2d实现),可以使得效果更好一些。
①各层的定义
②前向传播
在前向传播中输入x,过程中根据前向流程,调用上面定义的层即可。
如此,便定义好了一个残差的模块。
2.ResNet18的实现
此处的ResNet18并没有涉及到太多细节,只是一个大致的内容。
在初始化的时候,定义好所需要使用的模块,根据上面定义好的残差模块,调用即可。在这里使用了4次残差模块,将通道数从输入的3(也就是RGB),变成了512通道。也就是最终提取的高级特征。提取完特征,直接输入给Linear方法,得到图片在10种图片类型上的结果,用于预测以及损失值的求解。
①各层的定义
②前向传播
同样的,调用上面定义好的层,根据流程传播即可。
3.测试ResNet18
如下图,输入的是2张图,RGB,长宽均是32的数据。
通过ResNet18之后,输出的是2张图,每张图对应10种类型的不同取值logits。
过程中的通道数目的转换如下面的结果所示:3→64→128→256→512→512
过程中的尺寸转换,根据设置的卷积核,以及步长,会有不同的结果。但总体都是为了得到更高级的特征,最终输入全连层,得到Logits。
来源:https://blog.csdn.net/Swayzzu/article/details/121156605


猜你喜欢
- if (reValue== undefined){ alert("undefin
- Python 功能真的很强,强大到让人吃惊,它能做的事囊括爬虫、数据分析、数据可视化、游戏等等各方面,这些功能在实际的使用中应用广泛,开发程
- 首先贴出四种方法适用范围比较:注释:Excel 2003 即XLS文件有大小限制即65536行256列,所以不支持大文件。而Excel 20
- 第一列按照goodsid局部分组,然后在分组后的记录中按照audittime升序排序得到序号,从而显示某商品得第几次变迁。 第二列是取该商品
- Java Java 是由 Sun 公司开发而成的一种编程语言,利用 Jave 写成的小程序叫做 Java
- 诈尸人口回归。这一年忙着灌水忙到头都掉了,最近在女朋友的提醒下终于想起来博客的账号密码,正好今天灌水的时候需要画一个双X轴双Y轴的图,研究了
- 引子使用Django在服务器端写了一个API,返回一个JSON数据。使用Ajax调用该API:<!DOCTYPE HTML>&l
- 1、DOMWEB标准现在可真是热门中热门,不过下面讨论的是一个不符合标准的document.all[]。DOM--DOCUMENTOBJEC
- 介绍:细处着手,巧处用功。高手和菜鸟之间的差别就是:高手什么都知道,菜鸟知道一些。电脑小技巧收集最新奇招高招,让你轻松踏上高手之路。 摘 要
- 介绍RANGE分区基于一个给定的连续区间范围,早期版本RANGE主要是基于整数的分区。在5.7版本中DATE、DATETIME列也可以使用R
- 前言MySQL是关系性数据库中的一种,查询功能强,数据一致性高,数据安全性高,支持二级索引。但性能方面稍逊于非关系性数据库,特别是百万级别以
- 本文实例讲述了python socket多线程通讯方法。分享给大家供大家参考,具体如下:#!/usr/bin/evn python"
- 监听select2的值改变进行查询由于前端项目使用的是Vue.js和bootstrap整合开发,中间用到了select2下拉框,今天在做查询
- logconfig.json{ "version":1, "disable_existing_loggers&
- adodb.stream对象的方法/属性cancel 方法使用方法如下object.cancel说明:取消执行挂起的异步 execute 或
- CONVERT函数用于将值转换为指定的数据类型或字符集1.转换指定字符集CONVERT函数用于将字符串expr的字符集变成transcodi
- 本文实例讲述了Python画柱状统计图操作。分享给大家供大家参考,具体如下:一、工具:python的matplotlib.pyplot 库二
- 图形化验证码生成和验证功能介绍在使用用户名和密码登录功能时,需要填写验证码,验证码是以图形化的方式进行获取和展示的。验证码使用原理验证码的使
- 本文主要介绍了python中读取和查看图片的6种方法,分享给大家,具体如下:file_name1='test_imgs/spect/
- 百度OCR体验地址:https://ai.baidu.com/tech/imagerecognition/general腾讯OCR体验地址: