解决Pytorch在测试与训练过程中的验证结果不一致问题
作者：the步履不停shy 发布时间：2022-08-18 03:50:13
标签：Pytorch,测试,训练,结果,不一致
引言
今天在使用Pytorch导入此前保存的模型进行测试，在过程中发现输出的结果与验证结果差距甚大，经过排查后发现是forward与eval()顺序问题。
现象
此前的错误代码是
input_cpu = torch.ones((1, 2, 160, 160))
target_cpu =torch.ones((1, 2, 160, 160))
target_gpu, input_gpu = target_cpu.cuda(), input_cpu.cuda()
model.set_input_2(input_gpu, target_gpu)
model.eval()
model.forward()
应该改为
input_cpu = torch.ones((1, 2, 160, 160))
target_cpu =torch.ones((1, 2, 160, 160))
target_gpu, input_gpu = target_cpu.cuda(), input_cpu.cuda()
model.set_input_2(input_gpu, target_gpu)
# 先forward再eval
model.forward()
model.eval()
当时有个疑虑，为什么要在forward后面再加eval()，查了下相关资料，主要是在BN层以及Dropout的问题。
当使用eval()时，模型会自动固定BN层以及Dropout，选取训练好的值，否则则会取平均，可能导致生成的图片颜色失真。
PyTorch进行训练和测试时一定注意要把实例化的model指定train/eval
使用PyTorch进行训练和测试时一定注意要把实例化的model指定train/eval，eval（）时，框架会自动把BN和DropOut固定住，不会取平均，而是用训练好的值，不然的话，一旦test的batch_size过小，很容易就会被BN层导致生成图片颜色失真极大！！！！！！
eg：
Class Inpaint_Network()
......
Model = Inpaint_Nerwoek()
#train:
Model.train(mode=True)
.....
#test:
Model.eval()
来源：https://blog.csdn.net/weixin_44975887/article/details/103126926
0
投稿猜你喜欢
- # -*- coding: utf-8 -*-import pymysqlimport xlrd# import codecs#连接数据库c
- 这里其实并不需要其它的什么函数来支持，只需要使用MYSQL提供的一些SQL语句就可以了。这里为了简单起见，以MYSQL的系统表USER为例，
- Event是Javascript中的重要事件，event代表事件的状态，专门负责对事件的处理，它的属性和方法能帮助我们完成很多和用户交互的操
- 前言最近发现一个问题，在一次爬虫实战中，需要将字典加入列表中，意外的情况出现了！！！下面简单分析一下出现的状况：list = []dic =
- 使用 Python 进行数据处理的时候，常常会遇到判断一个数是否在一个区间内的操作。我们可以使用 if else 进行判断，但是，既然使用了
- 数据库：30万条，有ID列但无主键，在要搜索的“分类”字段上建有非聚集索引过程T-SQL： /* 用户自定义函数：执行时间在115
昨天对其配置了一天，其配置为Jena 2.4.0，MySQL数据库版本为5.1.42-community，JDK版本为1.6.0，MySQL- 本文实例讲述了JSP基本语句用法。分享给大家供大家参考。具体如下：1>JSP指令JSP指令(Directive)作用是与JSP引擎进行
- 本文实例讲述了Vue指令v-for遍历输出JavaScript数组及json对象的常见方式。分享给大家供大家参考，具体如下：定义数据：<
- 1. Python的文件类型1. 源代码--直接由Python解析vi 1.py #!/usr/bin/pythonprint 'h
- 字符型图片验证码识别完整过程及Python实现的博主，我的大部分知识点都是从他那里学来的。想要识别验证码，收集足够多的样本后，首先要做的就是
- 一、SQL模式SQL的模式匹配允许你使用“_”匹配任何单个字符，而“％”匹配任意数目字符（包括零个字符）。在 MySQL中，SQL的模式缺省
- 我有个MM在网上面安了家，想做一个关于特效的网站。她虽然懂一点网页制作，但是她的机器配置比较低，有时为了反复试验页面上一些特殊效果，而打开D
- 前言：Python 自带了很多的内置函数，极大地方便了我们的开发，下面就来挑几个内置函数，看看底层是怎么实现的。内置函数位于 Python/
- 表一、运算符与特殊字符 运算符描述/选择子元素，返回左侧元素的直接子元素；如果"/"位于最左侧表示选择根结点的直接子元素
- 然后我们在Interactive Python prompt中测试了一下:>>> import subprocess &n
- 1. 列表1.1 复制浅拷贝list_1 = [1, [22, 33, 44], (5, 6, 7), {"name":
- 关于如何获取 access_token 这个可以自己查百度开放的OAuth 2.0 的 API。这里不做介绍。第三方 Python 库pos
- # 源码如下：#!/usr/bin/env python#coding=utf-8import osfrom PIL import Imag
- 本篇文章将带你了解报表自动化的流程，并教你用Python实现工作中的一个报表自动化实战，篇幅较长，建议先收藏，文章具体的目录为：1.Exce
