网络编程
位置：首页>> 网络编程>> Python编程>> pytorch 实现cross entropy损失函数计算方式

pytorch 实现cross entropy损失函数计算方式

作者：HawardScut　　发布时间：2022-03-18 00:45:50　

标签：pytorch,nn.MSELoss,损失函数

均方损失函数：

pytorch 实现cross entropy损失函数计算方式

这里 loss, x, y 的维度是一样的，可以是向量或者矩阵，i 是下标。

很多的 loss 函数都有 size_average 和 reduce 两个布尔类型的参数。因为一般损失函数都是直接计算 batch 的数据，因此返回的 loss 结果都是维度为 (batch_size, ) 的向量。

(1)如果 reduce = False，那么 size_average 参数失效，直接返回向量形式的 loss

(2)如果 reduce = True，那么 loss 返回的是标量


a)如果 size_average = True，返回 loss.mean();
b)如果 size_average = False，返回 loss.sum();

注意：默认情况下， reduce = True，size_average = True


import torch
import numpy as np

1、返回向量


loss_fn = torch.nn.MSELoss(reduce=False, size_average=False)


a=np.array([[1,2],[3,4]])
b=np.array([[2,3],[4,5]])

input = torch.autograd.Variable(torch.from_numpy(a))
target = torch.autograd.Variable(torch.from_numpy(b))

这里将Variable类型统一为float()（tensor类型也是调用xxx.float()）


loss = loss_fn(input.float(), target.float())

print(loss)

tensor([[ 1., 1.],
 [ 1., 1.]])

2、返回平均值


a=np.array([[1,2],[3,4]])
b=np.array([[2,3],[4,4]])

loss_fn = torch.nn.MSELoss(reduce=True, size_average=True)

input = torch.autograd.Variable(torch.from_numpy(a))
target = torch.autograd.Variable(torch.from_numpy(b))

loss = loss_fn(input.float(), target.float())

print(loss)

tensor(0.7500)

来源：https://blog.csdn.net/hao5335156/article/details/81029791

0
投稿

猜你喜欢

手机版 网络编程 asp之家 www.aspxhome.com