python编写softmax函数、交叉熵函数实例
作者：ChunxueShi 发布时间：2023-11-24 07:08:11
标签：python,softmax,交叉熵
python代码如下：
import numpy as np
# Write a function that takes as input a list of numbers, and returns
# the list of values given by the softmax function.
def softmax(L):
pass
expL = np.exp(L)
sumExpL = sum(expL)
result = []
for i in expL:
result.append(i*1.0/sumExpL)
return result
python编写交叉熵公式：
import numpy as np
def cross_entropy(Y, P):
Y = np.float_(Y)
P = np.float_(P)
return -np.sum(Y * np.log(P) + (1 - Y) * np.log(1 - P))
补充知识：分类时，为什么不使用均方误差而是使用交叉熵作为损失函数
MSE（均方误差）对于每一个输出的结果都非常看重，而交叉熵只对正确分类的结果看重。
例如：在一个三分类模型中，模型的输出结果为（a,b,c)，而真实的输出结果为(1,0,0)，那么MSE与cross-entropy相对应的损失函数的值如下：
MSE：
cross-entropy：
从上述的公式可以看出，交叉熵的损失函数只和分类正确的预测结果有关系，而MSE的损失函数还和错误的分类有关系，该分类函数除了让正确的分类尽量变大，还会让错误的分类变得平均，但实际在分类问题中这个调整是没有必要的。
但是对于回归问题来说，这样的考虑就显得很重要了。所以，回归问题熵使用交叉上并不合适。
来源：https://blog.csdn.net/shichunxue/article/details/89350704
0
投稿猜你喜欢
vue转react useEffectuseEffect用于处理组件中的effect，通常用于请求数据，事件处理，订阅等相关操作。useEf- 本文实例讲述了PHP闭包定义与使用。分享给大家供大家参考，具体如下：<?phpfunction getClosure($i){ &nb
- 这篇文章主要介绍了Python命令行click参数用法解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要
- 很简单的代码，记录一下。 import Image image =
- 在使用ros的时候经常会用到rosbag来录制或者回放算法，是个非常有用的工具。rosbag 命令列表命令作用record录制一个包，并且指
- 装饰器本质上是一个 Python 函数或类，它可以让其他函数或类在不需要做任何代码修改的前提下增加额外功能，装饰器的返回值也是一个函数/类对
- 看看这个logo，有些像python的小蛇吧 。这次介绍的数据库codernityDB是纯python开发的。先前用了下tinyDB这个本地
- 最近在用python连接sqlserver读取数据库，读取数据时候在本机电脑正常，但是把程序部署到服务器运行时一直报错“未发现数据源名称并且
- 首先是对一元函数求积分，使用Scipy下的integrate函数：from scipy import integratedef g(x):
- 项目基本目录1.首先定义初始默认的路由routes(router.js文件),vue文件使用import引入可以按需加载import { &
- 1 Pytorch以ONNX方式保存模型 def saveONNX(model, filepath): ''&#
- 几个星期前，SQL Server 2016的最新CTP版本已经发布了：CTP 2.4(目前已经是CTP 3.0)。关于SQL Server
- 安装QT时在VS2019扩展里面下载QT工具时下载就一直卡在开始,如图: 网上搜索的一些改host和关ipv6的方法试了之后也没有
- 背景：准备给长辈买个手机，有关手机大小，网购平台基本只有手机尺寸和分辨率的文本数据，因而对手机屏幕大小没有直观感受，虽然网上有比较手机大小的
- 刚好前些天有人提到eval()与exec()这两个函数，所以就翻了下Python的文档。这里就来简单说一下这两个函数以及与它们相关的几个函数
- IDEA 插件安装 步骤IDEA里面，选择打开 File --> Settings --> Plugins在Plugins里面,
- 用于加密相关的操作，3.x里代替了md5模块和sha模块，主要提供 SHA1, SHA224, SHA256, SHA384, SHA512
- 1、说明拼接文件路径，可以有多个参数。2、语法os.path.join(path1,path2,*)path1 初始路径。path2 需要拼
- 前两天特意装了一下IETester，用以方便测试，装好后使用发现IE8有两个地方需要大家注意。IE5MAC的过滤器对IE8 Beta 1版同
- 代码之余，将代码过程重要的一些代码段备份一下，如下的代码内容是关于Python从ftp服务器下载文件的的代码，希望能对小伙伴有用途。#cod
