Keras loss函数剖析
作者:姚贤贤 发布时间:2021-01-24 05:25:27
标签:Keras,loss
我就废话不多说了,大家还是直接看代码吧~
'''
Created on 2018-4-16
'''
def compile(
self,
optimizer, #优化器
loss, #损失函数,可以为已经定义好的loss函数名称,也可以为自己写的loss函数
metrics=None, #
sample_weight_mode=None, #如果你需要按时间步为样本赋权(2D权矩阵),将该值设为“temporal”。默认为“None”,代表按样本赋权(1D权),和fit中sample_weight在赋值样本权重中配合使用
weighted_metrics=None,
target_tensors=None,
**kwargs #这里的设定的参数可以和后端交互。
)
实质调用的是Keras\engine\training.py 中的class Model中的def compile
一般使用model.compile(loss='categorical_crossentropy',optimizer='sgd',metrics=['accuracy'])
# keras所有定义好的损失函数loss:
# keras\losses.py
# 有些loss函数可以使用简称:
# mse = MSE = mean_squared_error
# mae = MAE = mean_absolute_error
# mape = MAPE = mean_absolute_percentage_error
# msle = MSLE = mean_squared_logarithmic_error
# kld = KLD = kullback_leibler_divergence
# cosine = cosine_proximity
# 使用到的数学方法:
# mean:求均值
# sum:求和
# square:平方
# abs:绝对值
# clip:[裁剪替换](https://blog.csdn.net/qq1483661204/article/details)
# epsilon:1e-7
# log:以e为底
# maximum(x,y):x与 y逐位比较取其大者
# reduce_sum(x,axis):沿着某个维度求和
# l2_normalize:l2正则化
# softplus:softplus函数
#
# import cntk as C
# 1.mean_squared_error:
# return K.mean(K.square(y_pred - y_true), axis=-1)
# 2.mean_absolute_error:
# return K.mean(K.abs(y_pred - y_true), axis=-1)
# 3.mean_absolute_percentage_error:
# diff = K.abs((y_true - y_pred) / K.clip(K.abs(y_true),K.epsilon(),None))
# return 100. * K.mean(diff, axis=-1)
# 4.mean_squared_logarithmic_error:
# first_log = K.log(K.clip(y_pred, K.epsilon(), None) + 1.)
# second_log = K.log(K.clip(y_true, K.epsilon(), None) + 1.)
# return K.mean(K.square(first_log - second_log), axis=-1)
# 5.squared_hinge:
# return K.mean(K.square(K.maximum(1. - y_true * y_pred, 0.)), axis=-1)
# 6.hinge(SVM损失函数):
# return K.mean(K.maximum(1. - y_true * y_pred, 0.), axis=-1)
# 7.categorical_hinge:
# pos = K.sum(y_true * y_pred, axis=-1)
# neg = K.max((1. - y_true) * y_pred, axis=-1)
# return K.maximum(0., neg - pos + 1.)
# 8.logcosh:
# def _logcosh(x):
# return x + K.softplus(-2. * x) - K.log(2.)
# return K.mean(_logcosh(y_pred - y_true), axis=-1)
# 9.categorical_crossentropy:
# output /= C.reduce_sum(output, axis=-1)
# output = C.clip(output, epsilon(), 1.0 - epsilon())
# return -sum(target * C.log(output), axis=-1)
# 10.sparse_categorical_crossentropy:
# target = C.one_hot(target, output.shape[-1])
# target = C.reshape(target, output.shape)
# return categorical_crossentropy(target, output, from_logits)
# 11.binary_crossentropy:
# return K.mean(K.binary_crossentropy(y_true, y_pred), axis=-1)
# 12.kullback_leibler_divergence:
# y_true = K.clip(y_true, K.epsilon(), 1)
# y_pred = K.clip(y_pred, K.epsilon(), 1)
# return K.sum(y_true * K.log(y_true / y_pred), axis=-1)
# 13.poisson:
# return K.mean(y_pred - y_true * K.log(y_pred + K.epsilon()), axis=-1)
# 14.cosine_proximity:
# y_true = K.l2_normalize(y_true, axis=-1)
# y_pred = K.l2_normalize(y_pred, axis=-1)
# return -K.sum(y_true * y_pred, axis=-1)
补充知识:一文总结Keras的loss函数和metrics函数
Loss函数
定义:
keras.losses.mean_squared_error(y_true, y_pred)
用法很简单,就是计算均方误差平均值,例如
loss_fn = keras.losses.mean_squared_error
a1 = tf.constant([1,1,1,1])
a2 = tf.constant([2,2,2,2])
loss_fn(a1,a2)
<tf.Tensor: id=718367, shape=(), dtype=int32, numpy=1>
Metrics函数
Metrics函数也用于计算误差,但是功能比Loss函数要复杂。
定义
tf.keras.metrics.Mean(
name='mean', dtype=None
)
这个定义过于简单,举例说明
mean_loss([1, 3, 5, 7])
mean_loss([1, 3, 5, 7])
mean_loss([1, 1, 1, 1])
mean_loss([2,2])
输出结果
<tf.Tensor: id=718929, shape=(), dtype=float32, numpy=2.857143>
这个结果等价于
np.mean([1, 3, 5, 7, 1, 3, 5, 7, 1, 1, 1, 1, 2, 2])
这是因为Metrics函数是状态函数,在神经网络训练过程中会持续不断地更新状态,是有记忆的。因为Metrics函数还带有下面几个Methods
reset_states()
Resets all of the metric state variables.
This function is called between epochs/steps, when a metric is evaluated during training.
result()
Computes and returns the metric value tensor.
Result computation is an idempotent operation that simply calculates the metric value using the state variables
update_state(
values, sample_weight=None
)
Accumulates statistics for computing the reduction metric.
另外注意,Loss函数和Metrics函数的调用形式,
loss_fn = keras.losses.mean_squared_error mean_loss = keras.metrics.Mean()
mean_loss(1)等价于keras.metrics.Mean()(1),而不是keras.metrics.Mean(1),这个从keras.metrics.Mean函数的定义可以看出。
但是必须先令生成一个实例mean_loss=keras.metrics.Mean(),而不能直接使用keras.metrics.Mean()本身。
来源:https://blog.csdn.net/u011311291/article/details/79956195
0
投稿
猜你喜欢
- 由于工作需要,所以前一阵子将IE升级到了8.0,结果今天发现出现一个问题,eWebEditor的在线编辑器不好用了,仔细想想,肯定是IE8搞
- 本文根据最近学习TensorFlow书籍网络文章的情况,特将一些学习心得做了总结,详情如下.如有不当之处,请各位大拿多多指点,在此谢过。一、
- 如果不是因为总监审查严格,一定要求这个细节解决掉,也许我也不会去深究根源性的解决办法,再此感谢MTIME负责而严格的同事。首先描述一下问题:
- 本文实例为大家分享了python openCV实现摄像头获取人脸图片的具体代码,供大家参考,具体内容如下在机器学习中,训练模型需要大量图片,
- //定义编码header( 'Content-Type:text/html;charset=utf-8 ');//Atomh
- 1、卓越亚马逊的首页轮换图片,每刷新一次,都是随机不同的顺序显示,这样的设计解决了对于较多图片轮换而靠后的图片信息很少被看到的问题,这点对于
- 近期对数据库进行巡检,发现数据库业务用户(非 SYS/Public)下存在失效对象。对失效对象进行分析,主要包括失效的视图、物化视图、函数、
- 文件:.wmv;大小:19,535KB;长度:00:26:39。 下载地址:SqlFunction_udf_Week.rar以下内容于201
- 一个不错的js效果,实现了图片预加载,并实时显示图片加载进度。<script> var l=0; var i
- Jinja是组成Flask的模板引擎。可能你还不太了解它是干嘛的,但你对下面这些百分号和大括号肯定不陌生:{% block body %}
- 当你碰到下面的asp错误提示时,说明你asp运行脚本超时了! Active Serv
- 在本文中我们将展示一种新的使用仿CSS选择器的语法来快速开发HTML和CSS的方法。它由Sergey Chikuyonok开发。你在写HTM
- 数据库镜像方案有两种镜像运行模式。一种是“高安全性模式”,它支持同步操作。在高安全性模式下,当会话开
- 前段时日微软(Microsoft)正式发布了.NET Core 2.0,在很多开发社区中反响不错。但还是有一些开发者发出了疑问,.NET C
- 00. 什么是 freecache?freecache 是一个用 go 语言实现的本地缓存系统(类似于 lru)。相关的 github 地址
- 对于某一类网站, 管理界面 是基础设施中非常重要的一部分。 这是以网页和有限的可信任管理者为基础的界面,它可以让你添加,编辑和删除网站内容。
- 在实际的工作中会经常会用到to_char()、to_date()函数来对时间、日期进行处理。1、to_char()函数的用法1.1、将时间日
- 前两天有一位网友问我一个关于Javascript中++操作符的问题,他的代码大致是这样的ADS.addEvent(window,'c
- 目录1. 字符串拆分函数.split()2. 字符串拼接函数.join()扩展:理解" ".join(s.split(&
- 错误信息PS D:\parttime\python\django\guanxiangzhiji> python manage.py m