机器学习中的几种loss

ゝ一纸荒年。 2022-05-21 12:37 168阅读 0赞

转载自多个地方，仅用作个人学习。如需删除，请见谅并联系本人。

# 线性拟合——从最大似然估计到平方误差到huber loss #

[https://blog.csdn.net/lanchunhui/article/details/50422230  
][https_blog.csdn.net_lanchunhui_article_details_50422230]

# [(转)机器学习中的损失函数][Link 1] #

## 一、log对数损失函数（逻辑回归） ##

## 二、平方损失函数（最小二乘法, Ordinary Least Squares ） ##

## 三、指数损失函数（Adaboost） ##

## 四、Hinge损失函数（SVM） ##

## 五、其它损失函数 ##

除了以上这几种损失函数，常用的还有：

0-1损失函数  
[![L(Y, f(X)) = \\left\\\{\\begin\{matrix\}1 ,& Y \\neq f(X)\\\\ 0 ,& y = f(X)    \\end\{matrix\}\\right.][L_Y_ f_X_ _ _left_begin_matrix_1 _ Y _neq f_X_ 0 _ y _ f_X_ _end_matrix_right.]][L_Y_ f_X_ _ _left_begin_matrix_1 _ Y _neq f_X_ 0 _ y _ f_X_ _end_matrix_right.]  
绝对值损失函数  
[![$$L(Y, f(X)) = |Y-f(X)|$$][L_Y_ f_X_ _ _Y-f_X]][L_Y_ f_X_ _ _Y-f_X]  
  
[![4DFDU.png][]][4DFDU.png]

[https_blog.csdn.net_lanchunhui_article_details_50422230]: https://blog.csdn.net/lanchunhui/article/details/50422230
[Link 1]: https://www.cnblogs.com/luxiao/p/5783017.html
[L_Y_ f_X_ _ _left_begin_matrix_1 _ Y _neq f_X_ 0 _ y _ f_X_ _end_matrix_right.]: /images/20220521/50b621650e37463b85f44fcf5d7178e6.png
[L_Y_ f_X_ _ _Y-f_X]: /images/20220521/daa35fcfd2e8491e85eddb8475b59443.png
[4DFDU.png]: /images/20220521/5206615c3b9c4d6496dbcfaf3f7f9b15.png

发表评论取消回复

表情：

评论列表（有 0 条评论，168人围观）

还没有评论，来说两句吧...

相关阅读

相关总结机器学习中常用的几个矩阵求导公式

下面A，B，X都是矩阵： ![在这里插入图片描述][20210411213622538.gif_pic_center] ![在这里插入图片描述][20210411213

爱被打了一巴掌/ 2022年11月18日 01:58/ 0 赞/ 152 阅读

相关机器学习中四种调参方法总结

来源丨AI公园编辑丨极市平台 ![a62be9e33504ecc868aa473d42c04d49.png][] 介绍 > 维基百科上说，“Hyperparamet

青旅半醒/ 2022年08月28日 04:48/ 0 赞/ 126 阅读

相关机器学习之降低损失(Reducing Loss)

为了训练模型，我们需要一种可降低模型损失的好方法。迭代方法是一种广泛用于降低损失的方法。一、迭代方法：一种迭代试错，优化模型的方法机器学习算法用于训练模型的迭代试错（

女爷i/ 2022年05月27日 04:51/ 0 赞/ 199 阅读

相关【机器学习】几种相似度算法分析

最近开始研究推荐系统，其中常见的相似度算法有以下几种： 1. 欧几里得距离欧几里得度量（euclidean metric）（也称欧氏距离）是一个通常采用的距离定义，指在m

偏执的太偏执、/ 2022年05月22日 07:21/ 0 赞/ 185 阅读

相关机器学习中的几种loss

转载自多个地方，仅用作个人学习。如需删除，请见谅并联系本人。线性拟合——从最大似然估计到平方误差到huber loss [https://blog.csdn.n

ゝ一纸荒年。/ 2022年05月21日 12:37/ 0 赞/ 169 阅读

相关目标检测问题中的-loss,val_loss

概念最近在用研究keras-yolov3，遇到了loss,val\_loss这两个基本的概念，在这捋一捋这两位的到底有啥作用。 loss：训练集上loss，就是总的l

红太狼/ 2022年02月16日 18:41/ 0 赞/ 329 阅读

相关关于机器学习中的几个概念

本文不涉及深度学习，感觉目前深度学习几乎可以独立出机器学习单出一个学科了。于是这里的笔记仅仅狭义地总结一些论文所引用的一些技巧和概念。知乎上大神们似乎认为，子空间学习是高维

傷城~/ 2022年01月09日 08:35/ 0 赞/ 237 阅读

相关机器学习中几种优化算法的比较（SGD、Momentum、RMSProp、Adam）

有关各种优化算法的详细算法流程和公式可以参考【[这篇blog][blog]】，讲解比较清晰，这里说一下自己对他们之间关系的理解。 BGD 与 SGD 首先，最简单的 B

秒速五厘米/ 2021年12月24日 02:59/ 0 赞/ 194 阅读

相关强化学习中loss函数不下降

问题描述采用PPO算法训练`gym.make('CartPole-v0')`环境。参数设置如下： hidden_units = 50 layer

太过爱你忘了你带给我的痛/ 2021年11月16日 13:52/ 0 赞/ 930 阅读

相关写给产品经理的几种机器学习算法原理

一、机器学习的过程机器学习的过程：从本质上来说，就是通过一堆的训练数据找到一个与理想函数（f）相接近的函数。在理想情况下，对于任何适合使用机器学习的问题，在理论上都

小鱼儿/ 2021年10月29日 09:22/ 0 赞/ 241 阅读