每天五分钟机器学习:支持向量机损失函数和互熵损失函数
创始人
2024-02-20 05:13:36
0

本文重点

本节课程我们讲学习两个常见的损失函数,一个是支持向量机损失,也叫做hinge loss,另外一个损失函数是互熵损失函数,它常常应用于softmax分类器中。

hinge loss

单样本的hinge loss可以为:

 

这个意思是说样本分类错误的分数-样本分类正确的分数小于阈值▲,则损失为0,否则损失就是样本分类错误的分数-样本分类正确的分数+▲,这个意思是说,分类错误的打分+阈值不能超过分类正确打分,否则就会产生损失。

举例:

现在由一个三分类的问题,现在有一个模型对一个样本xi(真实为y=0)的分类打分为[12,-810],此时我们令阈值▲=10,那么此时的hinge loss的损失是什么?

Li=max(0,-8-12+10)+max(0,10-12+10)=0+8=8

此样本的损失为8

怎样理解阈值?

阈值可以理解为忍受度,我可以忍受你评分高,但是你是分类错误的,你就是再高,你也必须比分类正确的分数小于阈值的范围,否则我们就认为有损失。

缺点:

有时候虽然错误评分也挺高,但是因

相关内容

热门资讯

喜欢穿一身黑的男生性格(喜欢穿... 今天百科达人给各位分享喜欢穿一身黑的男生性格的知识,其中也会对喜欢穿一身黑衣服的男人人好相处吗进行解...
发春是什么意思(思春和发春是什... 本篇文章极速百科给大家谈谈发春是什么意思,以及思春和发春是什么意思对应的知识点,希望对各位有所帮助,...
网络用语zl是什么意思(zl是... 今天给各位分享网络用语zl是什么意思的知识,其中也会对zl是啥意思是什么网络用语进行解释,如果能碰巧...
为什么酷狗音乐自己唱的歌不能下... 本篇文章极速百科小编给大家谈谈为什么酷狗音乐自己唱的歌不能下载到本地?,以及为什么酷狗下载的歌曲不是...
家里可以做假山养金鱼吗(假山能... 今天百科达人给各位分享家里可以做假山养金鱼吗的知识,其中也会对假山能放鱼缸里吗进行解释,如果能碰巧解...
华为下载未安装的文件去哪找(华... 今天百科达人给各位分享华为下载未安装的文件去哪找的知识,其中也会对华为下载未安装的文件去哪找到进行解...
四分五裂是什么生肖什么动物(四... 本篇文章极速百科小编给大家谈谈四分五裂是什么生肖什么动物,以及四分五裂打一生肖是什么对应的知识点,希...
怎么往应用助手里添加应用(应用... 今天百科达人给各位分享怎么往应用助手里添加应用的知识,其中也会对应用助手怎么添加微信进行解释,如果能...
苏州离哪个飞机场近(苏州离哪个... 本篇文章极速百科小编给大家谈谈苏州离哪个飞机场近,以及苏州离哪个飞机场近点对应的知识点,希望对各位有...
客厅放八骏马摆件可以吗(家里摆... 今天给各位分享客厅放八骏马摆件可以吗的知识,其中也会对家里摆八骏马摆件好吗进行解释,如果能碰巧解决你...