分享web开发知识

注册/登录|最近发布|今日推荐

主页 IT知识网页技术软件开发前端开发代码编程运营维护技术分享教程案例
当前位置:首页 > 技术分享

【MatConvNet代码解析】 vl_nnsoftmaxloss

发布时间:2023-09-06 01:53责任编辑:郭大石关键词:暂无标签

背景知识:http://deeplearning.stanford.edu/wiki/index.php/Softmax%E5%9B%9E%E5%BD%92

假设softmax层的输入(softmax前一次的输出),或者理解为一般分类器的得分f(x)=</theta,x>中的/theta可以随便减一个常量。

或者假设现在的类别数目为N,不妨设为N=3,那么会有三个分类器,假设每个分类器的得分为f_j(x)=</theta_j,x>

我们知道在做softmax操作其实就是将exp(f_j(x))归一化。

所以这里每一个f_j(x)其实都可以去减三个分类器得分中任意一个,只要大家减同一个值,不影响结果。

所以在MatConvNet才会有这样的代码

这里大家减去的是N个分类器得分中最大的那个得分,代码中的x就是上面所述的分类器得分。

最后的损失函数为t,如果愿意硬推,不按照背景知识去解释,依然可以解释。解释如下:

【MatConvNet代码解析】 vl_nnsoftmaxloss

原文地址:https://www.cnblogs.com/qq552048250/p/9028148.html

知识推荐

我的编程学习网——分享web前端后端开发技术知识。 垃圾信息处理邮箱 tousu563@163.com 网站地图
icp备案号 闽ICP备2023006418号-8 不良信息举报平台 互联网安全管理备案 Copyright 2023 www.wodecom.cn All Rights Reserved