关于模型与损失函数问题


请问怎么理解“机器学习的各种模型与他们各自的损失函数一一对应?”一般讲模型都是从模型的基本理念出发的,损失函数只是为了确定模型超参数而引进来的感觉?或者说上面这句话根本就是错的?@mapleguan
已邀请:

mapleguan

赞同来自: swnwalker


转载@寒老师 在QQ群里做的很好的解答

寒老师 11:14:25 PM
@地 首先你要明确 超参数 和 参数 的差别,超参数通常是你为了定义模型,需要提前敲定的东西(比如多项式拟合的最高次数,svm选择的核函数),参数是你确定了超参数(比如用最高3次的多项式回归),学习到的参数(比如多项式回归的系数)

另外可以把机器学习视作 表达 + 优化,其中表达的部分,各种模型会有各种不同的形态(线性回归 逻辑回归 SVM 树模型),但是确定了用某个模型(比如逻辑回归)去解决问题,你需要知道当前模型要达到更好的效果,优化方向在哪,这个时候就要借助损失函数了。

下面就是一个小例子,一样的打分函数,选用不同的loss function会变成不同的模型

寒老师例子.jpg


图取自 http://cs231n.github.io/linear-classify/
有一个我汉化的版本 https://blog.csdn.net/han_xiao ... 99583
更深入的内容欢迎查阅更多机器学习的资料,或者参与机器学习相关的课程,来讨论~

要回复问题请先登录注册

返回顶部