机器学习中参数模型和非参数模型

  • Post author:
  • Post category:其他


网上关于机器学习中的参数模型和非参数模型之间的解释并没有一个完全一致的解答,

有从是不是对数据的分布做了相关假设进行分析的

也有是从模型的参数量大小进行解答的

二者好像是一致的,但是个人觉得如下使用是不是对数据分布进行了假设来区分并不是特别好理解。

非参数模型(non-parametric model)和参数模型(parametric model)作为数理统计学中的概念,现在也常用于机器学习领域中。

在统计学中,参数模型通常假设总体服从某个分布,这个分布可以由一些参数确定,如正态分布由均值和标准差确定,在此基础上构建的模型称为参数模型;非参数模型对于总体的分布不做任何假设或者说是数据分布假设自由,只知道其分布是存在的,所以就无法得到其分布的相关参数,只能通过非参数统计的方法进行推断。

所以说,

参数模型和非参数模型中的“参数”并不是模型中的参数,而是数据分布的参数。

看了各种解答之后,我觉得二者可以这样进行区分:

一、首先需要明确的是 非参数模型并不是说模型中没有参数!

这里的non-parametric类似单词priceless,并不是没有价值,而是价值非常高,无价,也就是参数是非常非常非常多的!(注意:所谓“多”的标准,就是参数数目大体和样本规模差不多)

而:可以通过有限个参数来确定一个模型,这样的方式就是“有参数模型”,也就是这里说的参数模型,如线性回归、Logistic回归(假定样本维度为N,则假定N个参数theta1,theta2…thetaN)



版权声明:本文为qq_34872215原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。