手机知网 App
24小时专家级知识服务
打 开
手机知网|搜索

带有惩罚函数的多元线性回归分析模型的调节参数的选择

江河

  一些传统的参数选择方法确实能够进行参数选择。但是,对于高维数据,这些传统的选择方法需要大量的运算,而且忽视了在参数选择过程中每一步的随机误差。为了解决这些难题,本文提出针对高维数据的一些参数选择的方法,对于不同的惩罚函数选择调节参数,在进行变量选择的同时也能进行参数估计。 首先,本文利用一些传统的参数选择方法做高维数据下的参数选择。其次,本文介绍了一些有关Oracle估计的知识,从理论上说明方法的可行性。考虑当参数个数分别为有限和无限时,SCAD具有Oracle性质,但岭回归和LASSO不具有Oracle性质。再次,针对调节函数的选择对参数选择的重要性,本文运用交叉验证对岭回归和LASSO进行调节参数的选择,运用广义交叉验证以及BIC方法对SCAD惩罚函数进行调节参数的选择,以及ICA算法选择调节参数。并对以上所有选择过程进行了数据模拟。最后,以一个在薪水方面是否存在性别歧视问题的实例,利用一般的多元线性回归方法和稳健回归方法拟合模型,并根据前面提到的惩罚函数进行调节参数的选择和估计,得出结论。……   
[关键词]:高维数据;调节参数的选择;SCAD;LASSO;岭回归;ICA算法
[文献类型]:硕士论文
[文献出处]:兰州大学2012年
App内打开