回归方程的效果的检验

1.方程显著性检验(F检验)

F检验是以方差分析为基础,对回归总体线性关系是否显著的一种假设检验,是解释模型中被解释变量与所有解释变量之间的线性关系在总体上是否显著的方法

利用F统计量进行总体线性显著性检验的步骤如下:

(1)提出关于P个总体参数的假设

           H0:b0=b1=b2=…=bp=0

(2)构造统计量

(3)检验   给定显著性水平α,查F分布表

       若F>Fα,拒绝H0,表明回归总体有显著性关系.

       若F<F α,接受原假设,表明不存在线性关系

2.参数显著性检验

参数显著性检验,是对每个解释变量进行检验.

如果解释变量对被解释变量的影响不显著,应从模型中删除,如果解释变量对被解释变量的影响显著,应保留在模型中.

利用t统计量进行参数显著性检验的步骤如下:

(1)对总体参数提出假设:H0:bi=0

(2)构造统计量:

(3)检验

    对给定α,若︱t︱>t α /2,说明拒绝原假设；若︱t︱<t α /2,则接受原假设.

如果一次t检验后,模型中存在多个不重要变量,一般是将t值最小的变量删除掉,再重新进行检验,每次只剔除1个变量.

   aii是(X`X)-1主对角线上第i+1个元素             

3、复相关系数和偏相关系数

复相关系数R是由ESS和TSS构造的统计量，用来表示回归方程对原有数据拟合程度的好坏，衡量作为一个整体的x1,x2,…,xp与y的线性关系的大小。

回归方程的拟合优度检验就是要检验样本数据点聚集在回归直线周围的密集程度，从而评价回归方程对样本数据的代表程度。由判定系数R2来实现。

实际中，随着自变量个数的不断增加，必然会使得R2不断变化，于是出现的问题是，R2变化是由于数学习性决定的，还是确实是由于引入了好的变量进入方程而造成的。因此在作拟合优度检验的判定时，一般采用调整的R2，以消除自变量的个数以及样本量的大小对R2的影响。其它变量被固定后，计算任意两个变量之间的相关系数，这种相关系数称为偏相关系数。

简单相关系数只是一种数量表面上的相关系数，而并非本质的东西。偏相关系数才真正反映两个变量的本质联系。

v      Zero-order:零阶相关系数，计算所有自变量与因变量间的简单相关系数。

v      Part correlation:部分相关，在排除了其他自变量对xi的影响后，当一个自变量进入模型后，复相关系数的平方增加量。

4、回归方程的残差分析

（1）残差序列的正态性分析：通过绘制标准化残差序列的带正态曲线的直方图或累计概率图来分析，确定残差是否接近正态

v      Analyze->regression->linear

v      Plot子对话框中选Histogram或p-p图

（2）残差序列的随机性分析：可以绘制残差序列和对应的预测值序列的散点图。如果残差序列是随机的，那么残差序列应与预测值序列无关，残差序列点将随机地分布在经过零的一条直线上下。

v      在线性回归Plots对话框中的源变量表中，选择SRESID（学生氏残差）做Y轴，选ZPRED（标准化预测值）做X轴

（3）残差序列的独立性分析：分析残差序列是否存在后期值与前期值相关的现象。

v      D.W检验

（4）样本奇异值的诊断：样本奇异值是样本数据中那些远离均值的样本数据点。它们会对回归方程的拟合产生较大偏差影响。一般认为，如果某样本点对应的标准化残差的值超出了-3—+3的范围，就可以判定该样本数据为奇异值。

v      Analyze->regression->statistics->case diagnostics

（5）异方差诊断：线性回归模型要求残差序列服从等方差的正态分布

v      一般通过绘制SRESID与因变量预测值的散点图或计算SRESID和因变量预测值间的相关系数。如果残差序列和预测值的平方根成正比例变化，可以对因变量作开方处理；如果残差序列与预测值成比例变化，可以对因变量取对数；如果残差序列与预测值的平方成比例的变化，可以对因变量求倒数。还可以用WLS法消除异方差。

5、预测和控制

v      所谓预测就是给定解释变量x样本外的某一特征值x0=(1，x10,x20,…,xp0),对因变量的值y0以及E(y0)进行估计。

v      1、y0的点预测：

v      2、y0的（1-α）的预测区间：