用drop1函数观察：

> drop1(cz.lm)

Single term deletions

Model:

y ~ x1 + x2 + x3 + x4 + x5 + x6

       Df Sum of Sq     RSS    AIC

               515276 226.27

x1      1    542591 1057867 239.37

x2      1     88536  603812 227.60

x3      1     20834  536110 225.10

x4      1       278  515554 224.28

x5      1   1011046 1526322 247.07

x6      1     31684  546960 225.52

> drop1(cz.drop1)

Single term deletions

Model:

y ~ x1 + x2 + x3 + x5 + x6

       Df Sum of Sq     RSS    AIC

               515554 224.28

x1      1    870111 1385665 243.04

x2      1    190111  705666 228.87

x3      1     22801  538355 223.19

x5      1   1713154 2228708 253.02

x6      1     39639  555193 223.83

发现去掉x3后AIC减小，故去掉x3继续回归，以此类推，直到AIC无法减小为止，这样就得到了最终的结果。

> drop1(cz.drop3)

Single term deletions

Model:

y ~ x1 + x2 + x5

       Df Sum of Sq     RSS    AIC

               570147 222.39

x1      1    817120 1387267 239.06

x2      1    534873 1105019 234.29

x5      1   1710882 2281029 249.51

无论去掉哪个变量，AIC都会增大，故不再去掉变量。最终的结果中包含自变量x1、x2、x5。

三、逐步回归法

逐步回归法是将变量一个一个引入，每引入一个自变量时，对已选入的变量进行逐个检验，当原引入的变量由于后面变量的引入变得不再显著时，要将其剔除。

在R中可以直接用step函数实现逐步回归：

> cz.step<-step(cz.lm)

Start:  AIC=226.27

y ~ x1 + x2 + x3 + x4 + x5 + x6

       Df Sum of Sq     RSS    AIC

- x4    1       278  515554 224.28

- x3    1     20834  536110 225.10

- x6    1     31684  546960 225.52

               515276 226.27

- x2    1     88536  603812 227.60

- x1    1    542591 1057867 239.37

- x5    1   1011046 1526322 247.07

Step:  AIC=224.28

y ~ x1 + x2 + x3 + x5 + x6

       Df Sum of Sq     RSS    AIC

- x3    1     22801  538355 223.19

- x6    1     39639  555193 223.83

               515554 224.28

- x2    1    190111  705666 228.87

- x1    1    870111 1385665 243.04

- x5    1   1713154 2228708 253.02

Step:  AIC=223.19

y ~ x1 + x2 + x5 + x6

       Df Sum of Sq     RSS    AIC

- x6    1     31792  570147 222.39

               538355 223.19

- x2    1    566230 1104585 236.28

- x1    1    847748 1386103 241.05

- x5    1   1704674 2243029 251.16

Step:  AIC=222.39

y ~ x1 + x2 + x5

       Df Sum of Sq     RSS    AIC

               570147 222.39

- x2    1    534873 1105019 234.29

- x1    1    817120 1387267 239.06

- x5    1   1710882 2281029 249.51

最后一步剩下的自变量就是逐步回归选好的自变量。

step函数可以直接得到选元后的模型：

> cz.step

Call:

lm(formula = y ~ x1 + x2 + x5, data = cz)

Coefficients:

(Intercept)           x1           x2           x5  

   874.5863      -0.6112      -0.3530       0.6367