最小二乘估计

                                                       西安市第四十五中学   徐亚辉

 教学目标：1、掌握最小二乘法的思想

                 2、能根据给出的线性回归方程系数公式建立线性回归方程

教学重点：最小二乘法的思想，线性回归方程的建立。

教学难点：线性回归方程系数公式的推导。

教学方法：讲授法，类比法、阅读教学法、多媒体辅助教学

教学过程：

一、引入新课：

上节课我们讨论了人的身高与右手一拃长之间的线性关系，用了很多种方法来刻画这种线性关系，但是这些方法都缺少数学思想依据。

那么用什么样的线性关系刻画会更好一些？

想法：保证这条直线与所有点都近（也就是距离最小）。

最小二乘法就是基于这种想法。引入新课。

二、课堂探究

问题1、用什么样的方法刻画点与直线的距离会方便有效？

设直线方程为y=a+bx，样本点A（x_i，y_i）

方法一、点到直线的距离公式

 方法二、

 

显然方法二能有效地表示点A与直线y=a+bx的距离，而且比方法一更方便计算，所以我们用它来表示二者之间的接近程度。

问题2、怎样刻画多个点与直线的接近程度？

例如有5个样本点，其坐标分别为（x₁，y₁），（x₂，y₂），（x₃，y₃），（x₄，y₄），（x₅，y₅）与直线y=a+bx的接近程度：

    从而我们可以推广到n个样本点：（x₁，y₁），（x₂，y₂），…（x_n，y_n）与直线y=a+bx的接近程度：

 

使得上式达到最小值的直线y=a+bx就是我们所要求的直线，这种方法称为最小二乘法

问题3、怎样使 达到最小值？

先来讨论3个样本点的情况

设有3个点（x₁，y₁），（x₂，y₂），（x₃，y₃），则由最小二乘法可知直线y=a+bx与这3个点的接近程度由下面表达式刻画：

…………………

整理成为关于a的一元二次函数 ，如下所示：

    

利用配方法可得

从而当 时，使得函数 达到最小值。

将 代入式，整理成为关于b的一元二次函数 ，

     

      

同样使用配方法可以得到，当

时，使得函数 达到最小值。

从而得到直线y=a+bx的系数a，b，且称直线y=a+bx为这3个样本点的线性回归方程。

用同样的方法我们可以推导出n个点的线性回归方程的系数：

其中

由我们知道线性回归直线y=a+bx一定过。

特别提醒：在回归直线方程中，b是回归直线方程的斜率，a是截距；b的含义容易理解成增加的单位数，而实际上，它代表x每增加一个单位，y的平均增加单位数.一般地说，当回归系数b＞0时，说明两个变量呈正相关关系，它的意义是：当x每增加一个单位时，y就增加b个单位；当b＜0时，说明两个变量呈负相关关系，它的意义是：当x每增加一个单位时，y就减少b个单位.

三、例题分析，公式应用

例1 在上一节练习中，从散点图可以看出，某小卖部6天卖出热茶的杯数（y）与当天气温（x）之间是线性相关的。数据如下表

气温（xi）／oC	26	18	13	10	4	-1
杯数（yi）／杯	20	24	34	38	50	64

（１）试用最小二乘法求出线性回归方程。

（２）如果某天的气温是－3 ^oC，请预测可能会卖出热茶多少杯。

解：（1）先画出其散点图

 

 

i	xi	yi	xi2	xiyi
1	26	20	676	520
2	18	24	324	432
3	13	34	169	442
4	10	38	100	380
5	4	50	16	200
6	－1	64	1	－64
合计	70	230	1286	1910

可以求得

则线性回归方程为

          y =57.557－1.648x

（2）当某天的气温是－3^oC时，卖出热茶的杯数估计为：

例2、下面是两个变量的一组数据：

请用最小二乘法求出这两个变量之间的线性回归方程.

 （学生合作完成）

你发现了什么？

（说明），利用最小二乘法估计时，要先作出数据的散点图.如果散点图呈现一定的规律性,我们再根据这个规律性进行拟合.如果散点图呈现出线性关系,我们可以用最小二乘法估计出线性回归方程;如果散点图呈现出其他的曲线关系,我们就要利用其他的工具进行拟合.

抽象概括：

1.利用最小二乘法估计时，首先要作出数据的散点图，利用散点图观察数据是否具有线性关系.

2.散点图呈现线性关系时，利用最小二乘法公式求出方程.

3.直线拟合只是拟合的方式之一，散点图呈现其他的规律时，我们也可以利用其他的曲线进行拟合.

四、课堂训练，巩固知识

练习1 已知x，y之间的一组数据如下表，则y与x的线性回归方程y=a+bx必经过点                                                                                    (   D    )

 

 

 

（A）（2，2）    （B）（1.5，0）   （C）（1，2）    （D）（1.5，4）

练习2,3

练习4某连锁经营公司所属5个零售店某月的销售额和利润额资料如下表：

（１）画出销售额和利润额的散点图；

（２）若销售额和利润额具有相关关系，计算利润额y对销售额x的回归直线方程。

 

解：（1）

 

 

 

（2）数据如下表：

i	xi	yi	xi2	xiyi
1	3	2	9	6
2	5	3	25	15
3	6	3	36	18
4	7	4	49	28
5	9	5	81	45
合计	30	17	200	112

可以求得b=0.5，a=0.4

线性回归方程为：

五、目标小结

1、最小二乘法的思想

2、线性回归方程的系数：

作业：P60 习题1－8  第1题