海森矩阵（Hessian matrix）

在数学中，海森矩阵（Hessian matrix 或 Hessian）是一个自变量为向量的实值函数的二阶偏导数组成的方块矩阵，此函数如下：

http://hiphotos.baidu.com/imheaventian/pic/item/2ec65ad0f26d08a3562c843d.jpgMethod)解决的大规模优化问题之海森矩阵（Hessian matrix）的定义" />

如果 f 所有的二阶导数都存在，那么 f 的海森矩阵即：

H(f)ij(x) = DiDjf(x)

其中 http://hiphotos.baidu.com/imheaventian/pic/item/6c20e31ac5fa02698718bf34.jpgMethod)解决的大规模优化问题之海森矩阵（Hessian matrix）的定义" />，即

http://hiphotos.baidu.com/imheaventian/pic/item/5fe332d86367ad5c10df9b3d.jpgMethod)解决的大规模优化问题之海森矩阵（Hessian matrix）的定义" />

可见，多元函数的二阶导数就是一个海森矩阵
 海森矩阵被应用于牛顿法解决的大规模优化问题。

混合偏导数和海森矩阵的对称性

海森矩阵的混合偏导数是海森矩阵非主对角线上的元素。假如他们是连续的，那么求导顺序没有区别，即

http://hiphotos.baidu.com/imheaventian/pic/item/021e41de3d5870636227983d.jpgMethod)解决的大规模优化问题之海森矩阵（Hessian matrix）的定义" />

上式也可写为

http://hiphotos.baidu.com/imheaventian/pic/item/dee6e31df9aa5bfb86d6b634.jpgMethod)解决的大规模优化问题之海森矩阵（Hessian matrix）的定义" />

在正式写法中，如果 f 函数在区域 D 内连续并处处存在二阶导数，那么 f的海森矩阵在 D 区域内为对称矩阵。

给定二阶导数连续的函数http://hiphotos.baidu.com/imheaventian/pic/item/e62ed700de207da6267fb534.jpgMethod)解决的大规模优化问题之海森矩阵（Hessian matrix）的定义" TITLE="牛顿法(Newton's Method)解决的大规模优化问题之海森矩阵（Hessian matrix）的定义" />，海森矩阵的行列式，可用于分辨 f 的临界点是属于鞍点还是极值点。

对于 f 的临界点 (x0,y0) 一点，有 http://hiphotos.baidu.com/imheaventian/pic/item/5dc8013cbb23a39e3c6d973d.jpgMethod)解决的大规模优化问题之海森矩阵（Hessian matrix）的定义" />，然而凭一阶导数不能判断它是鞍点、局部极大点还是局部极小点。海森矩阵可能解答这个问题。

http://hiphotos.baidu.com/imheaventian/pic/item/f4b9d7d7a6d4645f06088b34.jpgMethod)解决的大规模优化问题之海森矩阵（Hessian matrix）的定义" />

    H > 0 ：若http://hiphotos.baidu.com/imheaventian/pic/item/0cdc6d6cf54f488b4216943d.jpgMethod)解决的大规模优化问题之海森矩阵（Hessian matrix）的定义" />，则(x0,y0)是局部极大点。
    H < 0 ：(x0,y0)是鞍点。
    H = 0 ：二阶导数无法判断该临界点的性质，得从更高阶的导数以泰勒公式考虑。

MATLAB中获得Hessian矩阵：

The Hessian of a scalar valued function f:Rn