广义回归神经网络及其在Matlab中的实现

标签:
广义回归神经网络matlabit |
分类: MachineLearning |
广义回归神经网络是径向基函数神经网络的一种特殊形式。与目前流行的前馈神经网络相比,它具有下述几项优点。
1)首先,它的网络结构相对简单,除了输入和输出层外,一般只有两个隐藏层,模式层和求和层。而模式中隐藏单元的个数,与训练样本的个数是相同的。
2)其次,它的网络训练非常简单。当训练样本通过隐藏层的同时,网络训练随即完成。而不像前馈神经网络一样,需要非常长的训练时间和高的计算成本。
3)由于简单的网络结构,我们不需要对网络的隐藏层数和隐藏单元的个数进行估算和猜测。由于它是从径向基函数引申而来,因此只有一个自由参数,即径向基函数的平滑参数。而它的优化值可以通过交叉验证的方法非常容易的得到。
4)最后,它的一个非常值得强调的优点就是,网络计算结果的全局收敛性。标准的前馈神经网络的计算结果则会经常不能达到全局收敛,而停止在局部收敛。
下面是我昨晚匆忙写下的一段Matlab程序,展示如何实现广义回归神经网络和通过交叉验证来估算径向基函数的平滑参数,希望对大家有帮助。
下图是程序运算结果,由此可以轻易看出,平滑参数的最优值应在1.3和1.4之间。
转自:http://blog.sina.com.cn/s/blog_a28fc28a01012vvh.html