比较研究,得出最后的结论。
2 径向基函数神经网络
人工神经就是在生物学的基础上来进行对人脑处理问题的的一种模仿,发展 到今天,大约有近几十种不同的神经网络模型,其中主要两种结构模型为前馈网 络和反馈型网络。
2。1 RBF 神经网络的原理
2。1。1 RBF 神经网络的结构
RBF 它是一种简单的三层构造,通常由输入层形成第一层,主体都是由信 号源形成;隐含层都被当作第二层,其单元数要视详细情况而确定;把输出当作 网络的第三层,它要对输入做出相应的响应。结构示意图如图 2-1,
图 2-1 RBF 网络结构
从图 2-1 中可以看出,最左边的是输入层,中间的为隐含层,最右边的则 是输出层,这就是通常所称的 n-p-m 结构图。
根据 RBF 神经网络结构分析,构成 RBF 神经网络的基本思想是:利用 RBF 的特性而把它使用成一个“基”,从而可以利用诸多的“基”来组成一个隐含层 空间。在我们明确 RBF 的核心后,就可以把输入矢量放到隐空间就可以得到输 出就是隐单元输出的权和加线性,权就是整个网络的参数是可以改变的,从而能 够达到改进传统 PID 的目地,最后可以对锅炉的温度实现更进一步的控制。
2。1。2 RBF 神经网络的映射关系
假设 n 为 RBF 网络输入维数,p 为隐单元数,输出维数为 m,非线性变换 层(输入层到隐含层)第 i 个隐单元的输出:
•为隐单元的变换函数,ri 代表第 i 个的 RBF 核心; RBF 函数方式有下 面几种:
(1)多二次函数
(2)逆多二次函数
其中高斯函数是用的比较多的 RBF 函数表达方式,中心和宽度参数都是可 调的。
隐含层到输出层第 j 层输出为
2。1。2 径向基函数与插值问题
径向基函数研究的最主要问题就是多变量插值,这是在数值分析 领域中人 们主要研究的问题之一。在遇到多变量 严格插值的这些难题时,所做出 插值曲面 要求严格经过所有的训练数据点。通常都会这样描述:
在具有映射对应关系的一组输入输出向量 N(xi,yi)中,得到一连续函数
当用 RBF 函数来处理这一难题的时候,必须在之前确定一组 N 个 基函数 , 这 N 个基函数分别与相应的数据点对应,则:
可得权系数的 N 个线性方程:
最后所得出的值即为前面提到的插值问题的解,一般都会选用高斯函数这样 的非线性函数,因为其本身和生物学相近,更重要的是这种函数的本身和生物 学相近,更重要的是这种函数的局部响应特性对下面各个阶段的学习很有提供 便利。
2。1。3 RBF 神经网络正则化方法
众多的学习数据量及其数据中含有的噪声是左右 RBF 神经网络泛化性能的 一个很大的原因。众所周知,正则化方法是一种提升 RBF 网络泛化性能的方式。
这里的的正则化就是在选择合适的函数基础上来使映射函数平滑 。所以, 当需要使用正则化理论时,它主要有两项:一个是标准误差项,具体的定义为:
另外一个为正规化项,就是选用代表这个依赖于逼近函数 f x的几何性质。 可以表达为:
其中,G(x, xi ) 为 Green 函数,它的具体函数类型是根据 D 的选择来确定的。 当 D 有 平移 不变性和旋转不变性,那么:
所以当算子 D 不一样的时候,最后会有不同的 Green 函数。不难发现,当结 构当中的节点数达到一定数量的时候的时候,这个网络能拥有满足所要任意精度 条件下无限制的 逼近 任何多元 连续函数,并且所得的各个系数值是符合条件下