非线性函数逼近小波神经网络的优化及仿真(1)

 根据以上理论我们得到以小波基函数

为激励函数的前向小波神经网络，其信号表示是通过将所选取的小波基进行线性叠加实现的(即(4)式)，包含一个隐含层，输出层为线性神经元。其结构如图1所示。

图 1 小波神经网络结构

Fig. 1 The structure of proposed WNN

其数学模型为：

      上述小波网络可以实现复杂的非线性函数映射。1中以提到，问题是如何确定最优的隐含层结点以简化网络、提高逼近精度和速度。由于小波神经网络输出层为线性神经元，因此只要确定了 M、m 、n ，通过多元线性回归就可计算出参数 ，所以在小波神经网络的训练中，主要任务是寻找参数M 、m 、 n。

基于以上特点，本文提出利用递阶遗传算法和多元线性回归相结合，即混合递阶遗传算法优化小波神经网络的新方法。

    递阶遗传算法是根据生物染色体的层次结构提出的^[4]，染色体由控制基因和参数基因两部分构成，控制基因是二进制数，每一位对应一个隐含层神经元，控制与此神经元相关的参数基因。当该位是1则该位对应的神经元激活，其参数起作用。反之，该位对应的神经元休眠，其参数不起作用。 从遗传算法的角度来看，遗传算法进行编码时，编码信息不应超出表示可行解所必需的信息。由于小波神经网络输出权值可用多元线性回归计算。所以编码时染色体只保留与隐含层神经元相关的参数，其结构如图2所示。

图2  染色体数据结构

Fig 2 The structure of chromosome

1）选择算子

 

     其中 (即(6)式)为能量函数，由(7)可以看出能量函数越小的染色体的适应度越高，并且 的值在 之间，这样对最佳个体具有更好的鉴别力。本文采用轮盘赌法，这也是一种典型的选择算子。

2）交叉算子

      由于本文染色体由控制基因和参数基因两部分组成，所以采用两点交叉，交叉点分别位于控制基因和参数基因中。

3）变异算子

      根据染色体编码特点，本文采用两点变异。在控制基因采用二进制翻转变异。在参数基因部分采用实值变异，实值变异步长的选择比较困难，通常根据具体情况而定。本文采用如下的变异算子^[5]：

3.4 优化过程

　             

    图3优化流程图

Fig 3 The stages of optimaion