bp神经网络
bp神经网络范文第1篇
关键词：最经济控制；BP神经网络；粒子优化
1 引言
随着科技的发展，我们渐渐地走向了节约型社会，对我们周遭的事物开始更深一步的探索。最经济控制[1]是由涂序彦教授基于我国国情而提出来的，旨在以最少的资源获得最大的经济效益。
BP（Back Propagation）网络[2]是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。
粒子群优化[3]是一种新兴的基于群体智能的启发式全局搜索算法，粒子群优化算法通过粒子间的竞争和协作以实现在复杂搜索空间中寻找全局最优点。它具有易理解、易实现、全局搜索能力强等特点，倍受科学与工程领域的广泛关注，已经成为发展最快的智能优化算法之一。
为了提高最经济控制的高效性和准确性，本文提出将粒子优化 （Particle Swarm Optimization，PSO）算法与 BP算法相合的混合算法用于最经济控制。该算法通过群体中粒子间的合作与竞争产生的群体能指导优化搜索，能有效克服局部极小问题。
2 最经济控制
吴斌[4]在最经济控制、低成本自动化和智能控制已有成果的基础上给出了最经济智能控制系统（The Most Economical Intelligent Control--MEIC）的概念，并将最经济控制的代价函数以经济领域的函数进行表示。
对于大多数的企业和生产过程，其固定成本一般是不变的，但是更改其运行的状态却可以带来巨大的经济收益，本文则主要研究是神经网络的最经济控制系统，因此可以转换为对神经网络参数和结构的寻优问题。
3 神经网络最经济控制研究
BP网络是基于误差方向传播算法（BP算法），由一个输入层、一个输出层和一个或多个隐含层构成，各层次的神经元之间单向全互联连接，是由非线性变换单元组成的前馈型网络。
BP神经网络的最经济控制，主要是对神经网络进行结构参数的优化，使其达到性能最优的目的。本文通过用基本的粒子群优化方法对BP网络的结构和参数进行优化，其程序框图如下图所示。
4 实例分析对比
为了检测优化后的神经网络具有很好的最经济性能，也即经过优化后的网络参数是最优的，其网络代价函数却是较小的。本文将粒子算法优化后的BP网络（PSO-BP网络）和普通的BP网络分别实现最经济控制并将结果进行对比，首先根据网络代价的概念分别建立两个网络的经济代价函数，然后对所选用的样本对象进行最经济控制的建模，最后将两者产生的网络代价函数的结果进行对比。
对于同样的训练样本，先利用传统 BP神经网络进行训练，再用PSO-BP网络方法进行训练对比，部分误差比较见表1。
从上表我们可以看出，PSO-BP网络方法加快了收敛的速度，有效降低了训练误差，避免了陷入局部极小值，一定程度上提高算法性能。显然，改进后的BP算法经济性能优于BP网络，且具有较好的泛化能力，说明该算法可以有效地实现最经济控制。
[参考文献]
[1]涂序彦.可控性、可观性的实用价值与最经济结构综合[J].全国控制理论及其应用学术交流会论文集，北京：科学出版社，1981，56-61.
[2]张代远.神经网络新理论与方法[M].北京：清华大学出版社，2006，11.
bp神经网络范文第2篇
关键词：BP神经网络 动量因子法 变步长法 学习速率
1.引言
人工神经网络（Artificial Neural Networks，ANN）是通过对人脑神经元建模、联结模拟生物脑或世界系统的网络模型，是一种具有学习、记忆和模式识别等智能信息处理功能的人工系统。通常研究和使用的十种神经网络模型中，人们较多用的是Hopfield网络、BP网络、Kohonen网络和ART网络模型。其中的BP神经网络是基于反向传播（BackPropagation）的网络，也是神经网络领域中研究最多、应用最广的网络模型。它采用最小均方差的学习方式，可用于函数逼近及语言综合、识别和自适应控制等。
2.标准BP神经网络算法
BP算法作为前馈网络的主要学习算法，对神经网络的推广应用起了举足轻重的促进作用。标准的BP网络，优化计算的方法很多，比较典型的是采用一阶梯度法，即最速下降法。在BP神经网络训练中，主要是针对一定的输入，所得到的输出是否与期望输出接近，即误差的代价函数达到最小。其简单的实现步骤为：（1）通过网络输入反向传播；（2）通过网络将敏感性反向传播；（3）使用近似均方误差的BP算法更新权值和偏置值。
标准的BP算法因具有简单、易行、计算量小及并行性强等优点，是目前神经网络训练采用最多、最成熟的训练算法。由于BP网络中待寻优的参数太多，往往导致算法收敛速度慢。对于复杂问题，训练过程需迭代几千、几万次才能收敛到期望的精度。因此，标准的BP网络在很大程度上实用性不强，尤其对于实时性很强的系统而言。
3.BP算法的改进
BP多层前馈网络已成为神经网络的重要模型之一，但实际上的BP多层前馈网络并不是利用标准的BP算法对网络进行训练的，而是对BP算法进行了启发式改进。
（1）增加动量因子法
BP算法的神经网络的误差曲面具有不同的区域有不同的误差改变率的特点。假若开始训练的学习速率较高，那么算法的收敛速度可能很快。但当迭代进入的区域包含极小点时，此时算法发散，来回振荡，收敛不到极小值点。如果用平均改变参数的方法进行轨迹的过滤，就可以对震荡进行平滑并可产生稳定的轨迹。当动量滤波器的参数得到了改变，获取反向传播的动量，使用了动量项，可以在保证算法较为稳定的前提下，在网络训练进入局部最小值时产生一个继续向前的正向斜率运动，使得搜索能够跳出较浅的峰值；当网络搜索位于误差曲面平坦区的区域时，该方法能够较快地提高训练速度。
（2）变步长法
变步长法通过调整网络训练的学习率，故也称为可变学习速率的方法。BP算法中对连接权值的调整，取决于两个因子，即学习速率和梯度。其中通过调整学习速率提高算法收敛收率的方法，是当前认为最简单、有效的方法。学习率不能随意选取，选得太小，收敛会变慢；选得太大，可能调整过多，使得算法振荡或发散。所以，在对学习率进行调整时，一般遵循的准则是：首先检查修正值，看该值是否明显降低了误差。如果降低了，则学习率的值选取偏小，可以作为对学习率调整的参考；否则，学习率值调整过大，就应该对该值进行减小。增加可变速率参数后，得到改进的BP算法如下：
①如果整个训练集上的均方误差权值在更新后增加的，且该值超过了预设的某个百分数，如：1%～5%，则不对权值进行更新。学习速率被乘以一个大于零且小于1的因子，并且动量系数被设置为0。
②如果均方误差在权值更新后变小了，则接受权值更新。学习速度将被乘以一个大于1的因子。假若学习率被设置为0，则恢复之原来的值。
③如果均方误差的增长变小，则权值更新被接受，但学习速度保持不变。如果学习率过去被设置为0，则恢复到以前的值。
4.实验结果
分别对目标误差为0.001的网络训练。实验结果如下：
（1）采用标准BP网对样本进行训练，迭代次数近5000次尚未收敛。
（2）采用增加动量法，迭代375次，学习过程收敛。
（3）采用变步长法，迭代1728次收敛。
由此可见，未改进的标准BP学习算法存在收敛速度慢的缺陷；改进后的BP学习算法都从不同程度上提高了算法的收敛速度，训练的次数大大减小了。对BP算法采用启发式改进措施后，明显提高了学习速度。
bp神经网络范文第3篇
关键词： 网络异常检测； BP神经网络； 遗传算法； 异常流量
中图分类号： TN711?34； TP393 文献标识码： A 文章编号： 1004?373X（2016）03?0090?04
Network anomaly detection method with improved BP neural network based on GA
CUI Baocai
（Tianjin Electronic Information College， Tianjin 300350， China）
Abstract： Since the conventional BP neural network algorithm is easy to fall into local optimal solution， and the established network abnormal flow detection model has low detection efficiency and poor accuracy， an improved BP neural network algorithm based on GA is proposed， by which the network abnormal flow detection model was established. The conventional genetic algorithm in the search process often influences on the search effect because of the high fitness individual， so it is necessary to improve the conventional genetic algorithm. The hybrid encoding mode is used to optimize and correct the parameters of crossover operator， mutation operator， crossover probability and mutation probability. The experiment study for network abnormal flow data in KDD CUP99 database is conducted， and the research results show that the detection performance of the proposed method is better than that of the conventional algorithm. The improved genetic algorithm is used to synchronous optimization the network， weight and threshold of BP neural， and can avoid the problem causing by the blind selection of BP neural network structure parameter， and avoid that the BP neural network is easy to fall into the local optimal solution.
Keywords： network anomaly detection； BP neural network； genetic algorithm； abnormal flow
0 引 言
网络异常流量类型多样复杂，异常可能来自Alpha Anomaly异常流量、DDos异常流量、Port Scan异常流量、Network Scan异常流量、Worms异常流量以及Flash Crowd异常流量等。在大型Internet供应商以及企业网络中对异常进行检测具有非常大的难度。常规异常检测具有检测率低、误报率高等问题，因此本文对网络异常流量检测方法进行深入研究[1?3]。
近年来，人们常常利用BP神经网络建立网络异常流量检测模型，但是由于BP神经网络算法存在容易陷入局部最优解，训练时间长，效率低等问题，因此本文提出一种利用遗传算法对BP神经网络进行改进的方法以提高BP神经网络算法性能[4?5]。
1 遗传算法优化BP神经网络模型
1.1 遗传算法优化BP神经网络
使用遗传算法对BP神经网络算法进行优化可以描述为：
式中：[E1]是BP神经网络训练输出与实际样本的总体误差；[yi（t）]是期望的输出；[yi（t）]是BP神经网络的实际输出。
BP神经网络的实际输出[yi（t）]表示为：
式中：[f]是输出神经元的激励函数；[g]是隐含层神经元的激励函数；[wij]是BP神经网络输入层和隐含层节点之间的连接权值；[vit]是隐含层与输出层节点之间的连接权值；[ξi]是过程神经元的阈值；[ηt]是输出神经元的阈值。
权值的修正值可以用如下方法表示：
式中：[α]是动量因数；[n]是迭代次数；[η]是自适应学习率；[g（n）]是误差函数对权值的梯度。
建立遗传算法优化BP神经网络的检测模型过程如下：
步骤1：建立BP神经网络，设定BP神经网络的初始结构参数和函数等；
步骤2：使用遗传算法对BP神经网络进行参数优化，生产初始种群，通过种群优化、交叉、变异等操作对BP神经网络的权值、阈值等进行优化；
步骤3：使用遗传算法得到的最优权值、阈值等参数更新BP神经网络，使用训练数据对模型进行训练，完成检测模型的建立。
建立遗传算法优化BP神经网络的检测模型流程如图1所示[6?7]。
1.2 遗传算法改进方法
常规遗传算法在搜索过程中，往往会由于出现影响生产适应度高的个体而对遗传算法搜索过程产生影响的现象发生，因此需要对常规遗传算法进行改进。本文使用的方法是通过混合编码方式进行改进，同时对交叉算子、变异算子、交叉概率[Pc]以及变异概率[Pm]等参数进行优化修正。
（1） 混合编码方案
二进制编码解码的优点是操作简便、易于实现等；实数编码方法的优点是针对连续参数优化问题的精度高、直观等。因此本文将两种编码方式进行结合，发挥其各自优点，实现对遗传算法的改进。通过此种方法改进后，遗传操作速度加快、全局搜索范围增加，同时也提高了优化的精度等。
（2） 适应值函数选取
寻找使得所有进化过程网络误差平方和最小的网络权值即为遗传算法的搜索目标。遗传算法通常的进化方向是向着适应值增加的方向发展，因此，本文通过优化得到的权值、阈值，计算得到对应神经网络的误差平方和，适应误差的倒数为适应度函数。各个个体的适应值可以表示为：
网络的目标函数表示为：
式中：[qijk]是使用第[j]个训练数据样本进行输入时，第[k]个节点的输出；[pjk]是期望网络的输出；[n]是训练数据样本数量；[m]是BP神经网络的输出层神经元个数；[L]为种群规模数；[i=1，2，…，L。]
（3） 选择算子
本文使用的选取方法为排序法。排序法思想是把个体适应度的不同转换为排序序列，适应度较大的个体被选取的概率就越大，适应度较小的个体被选取的概率就越小。针对个体按照其适应度完成升序的排序，之后按下面方法对个体的选取概率进行计算：
式中：[Pmax]是最优染色体选取概率；[n（i）]是种群中第[i]个染色体适应值的排序。
对个体使用比例选择法进行选取。对每个个体累计选取概率[qi（i=1，2，…，L）]进行计算，在[（0，qL）]区域内生产一个随机序列[rj（j=1，2，…，L），]该序列为升序排序，如果[qi-1
（4） 交叉算子
交叉算子对于确保优良性能得以遗传具有重要作用。本文使用的方法是在二进制的编码过程中，使用单点交叉法，随机抽取2个父代串中的交叉点并交换对应子串，在交叉点的第[k]位进行交叉操作的方法为：
在进行实数编码时，使用算数交叉法，即通过两个个体组合成新的染色体。两个个体[Xli]和[Llj]是通过种群随机抽取的，交叉算子为：
式中：[Xli]和[Xlj]是交叉前的一对个体；[Xli]和[Xlj]是交叉后的一对个体；[c]是0～1的随机数。
本文使用的这种交叉方法因为能够得到多种组合，所以使得两个个体的信息得到充分交换对找到全局的最佳值是有利的[9]。
（5） 变异算子
保证种群多样性的一个主要方法就是通过变异操作。本文在二进制编码过程中使用基本位变异操作，实数编码过程使用非均匀变异操作。非均匀变异操作中使用的新基因值[x′k]为：
式中：[Δ（t，Ukmax-ηk）]是[0，Ukmax-ηk]范围内的随机数；[Δ（t，ηk-Ukmin）]是[0，ηk-Ukmin]范围内的随机数。
（6） 确定交叉和变异概率
交叉概率[Pc]以及变异概率[Pm]对遗传算法的优化性能具有至关重要的作用。本文使用自适应交叉概率和变异概率以不对适应值高的个体进行破坏的同时确保种群的多样性：
式中：[λ1，][λ2，][λ3，][λ4]为0～1的常数；[fmax]是种群中适应值的最大值；[f]是种群中适应值的平均值；[f]是较大的交叉互换适应值；[f]是变异个体的适应值。
当种群陷入局部最小值时可以将交叉概率[Pc]以及变异概率[Pm]适当增加；当种群在解空间比较分散时，可以将交叉概率[Pc]以及变异概率[Pm]适当减小；另外，对于适应度较高的个体，应减小交叉概率[Pc]以及变异概率[Pm；]对于适应度较低的个体，应增加交叉概率[Pc]以及变异概率[Pm，]这样交叉概率[Pc]以及变异概率[Pm]会跟随种群个体的适应度改变而变化[10]。
2 实验分析
本文使用Mitlincoln实验室的KDD CUP99数据库中的网络异常流量数据进行实验研究。主要选取常见的Alpha Anomaly异常流量、DDos异常流量、PortScan异常流量、NetworkScan异常流量、Worms异常流量以及FlashCrowd异常流量数据各100条。对各种流量数据样本随机抽取50条作为训练样本，另外50条用于对检测模型进行性能测试[11]。
网络异常流量类型与主要流特征对应关系如表1所示[12]。
为了对比本文研究的GA改进BP神经网络网络异常流量检测方法的性能，使用常规BP神经网络建立同样的检测模型。使用Matlab建立两种方法的检测模型，神经网络采用3层结构，由异常类型及异常类型对应的特征流决定了神经网络的输入层有6个神经元，输出层也有6个神经元，设定学习速率为0.1。常规BP神经网络使用随机函数对权值、阈值进行初始化设定，而本文研究的遗传算法优化BP神经网络则使用经过训练得到的最佳个体对权值、阈值进行初始化设定[13]。
两种算法的网络误差平方和响应曲线如图2所示。
可以看出，本文研究的方法通过对个体交叉概率和变异概率进行调节，相比常规BP神经网络能够使用更短的速度达到误差要求，迭代步数更少，训练速度更快，效率更高。
针对上述测试数据，使用两种方法进行测试。使用误报率和检测率对网络异常检测方法的检测性能进行评价：
[误报率=被误报为异常的正常样本数量正常样本总数×100%] （13）
[检测率=检测出异常样本数量异常样本总数×100%] （14）
使用两种算法建立的检测模型的检测率和误报率对比如表2所示。
从测试结果可以看出：本文研究方法针对6种异常流量的平均检测率为95.3%，平均误报率为4.7%；而常规BP神经网络算法建立的检测模型的平均检测率仅为81.8%，平均误报率为18.2%。本文研究方法的检测性能要明显优于常规算法，说明本文提出的改进型遗传算法对BP神经网络的结构、权值以及阈值进行同步优化，避免了盲目选择BP神经网络结构参数带来的问题，避免了常规BP神经网络容易陷入局部最优解的问题。
3 结 语
由于网络异常流量类型多样复杂，在大型Internet供应商以及企业网络中对异常进行检测具有非常大的难度，而常规异常检测具有检测率低、误报率高等问题，因此本文对网络异常流量检测方法进行深入研究。针对BP神经网络算法存在容易陷入局部最优解，训练时间长，效率低等问题，本文提出一种利用遗传算法对BP神经网络进行改进的方法以提高BP神经网络算法性能。本文将二进制编码和实数编码两种编码方式进行结合，发挥其各自优点，实现对遗传算法的改进。通过此种方法改进后，遗传操作速度加快、全局搜索范围增加，同时也提高了优化的精度等。通过遗传算法对BP神经网络的权值、阈值进行优化，加快了BP神经网络的学习速率，提高训练效率，极大改进了BP神经网络的逼近能力以及泛化能力。
参考文献
[1] 王涛，余顺争.基于机器学习的网络流量分类研究进展[J].小型微型计算机系统，2012（5）：1034?1040.
[2] 姚宏林，韩伟杰，吴忠望.基于模糊相对熵的网络异常流量检测方法研究[J].信息安全与技术，2014（8）：16?18.
[3] 赵鑫.基于NetFlow的网络流量异常检测技术研究[D].保定：河北大学，2014.
[4] 李洪洋.浅析网络异常流量分析检测研究与实现[J].网络安全技术与应用，2013（10）：63?64.
[5] 燕发文，黄敏，王中飞.基于BF算法的网络异常流量行为检测[J].计算机工程，2013（7）：165?168.
[6] 彭基伟，吕文华，行鸿彦，等.基于改进GA?BP神经网络的湿度传感器的温度补偿[J].仪器仪表学报，2013（1）：153?160.
[7] 行鸿彦，邹水平，徐伟，等.基于PSO?BP神经网络的湿度传感器温度补偿[J].传感技术学报，2015（6）：864?869.
[8] 何嘉.基于遗传算法优化的中文分词研究[D].成都：电子科技大学，2012.
[9] 夏玫.BP神经网络泛化能力改进研究[D].太原：太原科技大学，2009.
[10] 周凌翱.改进BP神经网络在模式识别中的应用及研究[D].南京：南京理工大学，2010.
[11] 吴小花.网络异常流量识别技术的研究[D].长春：长春工业大学，2013.
bp神经网络范文第4篇
[关键词]无线传感器，路由，BP神经网络
中图分类号：TN929.5 文献标识码：A 文章编号：1009-914X（2015）41-0243-01
1.概述
近年来，微电子机械系统、无线通讯和数字化电子领域快速发展，使得开发出用于短距离通信的低能耗、低成本、多功能传感器节点成为可能。这些节点能感知环境，数据处理和通讯[1]。基于传感器节点协作的传感器网络提升了应用领域与能量，传感器网络是传统传感器研究的重大改进。
传感器网络有广泛的应用领域，可以用于监控和收集分布式区域中的各种目标和信息。图1展示了一个经典的WSNs，该领域主要是设计一个有效的路由算法，增进通讯连通能力，目标是减少能量消耗、延长传感器网络的生命周期。与能量消耗相关的论文研究成功近年来不断涌现。
2.无线传感器路由问题建模
一个大的传感器网络由很多簇组成。传感器节点并不直接发送数据，而是在一个簇中由一个中心节点（Sink）完成数据收集工作。但是，由于发射信号限制，一个传感器节点只能和它发射半径之内的其它节点相连，本文的内容就是针对一个簇之内的信息收集工作展开的。
S是所有传感器节点的集合，E是一个节点的连接集合。是簇中的一个节点，代表着在节点u和v之间传输 1k的数据需要消耗的能量，本文使用如下无线通讯模型：接收1KB的数据包消耗传感器节点 1k的电能，发送放大器的能量消耗与距离相关，节点（u， v）之间用C（u， v）代表[2]。信息收集路径从sink节点开始，完成信息收集之后返回到同一节点，代表着一个完整的路径，so是sink节点。路由的能量消耗按如下公式定义：
D 代表传输数据的大小，是一个动态值。
3.基于BP神经网络的数据融合模型
反向传播网络（BP网络）是前向神经网络中最重要的一种，该网络的监督学习算法采用误差反向传播算法。该算法[3]的学习过程主要有两个：信号的正向传播与误差的反向传播。主要是通过修正各层神经元的权值，使得总的误差信号最小。近几年，，研究人员开展了很多基于神经网络的无线传感器网络数据融合方面的研究工作。实验结果表明，把BP神经网络应用传感器数据融合中，可以大大降低传送数据的特征维数，提高无线网络的数据融合效率。
3.1 BP神经网络
BP网络是利用BP算法的前向型神经网络，其是在多层感知器的基础上增加了反向传播信号，可以较好地处理非线性的数据信息，具有较好的泛化能力，广泛地应用在系统模型辨识、预测或控制。
BP神经网络中的神经元模型中的激发函数通常选用非线性的Sigmoid函数：
只有当系统特性在正负区间变化时，激发函数选择对称的Sigmoid函数，又称为双曲函数：
BP神经网络的网络结构由输入层、输出层和隐层组成，其中隐层可以有多层，不过最常用还是单隐层的三层BP网络。
3.2 BP神经网络权值调整规则
BP网络的学习过程是就将误差反向传播并修正网络权值直到网络的总误差最小。定义BP神经网络的输入输出模型对应的系统误差函数为：
利用梯度最速下降法解析如何调整连接权值使误差函数E最小。
BP神经网络训练过程[4]：当确定网络结构后，始对BP神经网络进行训练。BP神经网络的学习是由信号的正向传播与误差的反向传播两个过程组成的，在正向传播时，输入样本信号从输入层进入网络，通过隐层处理最后传送给输出层，如果输出结果与期望值不符，则把误差进行反向传播，根据上面的权值调整系数调整权值的变化，直到网络输出层的输出结果满足要求为止。
4.基于BP神经网络的 路由仿真实验
无线传感器网络与神经网络在有些地方很类似，比如无线传感器网络中的传感器节点具有感知数据处理信息的能力，相当于神经网络中的神经元；无线传感器网络节点之间通过一定的规则传递信息，则相当于连接神经元的突触。神经网络算法与无线传感器网络中应用的数据融合技术有相同的功能，即通过一定的规则对大量的数据进行运算处理，从而得到反映这些数据特征的结果。因此，可以把神经网络算法应用到无线传感器网络中实现数据的融合。
实验中，设置传感器节点数目为 100，200，300，400 和 500。传感器网络环境是一个 200m*200m 的空间[5-6]。令传输数据的大小为 1KB，发射半径分别为 20m 和 30m。实验结果是 50 次运行的平均值。图2 和图 3现实了算法在不同数据集上最有解的变化趋势，从中可以看出能量的逐步变化，并且，图 3 的能量消耗更小，因为发射半径较大。
5.结论
本文利用BP神经网络模型解决无线传感器网络路由问题，实验中，采用了不同规模的网络实验数据，并同该领域其它经典算法进行比较，验证了本文所提方法在该领域的有效性。下一步的可针对模型在大规模数据集上表现没有中小规模优秀的问题方面展开。
参考文献
[1]张重毅，适用于无线传感器网络的移动路由算法[D]. 吉林： 吉林大学计算机科学与技术学院， 2007.
[2] 李凤保，李凌.无线传感器网络技术综述[J]. 仪器仪表学报， 2005，26（3）：559-561.
[3] Shih E， Cho S， Ickes N， Min R， Sinha A， Wang A， Chandrakasan A. Physical layer driven protocol and algorithm design forenergy-efficient wireless sensor networks[C]. Proceedings of the ACM MobiCom 2001， Rome： ACM Press， 2001， 272-286.
[4] 唐勇，周明天，张欣.无线传感器网络路由协议研究进展[J]. 软件学报，2006，17（3）：410-421.
bp神经网络范文第5篇
关键词：大坝变形预测；粒子群优化算法；BP神经网络；IPSO-BP模型.
中图分类号：P258文献标识码： A
1 引言
建立有效实用的大坝变形监测模型，对于监控大坝的运行意义重大。近年来，用于大坝变形预测的方法很多，传统方法有：时间序列法、回归分析法等[1]；新的预测方法有：灰色预测法 [2-3]、BP神经网络及其融合模型[4-6]、支持向量机模型[7-8]等。但大坝变形是一个复杂的系统，受诸多外界因素的综合影响，且对大坝变形的作用机制很难用精确的数学语言来描述，从而导致了传统预测方法和灰色预测方法的精度不高。支持向量机方法因关键参数选取的困难性影响了其实用性。
2 基于IPSO-BP神经网络预测模型
2.1 PSO算法及算法改进PSO算法是由Kennedy[9]与Eberhart[10]受鸟群觅食行为的启发后于1995年提出来的，是基于群体智能理论的优化算法，通过鸟之间的集体协作使群体达到最优的过程，为更好地控制算法的开发和探索能力，之后Shi等[11]引入惯性权重形成了标准版本。标准PSO算法首先初始化为一组随机粒子(随机解)，然后通过跟踪当前最优的粒子来搜索最优解。
2.2 BP神经网络拓扑结构及算法原理BP神经网络是一种反向传播并修正误差的多层前馈映射网络，只要有足够的隐节点，可以实现任意Rn上[0，1]n到Rm的映射能力和自学习、自组织和适应能力[3]。本文的神经网络优化模型采用3层BP网络，即输入层、中间层(隐含层)和输出层。
3 基于IPSO-BP神经网络预测模型在大坝变形预测中的应用
3.1 数据准备 为检验预测效果，本文选用文献[5]中我国丹江口大坝某坝段的挠度观测资料作为分析对象，输入向量由大坝上下游水位差因子、、，时效因子和ln（为观测日至基准日的累积天数除以1000），温度因子、、、、(分别为当天、前五天、前10天、前30天、前60天当地平均气温)共10个因子组成。
3.2 预测结果 应用训练数据对网络进行训练，采用基于IPSO-BP网络预测模型对检测样本进行预测，并与文献的方法进行对比。
从预测结果可知，IPSO-BP模型的平均相对误差为3.20%，文献[5]中改进的BP模型的平均相对误差为5.20%，未改进BP模型的平均相对误差为6.98%；同时，IPSO-BP模型最大相对误差为5.4%，均小于其余两种模型的最大相对误差(8.1%，10.8%)。可见IPSO-BP预测精度高，可满足大坝变形预测要求。
4结论
IPSO算法能够较好地调整全局与局部搜索能力之间的平衡，将其应用于BP网络参数的优化，建立了IPSO-BP模型，实现了两者的优势互补，即利用了BP网络的非线性映射能力、网络推理及预测功能，又利用了IPSO的全局搜索能力，因而在处理相关问题时具有明显优势。将优化后BP网络应用于大坝变形预测，仿真结果表明，此预测方法有效且可行。
参考文献
[1] 毛合钢,王南虹.大坝变形监测的预报方法[J].大众科技,2008, (6):75-77．
[2] 王利,张双成,李亚红.动态灰色模型在大坝变形监测及预报中的应用研究[J].西安科技大学学报,2005, 25(3):328-332．
[3] 王剑涛,陈建康,陈立成等.多变量灰色模型在大坝变形预测中的应用[J].四川水利发电,2008, 27(6):80-82．
[4] 徐晖,李钢.基于Matlab的BP神经网络在大坝观测数据处理中的应用[J].武汉大学学报(工学版),2005,38(3):50-53.
[5] 秦真珍,杨帆,黄胜林等.基于GA-BP算法的大坝边坡变形预测模型[J].测绘工程,2010,19(1):13-16．
[6] 闫滨,周晶,高真伟.基于遗传单纯神经网络的大坝变形监控模型[J].水利发电学报, 2007,26(4):110-114．
[7] 宋志宇,李俊杰.最小二乘支持向量机在大坝变形预测中的应用[J].水能源科学,2006,24(6):49-52．
[8] 李潇,徐进军.动态稳健支持向量机在大把变形预测中的应用[J].大地测量与地球动力学, 2009,29(2):118-120.
[9] Eberhart, R.C., Kennedy,J. A new optimizer using Particle Swarm Theory[C]. Proceeding of the sixth International symposium on micromachine and human science. Piscataway: IEEE Service Center, 1995.
