首页 > 文章中心 > 神经网络的实现

神经网络的实现

神经网络的实现

神经网络的实现范文第1篇

关键词:地形面 自由曲面 神经网络 BP算法 模拟退火

1 引言

在水利及土木工程中经常会遇到地形面,地形面是典型的空间自由曲面,地形面在给出时,往往只给出一些反映地形、地貌特征的离散点,而无法给出描述地形面的曲面方程。然而有时需要对地形面进行描述,或者当给出的地形面的点不完整时,需要插补出合理的点。以往大多用最小二乘法或其它曲面拟合方法如三次参数样条曲面、Bezier曲面或非均匀有理B样条曲面等,这些拟合方法的缺点是:型值点一旦给定,就不能更改,否则必须重新构造表达函数;在构造曲线曲率变化较大或型值点奇异时,容易产生畸变,有时需要人为干预;此外,这些方法对数据格式都有要求。

神经网络技术借用基于人类智能(如学习和自适应)的模型、模糊技术方法,利用人类的模糊思想来求解问题,在许多领域优于传统技术。用神经网络进行地形面构造,只要测量有限个点(可以是无序的),不需要其它更多的地形面信息和曲面知识,当地形面复杂或者是测量数据不完整时,用神经网络方法更具优势,而且还可以自动处理型值点奇异情况。

本文提出用BP神经网络结合模拟退火算法进行地形面的曲面构造。

2 模型与算法的选择

为了对地形面进行曲面构造,首先要有一些用于神经网络训练的初始样本点,对所建立的神经网络进行学习训练,学习训练的本质就是通过改变网络神经元之间的连接权值,使网络能将样本集的内涵以联结权矩阵的方式存储起来,从而具有完成某些特殊任务的能力。权值的改变依据是样本点训练时产生的实际输出和期望输出间的误差,按一定方式来调整网络权值,使误差逐渐减少,当误差降到给定的范围内,就可认为学习结束,学习结束后,神经网络模型就可用于地形面的构造。

BP网是一种单向传播的多层前向网络。网络除输入输出节点外,还有一层或多层的隐层节点,同层节点中没有任何耦合。输入信号从输入层节点依次传过各隐层节点,然后传到输出节点,每一层节点的输出只影响下一层节点的输出。其节点单元传递函数通常为Sigmoid型。BP算法使神经网络学习中一种广泛采用的学习算法,具有简单、有效、易于实现等优点。但因为BP算法是一种非线性优化方法,因此有可能会陷入局部极小点,无法得到预期结果,为解决BP算法的这一缺点,本文将模拟退火算法结合到BP算法中。

模拟退火算法是神经网络学习中另一种被广泛采用的一种学习算法。它的基本出发点就是金属的退火过程和一般组合优化问题之间的相似性。在金属热加工过程中,要想使固体金属达到低能态的晶格,需要将金属升温熔化,使其达到高能态,然后逐步降温,使其凝固。若在凝固点附近,温度降速足够慢,则金属一定可以形成最低能态。对优化问题来说,它也有类似的过程,它的解空间中的每一个点都代表一个解,每个解都有自己的目标函数,优化实际上就是在解空间中寻找目标函数使其达到最小或最大解。

(如果将网络的训练看成是让网络寻找最低能量状态的过程,取网络的目标函数为它的能量函数,再定义一个初值较大的数为人工温度T。同时,在网络的这个训练过程中,依据网络的能量和温度来决定联结权的调整量(称为步长)。这种做法与金属的退火过程非常相似,所以被称为模拟退火算法。)

模拟退火算法用于神经网络训练的基本思想是,神经网络的连接权值W可看作物体体系内的微观状态,网络实际输出和期望输出的误差e可看作物体的内能,对网络训练的目的就是找到恰当的状态W使其内能e 最小,因此设置一个参数T来类比退火温度,然后在温度T下计算当前神经网络的e与上次训练的e的差e,按概率exp(-e/T)来接受训练权值,减小温度T,这样重复多次,只要T下降足够慢,且T0,则网络一定会稳定在最小的状态。

模拟退火算法虽然可以达到全局最优,但需要较长时间,BP算法采用梯度下降方式使收敛速度相对较快。为取长补短,我们将两种算法结合起来,采用BP算法的梯度快速下降方式,同时利用模拟退火算法技术按概率随机接受一个不成功的训练结果,使梯度快速下降过程产生一些随机噪声扰动,从而既保证了网络训练的快速度下降,又保证了训练结果的最优性。

3网络结构与学习算法

3.1网络结构

如何选择网络的隐层数和节点数,还没有确切的方法和理论,通常凭经验和实验选取。本文采用的BP网络结构如图1所示,输入层两个节点,分别输入点的x坐标和y坐标;两层隐层,每层10个节点,输出层一个节点,输出点的z坐标。

3.2 学习算法

学习算法的具体过程如下:

其中Out_node为输出神经元集合.

4计算实例

为了检验本文算法的有效性, 我们用本文算法对黄河下游河滩地形面进行曲面构造, 地形面数据按截面给出, 我们用奇数截面上的点为学习样本, 偶数截面上的点用于检验本算法的精度. 表1给出了测量值z1与本文算法计算结果z2, z2为本算法经过大约3500次迭代的结果. 由这些数据可以看出,本文算法计算出的值与测量值的误差大约在0.02左右. 完全可以满足实际工程要求的精度.

5 结语

用神经网络进行地形面的曲面构造, 不必求出曲面的方程, 只需知道有限个点即可, 而且这些点可以是散乱点. 与传统方法相比, 神经网络方法具有很强的灵活性.

本文将BP算法和模拟退火算法结合起来, 解决了BP算法容易陷入局部极小的致命缺点. 但仍然没有解决BP算法收敛速度慢的缺点.

NEURAL NETWORK METHOD TO CONSTRUCT TERRAIN SURFACE

Abstract

This paper presents an artificial neural network approach to solve the problem of terrain surface construction. This method takes advantage of the global minimum property of Simulated Procedure on the basis of BP algorithm, thus can jump out of the local minimum and converge to the global minimum..This method were validated by simulating bottomland terrain of Yellow River.

Key words: terrain surface; freeform surface; neural network; BP algorithm; simulated annealing

参考文献

[1] 王铠,张彩明. 重建自由曲面的神经网络算法[J]. 计算机辅助设计与图形学学报,1998,10(3):193-199

神经网络的实现范文第2篇

关键词:Web;神经网络;主成分分析;雅克比;BP

中图分类号:TP311.52 文献标识码:A文章编号:1007-9599 (2011) 17-0000-02

Web-based Indicators of Neural Network Forecasting System Implementation

Tan Weijuan

(Beiqu Informatization Service Center,Shanghai200072,China)

Abstract:In this paper,the status indicators and predict trends in software development,describes the use of neural networks and principal component analysis of indicators forecasting system,based on network technology development and focuses on Web-based indicators of neural network prediction system solutions.Construction of indicators to forecast the establishment of the basic model.System uses the actual project as a learning content information,the results show that this method of construction projects to establish indicators of prediction model is correct and feasible.

Keywords:Web;Neural network;Main component analysis;

Jacobi;BP

一、引言

指标预测系统是一类在实际工作中有非常重要的应用价值的软件,它可以应用在社会生产的各个领域,例如工程造价预测,国民经济发展方向评估和预测等。目前预测软件常用的方法主要是统计方法,采用这种方法进行指标预测所需的周期比较长,而且由于不具有智能性,因此可靠性较低。另外传统的统计预测软件一般都是单机版,不能适应信息系统网络化发展的实际需要,应用范围比较狭窄。笔者结合建筑管理软件的现状在预测方法方面做了一些研究,采用基于web的神经网络指标预测方法,这种方法也传承了传统统计预测方法的基本思想。预测结果表明,采用这种方法进行指标预测,和传统的预测方法相比不但缩短了预测周期,而且扩大了应用范围。

二、神经网络指标预测系统基本原理

BP(Back Propagation反向传播)网络是人工神经网络的一个经典模型[4],它的拓扑结构如上页图所示:

BP网络分为三层,输入层对应于预测系统的各输入指标,输出层对应于各输出指标,另外为了避免网络节点值为零可能引起的振荡,在输入层设置了Threshold节点,对应输入值为1。

BP网络对一些非线性模式有很好的识别能力,适合于解决一些计算方法异常复杂的非线性问题,指标预测就是这类问题。

在进行指标预测时,首先要确定BP网络的输入输出指标体系。输入指标即已知条件,输出指标即要预测的内容。

三、指标预测系统在互联网环境中的实现-基于Web的指标预测系统

随着Internet的不断发展,软件系统的网络化称为一个必然的趋势,预测软件当然也不例外。预测系统的网络化有两种方式。一种是基于客户/服务器模型的实现;另一种是基于B/S模型的网络预测软件。

基于客户/服务器模型的预测软件由客户端和服务器组成。服务器程序具有主成分分析、训练神经网络、处理客户端请求等功能,运行在服务器端。客户端是客户使用指标预测服务的终端,主要具有接受用户的输入指令,将输入指令转换成指标预测请求,然后通过网络发送给服务器,服务器端的服务程序响应这个请求,将预测的结果返回给客户端,再由客户端将结果提供给用户。服务器和客户端的通信可以由多种方式完成,例如使用TCP或者UDP协议,这样基于客户/服务器的预测模型可以扩展到Internet环境下,而不仅仅局限于局域网的环境。这种方式的优点在于支持图形化的输出结果,并且可以集成大量的应用逻辑,可以满足复杂的应用需求。但是,由于应用程序集成了大量应用逻辑,当服务器端数据的逻辑视图改变之后,应用程序的应用逻辑也要有相应的改变,带来了程序维护和更新的不便。

基于B/S模型的预测软件,客户端将基于Microsoft Internet Explorer通用浏览器。服务器则由指标服务程序和Web服务程序组成。指标服务程序完成主成分分析、神经网络训练等功能,它作为标准的应用程序运行在服务器的后台。Web服务程序则完成接受客户的指标预测请求,并且调用指标服务程序训练结果,并把预测结果返回给用户的功能。

服务器端所有的业务应用采用常用的三层架构:表现层、业务逻辑层、数据层。

系统总体应用结构设计图

Web服务程序可以由多种手段来实现,不同的实现手段要求的系统平台也不同。主要有以下三种方法:

(一)基于ASP或JSP的指标服务程序。ASP和JSP都是目前较为成熟的技术,它们可以实现动态的、交互式的网页,执行效率比较高。但是它们只能满足一般的应用,而不能满足需要大量图形输出的要求。因此在指标预测的实现方面有一定的局限性。

(二)基于ActiveX技术的指标服务程序。这种方式主要应用在有大量图形类输出结果的情况,例如预测软件要向用户提供图形化的报表和对比图等,而这样的功能要求对于基于ASP,JSP的方案来说,实现起来有很大的难度。而ActiveX技术在实现基于Web的图形化输出结果方面,就有很大的优势。用户在使用服务器的预测服务时,可以先下载一个ActiveX的插件,然后直接通过浏览器调用ActiveX程序,使用预测服务。

(三)基于技术的指标服务程序。是把基于通用语言的程序在服务器IIS上运行。这种方式主要应用在有大量图形类输出结果的情况,ASP即时解释程序,是是将程序在服务器端首次运行时进行编译,这样的执行效果,比一条一条的解释强很多。

四、Web神经网络指标预测主成分分析方法

在实际工作中,人们经常需要对客观事物从不同的侧面进行客观评价,例如对一个国家和地区的社会经济发展水平做出评价,经济效益状况的综合考核,建设工程各指标综合对整体影响度的评测等等,解决这类问题的方法就是统计学当中的多指标综合评价方法。

在多指标综合评价中,人们往往会遇到这样的问题:选取的评价指标越多,则对事物的描述越准确,但是也带来了数据量异常大、处理异常复杂的问题。而且评价信息可能相互重叠和干扰,从而难以正确的反映出被评价对象的相对地位。实际上,并不是所选取的每个指标都是人们所关心的,人们可能只关心指标体系中的部分指标。因此人们希望使用少数几个没有线性关系的新指标来代替原来的为数较多并且彼此有相互联系的指标,同时这些新的指标又能够尽可能的反映原来被评价对象的相对地位。解决这个问题的一种有力工具就是主成分分析方法[1]。建设工程指标预测的方法和步骤:

(一)确定输入和输出指标体系。根据实际需要确定系统的输入和输出指标。例如在本系统中,要求根据已知建设项目的建筑面积、层高、檐高、层数、建筑结构等信息,来确定工程的总造价、单方造价、土建造价、卫生造价等。在系统中,已知的建筑面积、层高、檐高、层数、建筑结构等即为系统的输入指标,而未知的工程的总造价、单方造价、土建造价、卫生造价即为系统的输出。

(二)主成分分析。根据用户所确定的基本输入输出指标,由系统自动完成主成分分析工作。主成分分析是统计科学中的一种重要方法,目的是分析出给定指标体系中各指标对总体的影响程度,主要通过一些矩阵的运算来实现。在实际应用中,我们为了提高系统的工作效率、通用性、可扩展性,可以分析出用户所给定的指标体系中那些比较重要的指标,即“主成分”。主成分分析大体包括下列步骤:(1)对原始资料进行标准化处理,这样可以提高训练结果的收敛性。(2)计算标准化后各指标的协方差矩阵,即为相关系数矩阵。假设有p个指标(输入指标与输出指标的个数和),则得到的相关系数矩阵是p×p的方阵。(3)计算相关矩阵的特征根。通过雅克比方法(Jacobi)[3]可以计算出协方差矩阵的p个特征根λ1Rλ2R•••RλpR0。此处λi即为第I个主成分的方差,它反映了第I个主成分在描述被评价对象上所起的作用的大小。(4)计算各主成分的方差贡献率及累积方差贡献率。(5)选择主成分的个数。根据实际需要,使前k个主成分的累积方差贡献率达到一定的要求,通常取85%即可。

(三)根据所确定的主成分指标和系统的输入输出要求确定网络的拓扑结构。输入、输出值的个数决定了网络拓扑结构的选择。在本系统的模型中,系统根据用户主成分分析完毕后的指标体系确定网络的输入、输出和隐藏节点数,并且在训练的过程中根据实际需要动态进行调整,这些工作都由系统自动完成,不需要用户的介入。

(四)确定网络的传递规则、输出规则和学习规则。即确定如何将各层的输入输出值与权值矩阵结合起来,根据系统的输入得到系统输出。并且如何在系统训练过程中根据训练数据对权值矩阵进行修改,使系统拥有对确定性输入有正确的输出的能力。

(五)网络训练及指标预测。根据上述各步骤的结果以及所确定的训练算法,结合大量的具体工程实例,对神经网络进行训练,并且将误差控制在用户限定的范围之内。训练结束后,用户就可以使用训练的结果结合工程项目已知数据对未知数据指标进行预测。

五、实例

本例中选取了7条训练资料,用其中6条进行训练,另外一条资料进行自测试。选取的指标分别是:

输入指标:建筑面积、层高、檐高、外墙面积、内墙面积、门窗面积、楼板面积、底层面积。

输出指标:工程总造价、土建造价、采暖造价、照明造价、卫生造价和单方造价。

原始资料矩阵为:

3313.45 2750.00 11.55 3539.00 4776.02 855.720 641.88 3152.88 397.77 342.93 15.78 39.05 15.78 1200.4

2926.00 2700.00 16.20 1458.00 2901.00 3023.00 498.00 2882.00 263.53 222.62 11.52 14.57 10.87 900.67

6218.00 2700.00 16.95 3544.55 6386.43 7364.52 1055.6 6399.82 596.36 483.81 25.10 45.66 29.87 959.10

3680.00 2700.00 10.80 1900.59 3731.31 4097.55 560.71 3749.23 379.38 311.59 15.23 27.03 18.66 1030.9

7205.00 2700.00 16.20 3717.00 7286.00 7516.00 1175.0 7113.00 618.94 498.49 28.20 49.94 31.31 859.05

4485.00 2700.00 11.55 2469.00 5496.00 4687.00 772.00 4157.00 492.77 407.14 21.93 37.70 18.50 1098.7

(其中矩阵的前8列为输入指标,后6列为输出指标,每行为一条工程资料)

在阈值为0.001的条件下训练完毕后,使用最后一条资料进行自测试,最后一条资料为:

输入:5684.00 2700.00 11.55 2847.00 6056.00 5872.00 953.00 5665.00

输出(实际值):547.34 445.66 24.94 40.99 25.87 962.96

得到的测试结果为(系统预测输出值):

541.55 441.77 23.23 43.39 24.29 959.66

比较工程实际值和系统预测输出值,可以发现两者是非常接近的。如果要求误差控制在5%之内的话,则上述模型已经满足了要求。

六、结论

基于人工神经网络的指标预测系统有较强的通用性,并且能够适合多种指标预测的需求。从上述训练的过程和测试结果的正确性可以看出,采用基于人工神经网络和主成分分析方法进行建设工程指标预测是可行的。上述过程使用了7条工程数据,要进一步确定此方法的正确性,还要在大量工程数据的环境下进行进一步的训练以及算法的调整。这也是笔者下一步的工作内容Web新技术的应用,将指标预测服务扩展到了Internet环境下,进一步提高了其应用范围。

参考文献:

[1]张崇甫,陈述云,胡希铃.统计分析方法及其应用[M].重庆大学出版社,1995

[2]吴国富,安万福,刘景海.实用数据分析方法[M].中国统计出版社,1992

神经网络的实现范文第3篇

关键词:温度控制系统;研究;实现

国内市场中的注塑机温度控制系统大多采用比例积分微分(pid)控制和模糊控制。在塑料机械中,料桶的温度控制非常关键,低于或者高于塑料的适宜熔融标准都会影响产品的最终成型质量。由于产品成型过程复杂而且可影响因素多,如果可以做好料桶的温控就可以对整个生产起到事半功倍的效果。但是这几种控制方式都需要建立精确的数学模型,而注塑机温度控制系统是一个大滞后、强耦合、非线性的时变系统,建立精确的数学模型是非常困难的,因此pid温控系统的效果并不是很理想,鉴于这种情况,本文引入一个基于bp神经网络的温度pid控制系统来改善注塑机温度控制。神经网络具有表达任意非线性映射的能力,能够对非线性系统进行建模。利用神经网络的这一特点建立动态模型,作为预测控制器的预测模型,可用于热力过程的预测和控制,应用bp神经网络,通过学习和训练逼近对象的真实模型。对温度控制的各相关指标的相对权重确定。影响温度变化各相关因素在输入预测和评估模型时, 需要一组决定其相对重要性的初始权重,权重的确定需要基本的原则作支持。例如确定温度的上限及下限,纯加热控制段的比例,不同位置的温度控制段的默认pid参数等。目前本文使用的是基于经验的三层架构的bp神经网络架构,通过输入层对采样数据的输入,隐含层的各种计算,并把计算结果通过输出传递出去,这样经过在线指导后,可以满足bpn-pids系统的算法的实现。其中各层的连接权值首先通过随机赋值的方式进行,然后根据各指导案例的学习,得到健壮的权重值。

本文的主要工作是设计并实现了一个基于bp神经网络的温度pid控制系统(bp neural network pid system简称为bpn-pids),其核心是 pid神经网络,如图1-2 bpn-pids控制算法所示。本文主要参考了如下的相关技术:pid控制原理,bp神经网络(如图1-1神经网络图所示),matlab软件,b/s软件架构以及asp开发工具,xml数据库存储以及opc行业标准。对于具有多变量强耦合时变特性的温度控制系统,本文所构建的pid神经网络可以通过在线学习建立科学的预测和评估指标体系及设计相应的模型计算方法与学习参数;同时,根据对象参数发生变化时对系统输出性能的影响来调整连接权值,改变网络中比例、积分和微分作用的强弱,使系统具备良好的动态和静态性能,达到系统解耦和温度控制的目的。本文结合不同塑料的具体实际特性, 对指标和模型体系进行了实证分析, 解决了普通pid控制系统的非确定性、非固定性元素。

bpn-pids系统已借助matlab软件进行了仿真与实现。系统架构如图1-3系统框架所示,包括服务器应用端程序,注塑机端相应的应用。

服务器应用端分为通讯模块,控制功能模块与数据库服务,其中控制功能模块为核心。

通讯模块的作用为服务器应用端与注塑机端的通讯并传递相应数据。

控制功能模块为核心模块,通过对传递到的数据分析与运算,进行整个系统的控制。

数据库服务则为控制功能模块服务,它将数据存储到数据库中,需要的时候则可以提取出来。

注塑机端应用分为:上位机应用,下位机应用其中,上位机应用主要作用是采集下位机的数据,经过处理后通过通讯模块给应用程序控制模块进行相应的分析,然后接受控制模块的输出指令,传递给下位机。

下位机的主要作用是通过a/d模块采集料筒的实际温度,然后传递给上位机。再接受上位机的控制指令,对料筒进行是否加热的指令。

由于采用了c/s结构,本文中注塑机端最多可以接连255个客户端。

i)总体结构

设bp神经网络是一个采用三层bp结构,它有m个输入节点,其中,根据算法结构,m=3,q个隐含节点,3个输出节点。输入节点对应所选的系统运行状态量,如系统不同时刻和输入量和输出等,必要时进行归一化处理。输出节点分别对应pid控制器的三个参数kp、ki、kd,由于这三个参数都不能为负,所以输出层神经元激活函数一定要取非负的sigmoid函数。此处根据经验,当q值过小,则算法有可能失败,当q值过大,则算法速度太慢,同时占用资源过多,所以取q=5。

ii)学习算法请参看图1-4 bp神经网络学习算法

(a)、确定bp网络结构,即确定输入层节点数m和隐含层

点数q,并给出各层的加权系数的初值,选定学习速率η和惯性系数α。初值随机赋值,学习速率与惯性系数取习惯值,此时k=1。

(b)、采样得r(k)和y(k),计算该时刻误差e(k)=r(k)-y(k)

(c)、计算神经网络各层神经元得输入、输出,nn得输出即为pid控制器得三个可调参数kp、ki、kd。

(d)、根据增量式算法计算pid得输出u(k)。

(e)、进行神经网络得学习,通过数据库的存储读取,离线调整加权系数,实现pid控制器参数得自适应调整置,重复步骤(b)-(e)。

(f)、置k=k+1,返回到b步骤

在仿真中,比较常规pid与bpn-pids系统仿真。从中可以得知通过优化和混合仿真传统pid控制器能够获得很好的系统性能,bpn-pids获得了平滑的变换,但存在静态误差。当模型参数变化时,比较两者的鲁棒性,显示了当时延增大时,传统pid出现了振荡。传统pid控制在注塑机温度控制系统中能达到较好的控制性能和控制精度。但是,当系统的参数发生变化时,常规pid的鲁棒性就很差了。而神经pid虽然存在静态误差,但仍然有很稳定的平滑性。bpn-pids同样也能获得更为平滑的过渡过程,但是系统存在着静态误差。bpn-pids具有自学习和自调整的能力,当模型参数改变时,bpn-pids仍然有平滑的过渡过程,这就证明bpn-pids的鲁棒性比传统pid更强,适应能力更强。通过matlab实现了bpn-pids算法,解决了普通pid控制方法中的非确定性,非固定的问题,通过bp神经网络的在线自学习能力,为今后不同材料,不同模具的应用达到了良好,健壮的温度控制。 从图1-5信号跟踪图中可以看出:控制变量u变化规则,扰动较小,跟踪曲线光滑,跟踪误差小,达到稳定状态后,误差波动小。

图1-6误差曲线图为系统的误差曲线,可以看出,系统跟踪误差非常小大约在(0.008~-0.008 内),跟踪效果很理想。

图1-7 pid参数变化图反映了整个过程中参数kp,ki,kd 随时间变化的情况,可以看出, kp,ki,kd 在不断调整,从而使控制效果最佳。

本文以基于神经网络的解耦控制和pid控制作为研究的出发点,经过查阅资料、理论研究以及实际测试,取得的研究结论可简要的归纳如下:

(1)就基于神经网络的参数自适应pid控制算法进行了分析研究。利用神经网络所具有的任意性表达能力,通过对系统的学习来实现具有最佳组合的pid控制。避免了凭经验选取pid控制参数的不确定性,而且可以实现控制器参数的在线调整和整定。算法主要由两个部分组成:

a.经典的pid控制器,控制算法为经典增量式。直接对被控对象进行闭环控制,而且三个参数为在线调整方式。

b.神经网络,根据系统的运行情况,根据学习算法,在线调整pid控制的参数使得给定性能指标最优,输出层神经元的输出状态读对应于pid控制器的三个可调参数。

(2)给出了一种基于神经网络的分散解耦算法bpn-pids算法。这种分散解耦算法从本质上仍属于串联解耦的一种特殊情况,但他与串联解耦又有所不同。

(3)将基于神经网络的参数自适应pid控制算法与分散解耦算法结合,并能过matlab软件中实现了bpn-pids算法,并实现了在线的整定的算法,既避免了当单独采用自适应pid算法时,如多变量被控对象耦合严重,则控制效果不佳的问题;又避免了当采用分散解耦算法时,如出现多变量被控对象模型参数发生变化,原有的控制器参数不能适应变化后的对性的问题。将该算法应用与料筒的温度控制,结果表明可以取得较为满意的控制效果。

本文工作对具有多变量强耦合时变特性的控制系统的设计与实现具有较好的参考价值。

参考文献

[1](美)martin t.hagan,等.神经网络设计[m].机械工业出版社,2002)9).

神经网络的实现范文第4篇

关键词:神经网络 计算机安全 入侵检测

中图分类号:TP393.08 文献标识码:A 文章编号:1674-098X(2012)12(c)-00-01

自从1960年Widrow等提出自适应线形神经元用于信号处理中的自适应滤波、预测和模型识别以来,神经网络技术便被用来解决现实生活中的问题。而在McCulloch等基于模仿人脑结构和功能建立起一种人工智能的信息处理系统后,人工神经网络在土木工程、农业、经济管理及企业管理等不同领域中被广泛应用[1-2]。该文介绍了神经网络的概念及特点,并分析神经网络在计算机安全尤其是在网络入侵检测中的应用。

1 神经网络的概念及特点

1.1 神经网络的概念

神经网络是一个并行、分布处理结构,是由神经元及称为联接的无向讯号通道互连而成。人工神经网络(Artificial Neural Network,ANN)指的则是模仿生理神经网络的结构和功能而设计的一种信息处理系统,即由多个非常简单的处理单元彼此按某种方式相互连接而形成的信息处理网络[3]。

1.2 神经网络的特点

在人工神经网络中,由于网络中的每一个单元都是独立的信息处理单元,因此其计算可独立进行,而整个网络系统却是并行计算的。这不同于传统的计算机的串行运算。由于神经网络是一个大规模互联的复杂网络系统,因而是大规模的并行处理,这在一定程度上提高了系统的处理速度,同时也为实时处理提供了重要条件。人工神经网络与人脑类似,具有学习的功能。通常只要给出所需的数据、实例,由网络去学习,而学习获得的知识都分布储存在整个网络的用权系数表示的连接线上。不同网络因学习方法及内容不同,可得到不同的功能和不同的应用。因而有可能解决传统人工智能目前最感困难的机器学习中知识获取、知识表示等问题。此外神经网络还对于输入数据的失真具有相当的弹性。

1.3 常用的神经网络算法

常用的神经网络算法包括ARTMAP模型、ART模型、概率模型PNN、模糊模型ART、模糊多层感知器、Kohonen特征映射网络、反馈多层感知器模型等[4-5]。其中,ART模型和Kohonen特征映射网络、模糊模型ART属于无监督训练算法,而反馈多层感知器模型是受限反馈,ARTMAP模型、ART模型属于反馈的网络拓扑

结构。

2 神经网络在网络入侵检测中的应用

2.1 神经网络应用于网络入侵检测的优势

由于神经网络对于数据训练获得预测能力的过程是通过完全抽象计算实现的,而不强调对于数据分布的假设前提,因此在建立神经网络模型过程中没有必要向神经网络解释知识的具体细节。同时,神经网络在网络入侵检测中,可以通过数据运算而形成异常的判别值,这样可以对于当前是否受到攻击行为影响做出判断,从而实现对检测对象是否存在异常情况的检测[6-8]。

2.2 神经网络在网络入侵检测中的应用

神经网络在网络安全尤其是入侵检测方面已有了相当的研究[9]。有研究者将组织聚类神经网络应用于计算机安全研究中,其采用了自适应谐振学习法进行数据的前期训练,对于无显著意义的平均误差减少时,采用遗传算法继续在前期基础上进行数据数据以得到最佳的权值。国内也在神经网络应用于网络入侵检测上做了大量工作。王勇等研究者在参考MIT Lincoln有关网络入侵检测方法基础上,提出了基于Linux主机的网络入侵检测方案,实现了对于多种网络攻击的特征进行抽取及检测的目的[10]。

神经网络在网络入侵检测中有广泛的应用空间[11-12],今后应该扩大训练数据的数量和范围,并扩大操作系统的研究空间,通过模拟真实的计算机网络环境,将神经网络技术真正应用于计算机安全尤其是入侵检测工作中。

参考文献

[1] 李季,蒲彪.人工神经网络在食品微生物发酵中的应用[J].食品研究与开发,2009,30(4):171-174.

[2] 李聪超,周铁军.人工神经网络在农业中的应用[J].农业网络信息,2008(1):35-38.

[3] 李丽霞,张敏,郜艳晖,等.人工神经网络在医学研究中的应用[J].数理医药学杂志,2009,22(1):80-82.

[4] 高隽.人工神经网络原理及仿真实例[M].北京:机械工业出版社,2003:44-73.

[5] 杨行峻,郑君里.人工神经网络与盲信号处理[M].北京:清华大学出版社,2003:23-105.

[6] 程丽丽.基于模糊神经网络的入侵检测设计模型[D].哈尔滨:哈尔滨理工大学,2005.

[7] 周开利,康耀红.神经网络模型及其MATLAB仿真程序设计[M].北京:清华大学出版社,2005.

[8] 李家春,李之堂.神经模糊入侵检测系统的研究[J].计算机工程与应用,2001,23(17):37-39,

[9] 王勇,杨辉华.一种基于进化神经网络的入侵检测实验系统[J].华东理工大学学报(自然科学版),2005(6):362-366

[10] 乔瑞.基于优化自组织聚类神经网络的入侵检测方法研究[J].计算机与现代化,2005(1):77-79.

神经网络的实现范文第5篇

[关键词]BP神经网络农业工程农业管理农业决策

一、引言

采用神经网络算法的信息处理技术,以其较强的计算性和学习性,现如今已经在各工程领域内得到了广泛应用。随着科技不断的发展和研究的不断深入,农业系统中采用的传统分析和管理的方法已经不能满足农业工程领域快速发展的需要。在农业系统中采用神经网络技术可在一定程度上可弥补传统方法的不足,现已成为实现农业现代化的一个重要途径。神经网络现已在农业生产的各个环节得到广泛的应用,从作物营养控制、作物疾病诊断、产量预测到产品分级,显示了巨大的潜力,并正以很快的速度与生产实际相结合。目前应用比较多的BP神经网络,可通过学习以任意精度逼近任何连续映射,在农业生产与科研中展示出了广阔的应用前景。

BP人工神经网络方法。人工神经网络是对生物神经网络的简化和模拟的一种信息处理系统,具有很强的信息存贮能力和计算能力,属于一种非经典的数值算法。通常可分为前向神经网络、反馈神经网络和自组织映射神经网络。BP神经网络(Backpropugation Neura1 Network)是一种单向传播的多层前向神经网络,可通过连续不断的在相对于误差函数斜率下降的方向上计算网络权值以及偏差的变化而逐渐逼近目标值,每一次数字和偏差的变化都与网络误差的影响成正比,并以反向传播的方式传递到每一层,从而实现了神经网络的学习过程。BP人工神经网络的结构如图所示,BP神经网络可分为输入层、中间层(隐含层)和输出层,其中输入和输出都只有一层,中间层可有一层或多层。同层的网络结点之间没有连接。每个网络结点表示一个神经元,其传递函数通常采用Sigmoid型函数。BP神经网络相当于从输入到输出的高度非线性映射,对于样本输入和输出,可以认为存在某一映射函数g,使得y0=g(xi),i=1,2,3,…,m,其中m为样本数,xi为输入样本,yo为输出结果。

BP神经网络的一个显著优点就是其可进行自学习,能够通过训练得到预期的效果。其学习过程由正向传播和反向传播组成,神经网络的输入值经过非线性变换从输入层经隐含层神经元的逐层处理传向输出层,此为正向传播过程。每一层神经元的状态将影响到下一层神经元状态。如果输出层得到的数值与期望输出有一定的偏差,则转入反向传播过程。神经网络通过对输入值和希望的输出值(教师值)进行比较,根据两者之间的差的函数来调整神经网络的各层的连接权值和各个神经元的阈值,最终使误差函数达到最小。其调整的过程是由后向前进行的,称为误差反向传播BP算法。具体学习过程如下:

(1)随机给各个权值赋一个初始权值,要求各个权值互不相等,且均为较小的非零数。

(2)输入样本集中每一个样本值,确定相应的网络实际输出值。

(3)计算实际的输出值与相应的样本集中的相应输出值的差值。

(4)按极小误差方式调整权值矩阵。

(5)判断网络误差是否小于训练前人为设定的一个较小的值,若小于,则跳出运算,此时的结果为神经网络的最终训练结果;若大于,则继续计算。

(6)判断最大迭代次数是否大于预先设定的数,若小于,返回(2);若大于,则中止运算,其结果为神经网络的最终训练结果。

上述的计算过程循环进行,直到完成给定的训练次数或达到设定的误差终止值。

二、BP神经网络在农业工程领域中的应用

1.在农业生产管理与农业决策中的应用

农业生产管理受地域、环境、季节等影响较大,用产生式规则完整描述实际系统,可能会因组合规则过多而无法实现。神经网络的一个显著的优点就是其具有较强的自学习、自适应、自组织能力,通过对有代表性的样本的学习可以掌握学习对象的内在规律,从而可以在一定程度上克服上述信息量大的问题。神经网络在农业生产管理方面可用于农作物生长过程中对农作物生长需求进行预测,从而通过对养分、水分、温度、以及PH值的优化控制达到最优的生长状况。采用神经网络预测算法的主要思想可描述为:(1)收集一定规模的样本集,采用BP算法进行训练,使网络收敛到预定的精度;(2)将网络权值矩阵保存到一存储介质中,例如文本文件或数据库中;(3)对于待预测数据的输入部分,从存储介质中读出网络连接权值矩阵,然后通过BP神经网络的前向传播算法计算网络输出,输出结果既是预测出来的数值向量。如霍再林等针对油葵不同阶段的相对土壤含盐浓度对其产量的影响有一定的规律的现象,以油葵的6个成长阶段的土壤溶液含盐的相对浓度为输入样本,相对产量为输出样本,通过比较发现,训练后的神经网络能较好预测油葵产量,采用此方法可补充传统模型的不足,为今后进一步的研究开辟了新路。

在农业决策方面,主要将农业专家面对各种问题时所采取的方法的经验,作为神经网络的学习样本,从而采用神经网络建立的专家系统将从一定程度上弥补了传统方法的不足,将农业决策智能化。如何勇、宋海燕针对传统专家系统自学习能力差的缺点,利用神经网络可自我训练的优点,将神经网络引入专家系统中。将小麦缺素时的田间宏观表现,叶部、茎部、果实症状及引起缺素的原因这五个方面的可信度值作为神经网络的输入量,将农业专家诊断的结论作为输出量,将这些数据作为神经网络的训练数据。实际应用表明此系统自动诊断的结果与专家现场诊断的结果基本一致,从而采用该系统能够取代专家,实现作物的自我诊断,为农业管理方面提供了极大的帮助。如马成林等针对于传统施肥决策方法中非线性关系描述不足的问题,基于数据包分析和BP神经网络,建立了施肥决策模型,应用表明,在有限的范围内,模型预测结果较为合理,可以反映玉米的需肥特性。刘铖等人提出采用神经网络应用在农业生产决策中,以莜麦播种方式决策为例,通过对产生式规则的分析导出神经网络输入、输出单元数,并通过多次试验确定隐层单元数,用MATLAB方针结果表明,采用神经网络作为农业生产决策的方法,取得了较好的效果。谭宗琨提出将基于互联网环境下的神经网络应用在玉米智能农业专家系统中,根据农作物发育进程分成若干个发育期,分别对各个发育期建立管理模型,依照作物各发育期进程时间间隔,由计算机系统自动选取相应的模型进行决策。应用分析的结果表明采用神经网络的玉米智能专家系统已初步接近农业生产的实际。

2.在农产品外观分析和品质评判

农产品的外观,如形状、大小、色泽等在生产过程中是不断变化的,并且受人为和自然等复杂因素的影响较大。农产品的外观直接影响到农产品的销售,研究出农作物外观受人为和自然的影响因素,通过神经网络进行生产预测,可解决农产品由于不良外观而造成的损失。如Murase 等针对西红柿表皮破裂的现象,西红柿表皮应力的增长与西红柿果肉靠近表皮部分水分的增加有关,当表皮应力超过最大表皮强度时,将导致表皮破裂。用人工神经网络系统,预测在环境温度下的表皮应力,可通过控制环境变量来减少西红柿表皮破裂所造成的损失。

在农业科研和生产中,农产品的品质评判大多是依赖于对农产品外观的辨识。例如对果形尺寸和颜色等外观判别果实的成熟度,作物与杂草的辨别,种子的外观质量检测。由于农业环境的复杂性和生物的多样性,农产品的外观不具有较确定的规律性和可描述性,单一采用图像处理技术辨识农产品的外观时不宜过多采取失真处理和变换,否则则增加图像处理的复杂性,特征判别也相对困难。人工神经网络由于其具有自学习、自组织的能力,比较适宜解决农业领域中许多难以用常规数学方法表达的复杂问题,与图像处理技术相结合后,可根据图像特征进行选择性判别。采用此方法可以部分替代人工识别的工作,提高了生产效率,也有利于实现农业现代化。如Liao等将玉米籽粒图像用34个特征参数作为神经网络的输入变量,将输出的种粒形态分为5类,经过学习的神经网络对完整籽粒分类的准确率达到93%,破籽粒分类的准确率达91%。

3.蔬菜、果实、谷物等农产品的分级和鉴定

在农业生产中,蔬菜、果实、谷物等农产品的分级和鉴定是通过对农产品外观的辨识进行的。传统的农产品外观的辨识方法费时费力、预测可靠度很低,而且多采用人工操作,评价受到操作者主观因素的影响,评判的精度难以保证。利用人工神经网络技术结合图像处理技术可部分代替以往这些主要依靠人工识别的工作,从而大大提高生产效率,实现农业生产与管理的自动化和智能化。

利用BP神经网络技术对农产品果形尺寸和颜色等外观评判,目前国内外已有不少成果用于实际生产中。何东健等以计算机视觉技术进行果实颜色自动分级为目的,研究了用人工神经网络进行颜色分级的方法。分别用120个着色不同的红星和红富士苹果作为训练样本集对网络进行离线训练。两个品种的苹果先由人工依据标准按着色度分成4级,对每一个品种分别求出7个模式特征值作为BP网络的输入,用训练好的神经网络进行分级。结果表明红富士和红星果实的平均分级一致率分别为94.2%和94.4%。刘禾等用对称特征、长宽特征、宽度特征、比值特征等一系列特征值来描述果形。采用BP网络与人工智能相结合,建立果形判别人工神经网络专家系统。试验水果品种为富士和国光。试验表明系统对富士学习率为80%,对非学习样本的富士苹果的果形判别推确率为75%,系统对国光学习率为89%,对非学习样本的国光苹果果形判别系统的难确率为82%。

三、未来的发展方向

人工神经网络的信息处理技术现已在农业工程领域内得到了迅速的应用,采用人工神经网络算法的农业系统能够从一定程度上改善控制效果,但此技术在农业范围内还不够成熟,有待于进一步的研究。今后科研的方向大体上可以从以下几方面着手:

1.人工神经网络算法的改进

人工神经网络算法由于本身具有一定的缺点,从而采用人工神经网络的算法的信息处理技术在应用过程中具有一定的局限性。在今后的研究中,可以从人工神经网络方向着手,改进人工神经网络算法,从而实现其在农业领域内更好的应用。近年来随着模糊算法、蚁群算法等算法的相继出现,将神经网络与其他算法结合在一起已经成为了研究的热门话题,也是未来算法研究的主要方向之一。

2.应用领域的扩展

人工神经网络算法在农业工程方面现已得到了迅速的发展,扩展其在农业工程领域的应用范围是未来的一个主要研究方向。人工神经网络由于其具有自学习能力,可对农业系统的非线形特性进行较好的描述,采用人工神经网络可解决传统方法的不足,从而实现农业现代化。如何将神经网络较好地引入到农业系统,解决农业工程中的部分问题,已是今后农业科研中的一个方向。

四、结束语

神经网络作为一种人工智能范畴的计算方法,具有良好的自学习与数学计算的能力,可通过计算机程序进行模拟运算,现已广泛用于模式识别、管理决策等方面。随着计算机硬件和软件的不断发展与农业工程方面的研究的不断深入,神经网络将在农业管理、农业决策、农作物外观分类、品质评判等方面充分发挥其自学习能力强,计算能力强的优势,通过对样本数据的学习,神经网络可较好地解决农作物生长过程中的作物分类、预测等非线形的问题。在农业工程领域内,神经网络拥有广阔的科研前景。

参考文献:

[1]余英林李海洲:神经网络与信号分析[M]. 广州: 华南理工大学出版社,1996:45

[2]霍再林史海滨孔东等: 基于人工神经网络的作物水―盐响应初步研究[J].内蒙古农业大学学报,2003,24(3):66~70

[3]何勇宋海燕:基于神经网络的作物营养诊断专家系统[J]. 农业工程学报,2005,21(1):110~113

[4]马成林吴才聪张书慧等:基与数据包络分析和人工神经网络的变量施肥决策方法研究[J].农业工程学报,2006,20(2):152~155

[5]刘铖杨盘洪: 莜麦播种方式决策的BP神经网络模型[J]. 太原理工大学学报,2006,37(5):119~121

[6]谭宗琨: BP人工神经网络在玉米智能农业专家系统中的应用[J].农业网络信息,2004(10):9~1

[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92~3579