首页 > 文章中心 > 神经网络反向传播过程

神经网络反向传播过程

神经网络反向传播过程

神经网络反向传播过程范文第1篇

关键词:网络安全;态势评估;BP算法

中图分类号:TP393文献标识码:A文章编号:1009-3044(2011)14-3265-02

Using Back Propagation to Achieve The Rating of The Network Security Posture

TANG Jin-min

(Hongli Network Limited Company of Changchun, Changchun 130051, China)

Abstract: In order to alleviate the increasingly serious problem of network security, we can use assessment technology of the network security situation, optimized the factors that affect network security in advance. we try to used Back Propagation in network security situation assessment, and used a lot of experimental data in the training model, tested some of the data.

Key words: network security; situation assessment; BP

随着互联网时代的来临,网络的规模和应用领域不断发展,人们对网络依赖程度不断增加,网络已经成为社会、经济、军事等领域中不可或缺的重要组成部分。但同时,我国网络安全问题日益突出,目前网络系统的安全现状已经清楚地表明:传统的网络安全防护技术已无法为网络系统的安全提供根本的可靠保障。要在错综复杂的网络环境中切实有效地提高网络安全,迫切需要探索新的理论和方法,网络安全技术研究已经步入一个全新的时代。网络安全态势评估(Network Security Situational Assessment,NSSA)研究就是顺应这个需求而生并迅速发展成为网络信息安全领域一个新的研究热点。网络安全态势评估技术能够从整体上动态反映网络安全状况,并对安全状况的发展趋势进行预测和预警,为增强网络安全性提供可靠的参照性依据。

1 相关研究

网络安全态势是指由各种网络设备运行状况、网络行为以及用户行为等因素所构成的整个网络的当前状态和变化趋势。网络安全态势感知,即是在大规模网络环境中,对能够引起网络态势发生变化的安全要素进行觉察、理解、显示以及预测未来的发展趋势。态势强调环境、动态性以及实体间的关系,是一种状态,一种趋势,一个整体和宏观的概念,任何单一的情况或状态都不能称之为态势。

1999年,Bass等人首次提出了网络态势感知概念,即网络安全态势感知。国国家能源研究科学计算中心(NERSC)所领导的劳伦斯伯克利国家实验室于2003年开发了“Spinning Cube of PotentialDoom”系统,该系统在三维空间中用点来表示网络流量信息,极大地提高了网络安全态势感知能力。2005年,CMU/SEI领导的CERT/NetSA开发了SILK,旨在对大规模网络安全态势感知状况进行实时监控,在潜在的、恶意的网络行为变得无法控制之前进行识别、防御、响应以及预警,给出相应的应付策略,,该系统通过多种策略对大规模网络进行安全分析,并能在保持较高性能的前提下提供整个网络的安全态势感知能力。国内方面,网络态势感知也是在起步阶段,主要是从军事信息与网络安全的角度来研究,这对我军在新形势下的信息安全保护和信息战有重大的战略意义。

2 网络安全态势评估系统

下面介绍一个网络安全态势评估系统,它的工作流程图如图1所示。

这其中的关键技术就是态势评估过程,在这里我们使用BP算法来完成网络安全态势评估。

2.1 BP算法

BP算法,也就是误差反向传播(Error Back Propagation, BP)算法,BP算法的最早提出是在1986年,两位科学家Rumelhart和McCelland他们领导的科学小组通过长时间的分析,弄清了非线性连续转移函数的多层前馈网络的误差反向传播算法,并且在《Parallel Distributed Processing》一书中进行了非常详细的阐述,这个分析阐述实现了Minsky的设想。我们也经常把BP算法称之为BP网络。

下面简单介绍一下BP算法的基本思想,在学习也就是网络训练过程中,信号的传播分为正向传播和反向传播,其中反向传播的是误差信号。在进行正向传播时,将训练样本输入,也就是从神经网络的输入神经元输入,样本数据经各隐藏层逐层处理后,最后从输出层传出。如果从输出层输出的数据与期望的输出(事先给定的)不一样,这就说明计算出现了误差,为了解决这个误差问题,训练就会进行反向传播。反向传播就是将输出数据与期望数据的误差以某种形式通过隐层向输入层逐层反向传,在这个过程之中,会把误差值分摊给各隐层的所有神经元上,这样就能获得各层每个神经元的误差信号,我们可以通过这些误差信号来修改各个神经元上的权值。上面所讲的训练样本信号正向传播和误差信号的反向传播是不断地进行的,这个不断进行的过程也就是BP网络的学习和训练过程,经过了这个过程,误差信号逐步减小,达到了一个我们事先约定的限度,或者完成了所有训练样本的输入,这时就可以结束训练过程,同时整个网络确定了下来,网络中的神经元上的权值也固定了下来,这样就可以进入实际的应用阶段,可以用这个网络来进行工作了。

2.2 指标体系的建立

安全态势评估的核心问题是确定评估指标体系。指标体系是否科学、合理,直接关系到安全态势分析的质量。为此指标体系必须科学地、客观地、合理地、尽可能全面地反映影响系统安全性的所有因素。指标体系的建立必须按照一定的原则去分析和判断,指标体系建立过程中所遵循的原则并不是简单的罗列,它们之间存在着密切的关系。指标体系设立的目的性决定了指标体系的设计必须符合科学性的原则,而科学性原则又要通过系统性来体现。在满足系统性原则之后,还必须满足可操作性以及时效性的原则。进一步,可操作性原则还决定了指标体系必须满足可比性的原则。上述各项原则都要通过定性与定量相结合的原则才能体现。此外,所有上述各项原则皆由评估的目的性所决定,并以目的性原则为前提。

根据查找资料等,发现在不同的攻击下一下一些指标有明显变化,就选择这些指标组成指标体系,CPU占用率、内存占用率、端口流量、丢包率、网络可用带宽、平均往返时延、传输率、吞吐率。我们就选择这8种指标作为我们的评价指,根据原系统的设计将网络的安全态势分为五个级别分别是:Good、OK、Warning、Bad、Critical。这5种状态由高到底的标示出整个网络安全状态。

2.3 评级系统的实现

因为有8个评测指标,所以网络的输入层有8个神经元,输出因为要求的评估等级为5,所以输出层的神经元为5个,对应的网络输出模式为(1,0,0,0,0)(0,1,0,0,0)(0,0,1,0,0)(0,0,0,1,0)(0,0,0,0,1),隐含层的神经元个数也要确定,在这里我们将隐含层的神经元个数设为8*2+1=17个,这个也是BP神经网络常用的原则。

同取样本数据100组解决BP神经网络的训练问题,,进行学习训练,同样使用MatlabR2007b作为平台训练BP神经网络,隐藏层神经元的传递函数选择的是S型对数函数logsig,输出层神经元的传递函数选则purelin,性能目标采用MSE,设为0.01,训练步数设为500,学习速率设为0.1,经过多次迭代运算后达到收敛目标,这时候结束训练过程,保存该训练好的网络。然后将25组测试数据代入网络进行网络状态评估。

3 结论

神经网络反向传播过程范文第2篇

B(PBackPropagation)网络是1986年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事前确定描述这种映射关系的数学方程。BP神经网络拓扑结构由输入层、隐含层和输出层构成。网络的学习过程由信息的正向传播和误差的反向传播两个过程组成。

输入层各神经元接收来自外界的输入信息,并传递给隐含层各神经元;隐含层是内部信息处理层,负责信息变换,根据信息处理的复杂程度不同,隐含层可以设计为单层或者多层结构;最后一个隐含层传递到输出层各神经元的信息,经进一步处理后,完成一次学习的正向传播处理过程,由输出层输出处理结果。当实际输出与期望输出不符时,进入误差的反向传播阶段。误差通过输出层,按误差梯度下降的方式修正各层权值,向隐含层、输入层逐层反传。在周而复始的正向传播和误差反向传播过程,各层权值不断调整,一直进行到网络输出的误差减少到可以接受的程度,或者到达预先设定的学习次数为止。

用BP网络来进行教师教学质量评价,其过程可以分为测打分、网络训练和评价应用三个阶段。在测评打分阶段,由教学管理人员、督导专家、同行教师、学生等按照测试规定和程序,填写根据评价指标体系建立的测评量表,取得评价数据,并作归一化处理。在网络训练阶段,将训练样本输入给BP网络。网络经过训练学习并满足要求后,就可以用于教学评价,输入测评数据后其输出即为所对应的评价结果。

2教学质量评价指标体系的构建

2.1建立教学质量评价指标体系的思路

建立教学质量评价指标体系,除了遵循科学性与现实性原则、可行性与可比性原则、综合性与客观性原则、定性指标与定量指标相结合的原则、灵敏性原则、继承性与创新性相结合的原则等基本原则之外,还要考虑以下三点:1|)突出理论指导。以多元智能理论、形成性学习评价理论和发展性教育评价理论为基础,建立覆盖整个远程教育教学全过程,突出远程开放教育无时间、空间限制特点的指标体系。2)体现评价取向。通过建立科学、有效的远程教育教师教学质量评价体系,改变目前注重对教师教学工作量、工作结果进行评价的现状,把对教师的评价引导到发展性、过程性、重质量的取向上来。3)体现远程教育特点。指标体系不仅包含教学内容、教学态度、教学方法、教学效果等传统因素,还必须包括教学一体化设计、教学资源、网上教学组织、学习支持服务等体现远程教育特点的因素。

2.2教学质量评价指标体系的结构

远程教育教学质量评价体系由两级指标构成,其中一级指标包括教学态度、教学内容、教学实施、学习支持服务、教学效果5项,每个一级指标又分解为4个二级指标。

3基于BP神经网络的远程教学质量评价模型的建立

3.1确定网络结构评价网络的结构设计主要是根据要解决的具体问题,确定网络的输入空间、输出空间,确定网络隐含层节点数和激励函数。本设计中,因为指标体系二级指标设置了20项,则输入空间维数M=20;输入向量X=(X11,…X21,…,X54);网络运行的结果将产生一个输出,则输出空间维数L=1,输出为Y。在BP网络中,隐含层神经元数H的确定是一个关键问题。可以使用公式H=(m+n)1/2+a确定(n,m分别代表输出和输入的节点个数,a为0~1之间的常数),但并一定是最优解。本文使用试凑法,先设置较少的节点数目进行训练,计算误差,然后逐步增加节点个数,用相同的样本进行训练,直到计算得到得误差最小,即为需要的隐含层节点个数。隐含层、输出层分别采用tansig、purelin函数,误差为0.001,训练次数上限1000,学习率为0.03,学习率增长系数为1.04,学习率减小系数为0.65,动量系数选为0.95。

3.2确定训练样本集训练样本集的确定是应用BP神经网络进行教学质量评价的重要环节。这里使用陕西电大2012年具有代表性的50名教师的评价数据作为对网络进行训练的样本。3.3训练和仿真选择前40组数据作为训练样本集,对该网络进行训练"经过567次的训练,网络误差达到了0.001的要求,将后10组数据作为检测样本输人已训练好的BP网络,检测结果如表2所示,网络的输出值与目标值(专家评价的结果)基本一致。

4结语

神经网络反向传播过程范文第3篇

[关键词]人工神经网络湖南人均GDP预测

GDP反应某地区在核算期内生产活动的最终成果及衡量国民经济发展规模、速度、结构、效益的代表性指标,也是制定经济发展战略目标的主要指标。湖南省作为中部的一个省份,通过对“十一五”期间湖南省人均GDP的预测,可以分析全省的劳动量、资本量和技术知识的存量,利用GDP的存量功能,可以获得资源与要素的信息,并据此推算湖南省的经济增长的潜力,从而有利于政府部门制定更合理的经济政策。

一、问题的分析与模型的建立

经济预报是一个复杂的非线性系统,且系统的内部时时刻刻在发生变化,我们希望能够建立一个参数随预测环境的变化而改变的非线性模型,国内外对经济的预测进行了大量的研究,提出了许多预测的方法,其中神经网络被认为是一种较好的非线性预测方法,尤其是BP神经网络。BP神经网络结构简单,非线性处理能力却很强大。

1.BP网络模型

BP网络是一种单向传播的多层前向网络,其结构如图1

BP网络是一种具有三层或三层以上的神经网络,包括输入层、中间层(隐层)和输出层。上、下层之间实现联接,而每层神经元之间无联接。当一对学习样本提供给网络后,神经元的激活值,从输入层经各中间层,向输出层传播,在输出层的各神经元获得网络的输入响应。接下来,按照减少目标输出与实际值的误差的方向,从输出层经过各中间层逐层修正各联接权值,最后回到输入层,这种算法称为“误差逆传播算法”,即BP算法。随着这种误差逆传播修正不断进行,网络对输入模式响应的正确率也不断上升。

图1为常用的三层BP网络结构,如果输入层、隐含层和输出层的单元个数分别为n、q、m,则该三层网络可表示BP(n,q,m),利用该网络可实现n维输入向量Xn=(X1,X2…Xn)到m维输出向量Ym=(Y1,Y2…Ym)T的非线性映射。m,n根据具体问题确定,而隐含层单元数q的确定尚无成熟的方法,一般可设定不同的q值,根据训练结果进行选择。网络结构BP(n,q,m)确定后,网络参数包括输入层第i单元到隐含层第j单元的权重Wij(i=1...n,j=1...q),隐层第i单元到输出层第k单元的权重Wiko(j=1...q,k=1...m);隐含层第j单元的激活阈值(j=1...q)及输出层第k单元的激活阈值(k=1...m),以上权值和阈值的初值在网络训练之前随机生成;假设共有p个训练样本,输入的第p个训练样本信息首先向前传播到隐含层单元上,经过激活函数f(u)的作用得到隐含层的输出信息: (1)

激活函数f(u)采用s(0,1)型函数,即 (2)

隐含层的输出信息传到输出层,可得到最终输入结果为

BP算法的基本思想是学习过程由信号的正向传播与误差的反向传播两个过程组成。以上过程为网络学习的信息正向传播过程;如果网络输出与期望输出存在误差,则将误差反向传播,误差的反射传播是将输出误差以某种形式通过隐层向输入层逐层反传,并将误差分摊给各层的所有单元,从而获得各层单元的误差信号,以误差信号作为修正各单元权值的依据,可以利用(4)来调节网络权重和阈值。

其中为W(t)次训练,η,α分别为比例系数和动量系数,E为误差平方和反复运用以上两个过程,一直进行到网络输出的误差减少到可接近的程度或进行到预先设定的学习次数为止()。

通常,经过训练的网络还应该进行性能的测试,测试的方面就是选择样本向量,将其提供给网络,检验网络对其分类的正确性,测试样本向量中应包括今后网络应用过程中可能的主要典型模式;样本可以直接测取得到,也可以通过仿真得到,在样本数据较少或者较难得到时,也可以通过对学习样本加上适当的噪声或按照一定的规则插值得到,总之,一个良好的测试样本集中,不应该包括和学习完全相同的模式。

2.BP神经网络在经济预报模型中的应用

采用神经网络进行经济预测,以湖南省1978~1999年的经济数据作为训练样本,2000年~2004年GDP进行预测仿真试验。

GDP预测指标体系就包含第一产业(x1)、第二产业(x2)、第三产业(x3)。在考虑诸年数据的可比性,在应用神经网络之前,采用如下方法对数据环比处理:

式中,x为指标的环比值;y为指标的原始数据值;w为物价指数,t和t-1分别代表当年度和上年度。采用BP神经网络进行预测,即用上一年的经济数据作为输入,下一年的GDP作为输出。因此GDP预测模型可以描述为:

y1=f(x1(t-1),x2(t-1),x3(t-1))

设置L―M算法BP神经网络的计算误差为10-4,最大计算步数为10000,计算结果见图2:

预测的结果见下表

从表中预测的结果,可以看出,模型拟合得到的数据与真实值是比较吻合的,预测的效果比较好,完全能满足实际应用的需要。如果我们对神经网络训练的精度作更高的要求,还可进一步降低预测的误差。

参考文献:

[1]Martin T.Hagan.神经网络设计.机械工业出版社,2005

[2]王振龙:时间序列分析.中国统计出版社.2003

[3]伍卫国:数值方法和Matlab实现与应用.机械工业出版社,2004

神经网络反向传播过程范文第4篇

 

通信技术和计算机技术得到不断的发展和进步过程中,网络资源也逐渐实现了共享,全球信息化顺势成为当今社会的发展潮流。计算机网络是信息传播的主要形式,也是全球范围内数据通信的主要方式,具有方便、快捷,经济等特点。除了日常的信息交流和沟通之外,重要部门需要加密的内部文件、资料、执行方案和个人隐私等信息内容也会通过网路系统实现传输,但是网络数据给人们带来方便的同时,自身也存在极大的风险,因此,如何有效应用信息网络,并保证网络信息传输的安全,是网络安全建设的主要内容之一。

 

1 BP神经网络中间形式通信方式

 

文中主要对安全通信的中间形式以达到信任主机间安全通信的目的,在系统中的位置属于安全通信层,该通信层位于系统中网络结构组织的最底层,位置越低,具备的安全性能越高,稳定性更强,不轻易受到干扰,从而在一定程度上增加了技术的实行难度。

 

如图1所示。安全通信层的插入点是与网卡相接近的位置,即NDIS层。安全通信层中具有明显的优势对数据包进行截获,数据包的类型有FDDI、EtherNetS02.3或者EtherNetS02.5等,建立其完整的网络协议,数据包实行过滤、加解密或者分析等。并保证上层的协议得到完整的处理。安全通信的中间形式具有的主要功能包括:

 

(1)根据上层协议发出的数据实行加密处理后,将特征进行提取,并根据网卡从信任主机所接收到的数据实行解密后,对待数据进行还原。

 

(2)以相关的安全准则为基础,对各种存在的网络协议数据实行具体的过滤和分析。

 

(3)不同的用户实行相应的身份识别和校验。当前网络环境中,对数据包的过滤分析的技术和身份认证技术相对成熟,进而有效提升安全准则的定义。文中将省略安全通信中间形式的协议的过滤分析、安全准则定义和用户认证工作等内容,注重对BP神经网络模型在实行数据特征提取和数据还原等方面进行分析,并与其他的加密算法相结合,从而达到增大数据通信保密性的目的。

 

2 BP神经网络模型

 

人工神经网络是近年来逐渐兴起的一门学科,该网络主要是由具有适应性的简单单位组成,且具备广泛特点,实现互相连接的网络系统,且能够模仿人的大脑进行活动,具备超强的非线形和大数据并行处理、自训练与学习、自组织与容错等优势。尤其是由Rumelhart指出的多层神经网络,即BP算法,得到多数的研究学者所重视。

 

BP网络是利用多个网络层相结合而成,其中有一个输入层和输出层、一个或者多个隐层,每一层之间的神经单位并不存在相关的连接性。

 

BP网络是通过前向传播和反向传播相结合形成,前向传播表现为:输入模式通过输入层、隐层的非线形实行变换处理;而传向输出层,如果在输出层中无法达到期望的输出标准,则需要通过转入反向传播的过程中,把误差值沿着连接的通路逐一进行反向传送,进而修正每一层的连接权值。

 

实现规范的训练方式,通过同一组持续对BP网络实行训练,在重复前向传播与误差反向传播的过程中,需要保证网络输出均方误差与给定值相比下,数值较小。

 

以第四层的BP网络系统进行分析,即具体的算法实现和学习过程。假设矢量X=(X0,X1…Xn-1)T;第二层有n1个神经元,即X’=(X’0,X’1,…X’n1-1)T第三层有n2个神经元,Xn=(Xn0,Xn1,…,Xnn2-1)T;输出m个神经元,y=(y0,y1,…,ym-1)T。设输入和第二层之间的权值为Wab,阈值为θb;第二层与第三层的权值为Wbc,阀值为θc;第三层与输出层的权为Wcd,阈值为θd。正常情况下会使用非线性连续函数作为转移函数,将函数设为:

 

3 BP神经网络的数据安全通信设计

 

当前,数据包过滤和分析的技术、安全准则制定和身份认证技术均达到一定 发展程度,因此,文中主要对安全通信的中间形式,以BP神经网络为实验模型,对网络数据特征的提取和原有数据还原等方面内容实行分析。在BP神经网络发展的基础上,与相关的认证系统,安全准则和加密算法等技术相结合,能在一定程度上提升数据通信保密性、整体性和有效性,从而达到促进数据传输速度的目的。

 

BP网络中含有多个隐层,经过相关的研究证明,无论是处于哪一个闭区间之间的连接函数都能利用一个隐层的BP网络来靠近,因此,一个3层的BP网络能够随意完成n维到m维的映射变化。如果网络中含有的隐层单位数较多,具有较多的可选择性,则需要进行慎重考虑;如果隐层中的单元数过少,极有可能会导致训练失败,影响到网络系统训练的发展,因此网络训练所拥有的容错性不强;如果隐层中的单元数过多,则需要花费更长的时间进行学习,得到误差结果也较大,因此为了有效提升训练结果误差的准确性,建议在实际操作过程中,可以依照公式n1=log2n,公式中的n是输入神经的元数值,n1表示的是隐层的单位元数值。

 

对网络传输数据实行特征提取和数据的还原过程中,详见图2所示。

 

如图2中所示,三层神经元结合而成的BP网络,所具有的输入层和输出层每个神经元的个数全部相同,设定个数为n个,中间所隐藏的单元个数为n1=log2n,当输入了学习的样本内容后,利用BP网络的学习,让输入和输出层保持一致,因为隐层的神经元个数明显小于进入输入层的原始网络数据,而将隐层神经元作为原始网络数据特征的样本。在实行网络传输过程中,只需要将隐层神经元的数据进行传输。作为数据的接收方,收到的数据应该是隐层的神经元数值,如果在此基础上,将数据乘上隐层至输出层的权值即可根据发送方提供的原始网络数据实行还原。通过这一计算法积累的经验,合理与相关的加密算法相结合进行计算,具体如:RSA、DES等,最大限度降低了网络的总流量,进而提升了数据通信的保密性。

 

4 结论

 

将特定的网络数据作为具体的训练样本,开展BP网络训练,把一串8个bit位的代码作为输入样本,在隐层中含有3个神经元,通过BP网络的学习过程中,需要保证输出与输入数据相一致。实行网络数据传输过程中,接收方应该以事前获得的隐层与输出层之间存在的不同的权系数,使用该系数与接收的隐层神经元数据相乘计算,就能有效恢复原先的网络数据,以及8个bit位的输入层。

 

因为人工神经网络拥有明显的自学习和自适应、联想与记忆、并行处理以及非线形转换等优势,无需进行复杂数学过程,并能够在样本缺损、资料不完备和参数出现漂移的状态下继续保持稳定的输出模式,基于此,文中主要使用一个3层的BP网络有效对网络数据实行特征提取和数据还原工作,并以该工作为基础,与相应的加密算法和认证体系相联系结合,通过中间件的形式贯穿在整体系统的主要核心内容,从而不仅能够实现对网络通信技术的过滤和分析,还能够在另一方面保障了数据通讯的完整安全性。

神经网络反向传播过程范文第5篇

[关键词] 色彩管理 BP网络

引言

所谓色彩管理就是如何控制并描述我们在计算机屏幕上看见的,扫描仪捕获的,彩色样张上的和印刷机印刷的图像色彩。从图像创建或色彩捕获到最终图像输出,执行色彩转换是以系统化的方式进行的。在从一个设备到另一个设备的转换过程(无论是从计算机到印刷机,还是从样张到印刷机),色彩管理系统尽量保持并优化颜色的保真度。简而言之,色彩管理就是为了保证颜色在输入,处理,输出的整个过程中始终保证一致,也就是常说的“所见即所得”。

一、算法模型

色彩管理的其中一部分就是分析研究RGB以及Lab色彩空间的特性,建立彩色显示器的RGB――>Lab色彩模型和相应的Lab――>RGB的色彩模型转化。

二、反变换(Lab――>RGB)采用BP神经网络进行建模

BP网络具有很强的从输入到输出的高度非线性映射能力,可应用于模式识别,函数逼近,数据压缩等。

BP网络的主要原理:将输入信息先向前传播到隐含层的节点上,经过各单元的特性为sigmoid型的激活函数运算后,把隐含节点的输出信息传播到输出节点,最后给出输出结果。

网络的学习过程分正反向两部分,在正向传播过程中,每一层神经元的状态只影响到下一层神经网络。计算每个单元的实际输出值,如果输出层不能得到期望输出,逐层递归地计算实际输出与期望输出之差(即误差),接着转入反向传播过程,将误差信号沿原路返回,通过修改各层神经元的权值,逐次地向输入层传播去计算,然后再经过正向传播过程,…。通过两个过程的反复应用,当误差达到人们所希望的要求时,网络的学习过程结束。

应用BP神经网络建立Lab到RGB的转换模型:从LAB空间到RGB空间的转换,可以看作是一个比较复杂的非线性函数映射。所以可应用一个BP网络,进行对这一非线性函数的逼近。通过改变该函数的参数以及BP网络隐层神经元的数目,来观察训练时间以及误差的变化情况。

在本问题,使用一个三层网络(将输入看作一层)。输入为Lab的一个3×1向量p,隐含层中传递函数(f1)设为logsig,输出层传递函数(f2)设为purelin(注3)。隐含层有S个神经元(初步定为20),输出层有3个神经元,输出RGB的一个3×1向量t。如图2.1BP网络结构图。

S*1 3*1

图2.1BP网络结构图

t = f2 ( W2*f1 ( W1*p + b1 ) + b2 )

首先,将建模数据(model)进行规范化处理。在试验的过程中发现,如果不对数据进行规范化处理就直接用于建立网络,结果很不理想,后面在用测试数据(test)检验模型时, d都在20以上,而对数据进行规范化处理后,d位于在17~18之间。

图2.2训练过程误差曲线图

将规范化处理后数据分成三个部分,1/4用于验证,1/4用于测试,1/2用于训练网络。这里将数据分割是为了,在训练时观察测试集合误差和验证集合的误差是否有相似的性质,从而确认得到的结果是否合理。

BP神经网络在进行学习之前,必须进行网络初始化的工作,否则可能会导致学习过程不收敛。这里的初始化是将BP神经网络每一层的权值w和偏置b赋予小于1的随机数。如图2.2训练过程误差曲线图。

下面对网络的响应进行一些分析,将所有的数据(包括训练,验证和测试)用训练好的网络进行仿真,然后对网络输出和相应的目标进行线性回归。在这之前,要对网络的输出进行反规范化变换。这样得到了三组输出,进行三次线性回归。结果分别如下(如图2.3 R,G,B的线性回归结果):

图2.3 R,G,B的线性回归结果

可以看出,R和B 对目标的跟踪比较好, G相对来说要差一些。

经反复试验,最后确定隐含层的神经元数目为40。网络隐含层神经元数目越多,就越能对非线性程度越高的函数进行更好的逼近,但问题都有两面性,隐含层神经元如果太多,不但会使计算量大大加大,而且可能会设计出超适应的系统。例如当隐层的神经元为100时,回归效果反而更差。

用测试数据对模型进行检验。训练好的BP网络将所提取出的样本对中的非线性映射关系,存储在权值矩阵和偏置值向量中。在这之后,当向网络输入非训练样本数据时,网络也能完成由输入空间向输出空间的正确映射,这种能力称为BP网络的泛化能力。它是衡量网络性能的一个重要指标。

将测试数据(test)中的Lab值输入训练好的网络,转换得到RGB值,将得到的RGB值与原始RGB值带入色差d计算公式,得到d的平均值为 17.3889。

因为Eab值的大小能客观反映人眼对色彩差异的感受,所以用Eab值替代d来衡量色彩空间转换的精度更为科学。将网络输出的RGB值应用前面建立的正变换模型转换得到新的一组Lab值,将两组Lab值代入色差公式,求得各点的Eab并进行数据统计,得到平均色差为3.2362个Eab单位,可以看出反变换模型精度比较理想,色差的分布如下图2.4色差Eab分布的直方图和饼图所示:

图2.4色差Eab分布的直方图和饼图

3.实验总结

理论上,根据神经网络中的BP定理,采用三层的BP网络能够以任意精度实现一个从输入到输出的高度非线性映射。但实际应用中因为测量数据的误差和其他一些因素,模型不可能尽善尽美,但在改进BP算法和优化参数的基础上,能够使精度得到进一步的提高。

综上所述,应用BP神经网络实现Lab到RGB空间的转换,不失为一种简单有效地方法。

参考文献: