神经网络的基础知识范文第1篇

关键词：人工智能；媒体与认知；RealSense平台；深度学习

文章编号：1672-5913（2017）07-0155-04

中图分类号：G642

1 背 景

电子信息科学与技术是以物理和数学为基础，研究通过电学形式表达和操控信息的基本规律以及运用这些基本规律实现各种电子系统的方法。在进入电子时代和信息社会的今天，电子信息科学技术已渗透各个领域。随着电子信息技术日新月异，电子信息教学领域也面临着全新的挑战，需要培养具有全方位视野和超强能力的新一代工程师及领导者。本着这一目标，清华大学电子系自2008年开始着手进行课程改革，通过改革课程体系将原有课程重新整合，从学科范式的角度整理出电子工程本科教育的知识体系结构，从而梳理出新的本科课程体系，形成电子信息领域学科地图[1-2]。

2016年AlphaGo战胜李世石的事实，让人工智能技术再一次向世人展示了自己的潜力。人工智能无论在传统的制造加工行业，还是在新兴的互联网行业，都成为国内外各大企业争相研究开发的目标，在学术界也是如此。2016年底，Gartner全球峰会2017十大技术趋势报告[3]，预测2017年十大技术趋势：人工智能与机器学习、智能应用、智能事物、虚拟和增强现实、数字化双生、区块链和已分配分类账、对话式系统、格网应用和服务架构、数字化技术平台、自适应安全架构。Gartner预计2017年全球将有超过60%的大型企业开始采用人工智能技术。

在2016年开设的媒体与认知课程内容中，我们参考国内外诸多名校相关课程的理论及项目内容，结合电子工程系在该领域研究的基础优势和创新性成果，建设了一套媒体认知人工智能技术教学课程内容及平台，以期学生获得人工智能技术中深度学习技术的基础理论和开发能力。课程通过提供人工智能技术领域高层次专业人才必需的基本技能、专业知识及思维方式，力争培养具有国际一流科研创新能力的人工智能方向的专业技术人才。

2 人工智能技术教学内容

美国MIT大学的Statistical Learning Theory and Applications课程[4]，致力于从统计学习和正则化理论的角度介绍机器学习的基础和最新进展。除了经典的机器学习方法，如支持向量机、流形学习、有监督学习等之外，还重点介绍深度学习计算的理论框架并要求学生以项目形式给出基于机器学习和深度神经网j的解决方案。

美国CMU大学的Deep Learning课程[5]通过一系列研讨会和课程实验介绍深度学习这一主题，涵盖深度学习的基础知识和基础理论及应用领域，以及大量数据学习的最新问题。通过若干实验题目，学生可以对深度神经网络原理及应用加深理解。

美国Stanford大学的Deep Learning for Natural Language Processing课程[6]深入介绍应用于自然语言理解的深度学习前沿研究，讨论包括循环神经网络、长短期记忆模型、递归神经网络、卷积神经网络等非常新颖的模型。通过上机实验，学生将学习使用神经网络工作的技巧来解决实际问题，包括实施、训练、调试、可视化和提出自己的神经网络模型，最终的实验项目涉及复杂的循环神经网络并将应用于大规模自然语言理解的问题。

媒体认知课程参考了上述著名课程的理论内容和项目特色。我们结合电子工程系在人工智能领域研究的基础、优势和创新性成果，设计开发了一套以人工智能技术为基础的前沿探索型媒体认知教学课程内容及实验平台，试图构建具有国际水准的人工智能技术教学课程内容。

3 深度学习技术发展概况

传统的人工智能系统一般采用机器学习技术，这类技术在处理原始形式的自然数据的能力上受到限制，一般困难集中在如何将原始数据变换为合适的内部表示或特征向量。深度学习（deep learning）近年来受到人工智能行业的广泛关注，是一种表征学习（representation-learning）方法，由于拥有可以逼近任意非线性函数的特性，深度神经网络（deep neural network，DNN）及其衍生的各种神经网络结构有能力取代传统模型，在语音、图像、文本、视频等各种媒体的内容识别系统中发挥作用。

著名的人工智能科学家Yann LeCun于2015年在Nature上发表文章[7]指出，深度学习允许多个处理层组成的计算模型学习如何表征具有多级抽象层面的数据。这些方法已经大大提高语音识别、视觉识别、目标检测以及诸如药物发现、基因学等许多领域的最新技术水平。深度学习通过使用反向传播算法发现大数据集中的复杂结构，以指示机器如何改变其内部参数，这些内部参数是从深度神经网络上一层的表示中计算每层中的表示。深度卷积网络在处理图像、视频、语音和音频方面带来突破性的进展，而递归网络则对文本、语音等顺序数据提供解决方案。

递归网络可被视作较深的前馈网络，其中所有层共享相同的权重。递归网络的问题在于难以在长期的时间内学习并存储信息。为了解决这一问题，长短期记忆（long short-term memory，LSTM）模型网络被提出，主要特点在于其存储器单元在下一个加权值为1的时间段内与自身连接，因此能够在复制自身状态的同时累加外部信号，此外这种自我连接被另一个单元通过学习决定何时清除此类信息。长短期记忆模型被证明在语音识别和机器翻译应用系统中比传统的递归网络更加有效。

4 基于深度学习的语音识别教学项目

在对上述课程及配套项目进行详细研究的基础上，结合现有科研及平台，我们构建了一种基于深度学习的连续语音识别项目平台，包括两个主要项目：深度神经网络语音识别项目及长短期记忆模型递归神经网络语音识别项目。

4.1 深度神经网络语音识别项目

典型的深度神经网络语音识别模型[8-9]核心是对声学特征进行多层变换，并将特征提取和声学建模在同一网络中进行优化。神经网络可以通过非线性激活函数来拟合任何非线性函数，可以使用神经网络取代原有声学模型中的高斯混合模型，用来计算每一帧的特征与每个音素的相似程度。深度神经网络原理的结构示意图如图1所示。

图1代表了一个拥有3个隐含层的深度神经网络。相邻两层中，每层的每一个节点都与另外一层的所有节点单向连接。数据由输入层输入，逐层向下一层传播。对于节点间的连接权重，采用BP算法。BP算法对于给定的输入输出训练数据，首先通过正向传播由输入得到输出，之后通过实际输出与理论上的正确输出之差得到残差，并由输出层向输入层根据激活函数与连接权重反向传播残差，计算出每一个节点与理想值之间的残差，最后根据每个节点的残差修正节点间连接的权重，通过对权重的调整实现训练，从而更加靠近理论输出结果。

将DNN实际利用到语音识别的声学模型时，其结构示意图如图2所示。深度神经网络的输入层输入从每一帧音频中提取出的特征，通过网络的正向传播，在输出邮涑龅鼻爸《杂Σ煌音素的相似程度，从而作为HMM的发射概率进行语音识别。考虑到DNN没有记忆特性，而语音信号即使是在音素层级上，其前后也有相当大的联系。为了提高DNN在处理前后高度关联的语音信号中的表现，一般选择同时将当前帧的前后部分帧作为网络的输入，从而提高对当前帧识别的正确率。

4.2 长短期记忆模型递归神经网络语音识别项目

长短期记忆模型应用于语音识别中声学模型的思路和深度神经网络类似[10-11]，取代高斯混合模型用于计算输入帧与各音素的匹配程度。原理为首先根据输入门判断输入的数据可以进入记忆细胞的比例，同时遗忘门决定记忆细胞遗忘的比例；之后由记忆细胞残存的记忆部分和新输入的部分求和，作为记忆细胞的新记忆值；将新的记忆值根据输出门的控制得到记忆细胞的输出，并通过递归投影层降维，降维之后的结果一方面作为3个控制门的反馈，另一方面作为网络的输出；非递归投影层则仅仅作为最终输出的补充，而不会影响控制门。将长短期记忆模型实际利用到语音识别的声学模型时，其结构示意图如图3所示。

与深度神经网络不同，长短期记忆模型递归神经网络因为有记忆特性，所以不需要额外的多帧输入，只需要输入当前帧。然而，考虑到语音前后的关联性，一般会将输入的语音帧进行时间偏移，使得对t时刻帧的特征计算得到的输出结果是基于已知未来部分帧的特征之后进行的，从而提高准确度。

5 结 语

我们主要介绍了媒体与认知课程中的深度学习教学项目“基于深度学习的语音识别教学项目”，在现有开发平台的基础上引入多种深度学习算法并对其进行比较，使得学生掌握了目前主流的深度学习算法核心技术及应用方法。学生反馈表明，通过该部分教学内容，学生对深度学习技术加深了了解，调动了研究积极性，大部分学生对深度学习方向的前景十分乐观。将这些内容与媒体认知教学课程结合并为学生提供研究平台，使得学生开阔了科研视野，进一步为培养学术兴趣、明确科研方向和坚定科研信念提供辅助和支撑，最终达到培养具备国际领先研究水平、同时具有突出创新实践能力和持续探索精神的高素质人才的目的。下一步，我们将基于该深度学习项目平台进一步开展研究探索，提高深度学习的实时性和鲁棒性。

参考文献：

[1] 清华大学电子工程系[EB/OL]. [2017-02-01]. http：///.

[2] 杨毅， 徐淑正， 乔飞， 等. 媒体认知实验教学改革研究与探索[J]. 计算机教育， 2015 （9）： 107-109.

[3] 搜狐科技. Gartner最新2017十大战略技术趋势： 以智能为中心实现万物互联[EB/OL]. （2016-11-09）[2017-02-01]. http：///20161109/n472678047.shtml.

[4] 9.520/6.860： Statistical learning theory and applications， fall 2016[EB/OL]. [2017-02-01]. http：//www.mit.edu/～9.520/fall16/.

[5] Deep Learning[EB/OL]. [2017-02-01]. http：//deeplearning.cs.cmu.edu/.

[6] Deep learning for natural language processing[EB/OL]. [2017-02-01]. http：//cs224d.stanford.edu/.

[7] LeCun Y， Bengio Y， Hinton G. Deep learning[J]. Nature， 2015， 521（7553）： 436-444.

[8] Hinton G E， Osindero S， Teh Y W. A fast learning algorithm for deep belief nets[J]. Neural computation， 2006， 18（7）： 1527-1554.

[9] Graves A， Mohamed A， Hinton G. Speech recognition with deep recurrent neural networks[C]//2013 IEEE International Conference on Acoustics， Speech and Signal（ICASSP）.Washington D C： IEEE， 2013： 6645-6649.

神经网络的基础知识范文第2篇

【关键词】医学教育；神经科学；神经矩阵网络；丘脑皮层结构；本科教材；教学改革

随着神经科学这个新兴的学科在国际上蓬勃发展，它逐渐把神经系统各相关的学科融入进其中，极大的促进和引领了脑科学的发展，涌现了许多令人鼓舞的研究成果。近年来，值此机遇，我国也制定了“一体两翼”的中国脑计划，目的是以神经科学的基础研究为“一体”，融合神经医学及人工智能，共同促进我国神经科学体系的建设。为应对这些神经科学研究迅速发展的挑战和历史的机遇，许多院校设立了神经科学课程或专业，甚至独立的学院。而在医学本科教育中，对于医学生神经科学知识体系的正确构建，我们认为是非常基础及重要的，也是医学本科教育改革实践中应该认真思考的一个重要问题。为此，我们做了一些系统的思考和局部的尝试。

1目前我国医学教材的现状

我国的临床本科五年制或七年制教材设计中，有关神经科学的知识分布在生物化学、生理学、组织胚胎学、局部解剖学、系统解剖学、神经病学、外科学神经系统部分、医学心理学、精神病学等各科教材里面，教材总体上继承前苏联神经科学的思想，即谢切诺夫和巴普洛夫的反射理论。整个知识点的设置，基本围绕该观点展开。不可否认，巴普洛夫的反射理论取得了巨大的成就，建立了心理学的行为学派。但是，在涉及到丘脑皮层这个矩阵网络意识系统的症状学时，这个理论显得非常无力，用这个理论教育出来的医学生显得非常茫然。恰如陈宜张院士所说：“对脑功能的解释而言，此观点显然是不全面和不确切的”。

2目前神经科学体系的情况

其实，在神经科学的整个发展过程中，模式处理、神经网络等观点一直被神经科学家们所注意，并产生了大量的研究成果。早期赫布就在其著作《TheorganizationofBehavior》中提出了神经群体协同学习的理论，威廉詹姆斯也在其著作《Theprincipleofpsychology》中提出了脑的整体统一工作的观点。赞特高塞在解剖学上揭示了皮层网络的功能单位-皮质柱，休伯尔和威赛尔更是因为发现视皮层皮质柱[1]的生理特性而获得了1981年的诺贝尔奖。而KarlvonFrisch等更是揭示了生物行为的主动性获得了1973年的诺贝尔奖，修正了反射理论。目前，随着神经科学各学科的发展融合及计算机模拟神经网络研究的进步，我们知道了中脑之上的丘脑-皮层网络系统负责产生意识和认知能力[2]，而该系统属于等级构筑的矩阵网络系统[3]。另外，这个丘脑皮层等级网络系统的各层级矩阵间有着非常多的交互联系，特别是皮层与丘脑间的交互联系[4]。而巴尔斯提出的全局工作空间模型[5]和在其基础上发展的丘脑动态核心理论[6]是比较符合目前所知道的丘脑皮层等级矩阵网络的意识结构[7-8]的工作原理的。针对这些神经科学的发展成果，很多院校开设了神经科学专业，特别是欧美很多大学设置了Neuroscience专业，系统的教授神经科学的知识。由于教材的原因，我国医学领域被人为割裂了与最新神经科学的联系，神经医学不能有效地融合到中国脑计划的医学一翼中去，不能有效从脑计划的一体和另一翼中有效汲取养分而发展，这是非常令人痛心的。因知识体系的落后，使得目前的临床神经医学执业医生普遍对神经功能性疾病无从下手，诊治观念非常落后，基本处于人云亦云的状态，无法独立运用正确的基础知识进行思考。

3本科学生对神经科学知识的了解程度

我们在神经外科的临床教学中感觉到，五年制临床本科同学往往对脑叶的症状学无法理解。学生只知道解剖学教材曾提到皮层存在Brodmann分区（那是大纲中的了解内容），但是对皮层分区形成的原因是由细胞柱区域聚集形成神经网络的模块一无所知，对神经网络的构成及功能实现方式更是闻所未闻。在临床教学中，大脑的定位定性诊断思想和依据该思想制定治疗思路的道理很难正确教授给本科同学。上位脑干之上的丘脑皮层意识系统是神经矩阵网络的集大成者，网络结构非常发达，不正确理解该结构就不可能理解该部位疾病的诊治。而如果需详细讲解该系统的结构和原理，在完整且系统的教授的情况下，可以安排四年的本科课程，这是目前医学教育中不可能实现的。而根据我们的教学体会和学生的反馈，要了解基本的简单原理也需要1.5~2个学时。为了解决目前神经学科教育面临的这种困境，我神经外科尝试采取了穿插融合、有所取舍、有所突出的方法去改善学生的神经科学知识结构。

4我们的教学应对方法

4.1补充完善教材缺陷的构思

在我校的教学大纲中神经系统的外科各论安排了6个学时的理论课和9个学时的见习课。这些学时范围内需要讲述：颅内压力问题、脑疝问题、颅脑损伤问题、脑肿瘤问题。其中脑损伤和脑肿瘤中涉及皮层丘脑节段的病灶才会用到神经网络的知识去理解脑叶的症状学和丘脑在系统中发挥整合作用的核心地位。虽然意识和认知问题属于重大科学问题，而且在神经系统疾病诊治中理解神经网络如何产生该功能有重要指导性作用，但是，由于大纲并没有太多要求，学生是否有兴趣去了解这些教材中缺失的神经科学知识？教学实践中，我们发现，60%~70%的临床本科同学对这方面是很有兴趣的，而如果提出一些特别的损伤病例，比如外伤中的闭锁综合征、嗅沟脑膜瘤的独特额叶症状表现等，去展示神经系统的局灶症状学，并说明意识和认知网络的并行处理结构和功能的网络实现方式时，由于症状的趣味性，会激发同学的广泛兴趣。因此，我们推断，只要我们在课堂中灵活运用有趣的病例讲述和解释，并适当介绍一些神经科学的参考书籍的话，是有可能继发出同学对神经科学的学习兴趣并促进对神经系统外伤、肿瘤、脑疝等的局灶症状学的理解的。而我们反复思考推荐的神经学参考书目录是：《神经生物学：从神经元到脑》《神经科学探索脑》《认知神经科学》《认知、大脑和意识》《昏迷和意识障碍》《王忠诚神经外科学》。推荐这些书的目的是提供一个神经科学大体的理论框架，从基础的解剖、生理到系统的整体神经计算，然后到临床的相关问题。可能被誉为神经科学圣经的埃里克.R.坎德尔主编的《神经科学原理》中文导读版知识更系统，但是毕竟本科同学推荐英文书籍会面临很大的语言障碍，我们没有选择。

4.2具体的教学实践实施方法

在具体的教学实践中，我们首先在颅脑损伤和颅内肿瘤共4个学时的理论课学习阶段，反复在课堂讲学中穿插运用神经网络的知识帮助同学理解脑叶的症状学，使学生对该结构的功能实现方式有初步的了解，让同学基本认识到皮层的功能单位是细胞柱（cortexcolumn），并且相同功能的细胞柱聚集形成模块即布雷德曼（Brodamn）分区，而且皮层网络模块间、皮层与丘脑网络间有广泛的相互联系。经过这样的介绍，同学很容易理解了运动或感觉区随精细运动或感觉的程度增加，细胞柱增多，代表区面积增大的道理。并且通过介绍突触汇聚修饰的原理让学生了解如辅助运动区等次级联络皮层的细胞柱群参与编码更复杂功能的方式，并学会推断其他联络区细胞柱群可能的电生理反应特性从而理解可能出现的症状学。通过如此简单的讲解，有效解决了学生在阅读《外科学第九版》中讲述肿瘤影响脑叶功能时无法理解而死记硬背的问题，迅速引起了学生的课堂注意及兴趣。然后，在课程结束时列举可以参考的神经科学文献，让感兴趣的学生自行学习，丰富其知识体系。而后，在理论课后的临床见习课中，结合病例的症状、体征，穿插讲解该神经网络的知识及临床应用，适当重提大课提到的神经网络知识，观察学生的表情反应，适当延伸或者不延伸。如果见习讲解时发现有的见习组神经科学知识丰富的同学和感兴趣的同学较多，则适当延伸讲解丘脑在意识和认知系统中的重要整合地位，让同学理解神经外科手术中保护丘脑的重要性。而如果小课课堂发现对重提这些知识感兴趣的同学较少，则不进行知识的延伸讲解，仅仅重点强调皮层网络的分布式计算原理及实际应用中如何通过该原理去理解教材的论述。在所有批次的见习小课中，我们都形象的比喻：丘脑皮层矩阵网络系统是用“丘脑去感觉，而用皮层去思考”。碰到合适的病例，而且小课课堂反应较良好，大部分同学具有强烈的兴趣时，可以让学生使用心理学的“内省”的方法去体会这个过程，理解脑的症状学。但是，我们教学中始终在讲授者心中强调重点突出的重要性。因为系统的学习神经科学知识必须要四年的完整本科教育，而更深入的研究与理解神经系统中最被广泛关注的丘脑皮层意识与认知系统则需要更进一步的学习与研究，如果幻想仅仅通过几个学时的简单讲解就让临床本科同学非常精通神经科学的知识是非常不切实际的。我们曾在部分见习组中试图更加详细讲解神经网络的知识，这种冒进的做法反而会让学生感觉到神经学是一门高深的理论，收不到明显的教学效果。所以，我们始终以让学生能理解教材中脑叶症状为重点教学目标，如果课堂反应好则适当延伸讲解皮层下中枢的重要性。通过这些教学改革的尝试，同学们普遍反映，从原来的对神经网络和神经科学的一无所知到有所了解，并能开始对脑叶的症状学有所理解。这些效果使我们非常欣慰。我们总体的感觉是，1~2个学时的讲授，且见习中穿插病例的解释，就能让学生对神经科学和神经网络有初步的概念。并且课后介绍的参考书籍，作为神经科学的知识系统的主干，提供了学生在以后的学习中进一步拓展自己的知识面的机会，那些立志向临床神经学发展的同学利用这些参考书籍能迅速形成更加系统和丰富的知识体系。

4.3实施教学中遇到的困难

当然，实际教学中也发现了很多的困难。主要的困难仍然是医学教材中基础阶段神经科学知识的编写不够完整，同学对皮层丘脑网络几乎一无所知，而我们临床阶段教学在介绍一些简要的知识后立即讲解其应用，很多平常没有一定课外知识积累的同学开始会觉得课堂内容跳跃过大，无法理解，在课程进行到最后的两个学时时，学生才开始有所领悟。但是，教学中也发现有些有兴趣的同学已经有一定的知识积累，知道一些皮层细胞柱结构和网络工作模块的知识，很快接受了神经网络的知识并理解了其症状学，还能进一步提出一些学科前沿的问题。针对课堂发现的问题，我们认为解决之道还是在进一步于课堂教学中凝练穿插融合、有所取舍、有所突出的思想和课堂技巧，正确认识临床本科同学目前的神经学知识体系，才能明显提高教学效果。

神经网络的基础知识范文第3篇

Abstract: Cognitive radio technology provides new opportunities and challenges for the development of wireless communication. Intelligence is an important characteristic for cognitive radio, and application of artificial intelligence techniques is key to implement this characteristic. This paper will first provide our own research framework on cognitive radio, second give an overview of application of artificial intelligence to cognitive radio, and last introduce and simulate the application of neural network to cognitive radio.

关键词： 人工智能；认知无线电；神经网络

基金项目：国家重点基础研究发展规划（“973”计划）项目（2009CB320403）；国家自然科学基金资助项目（60832008，60832006）；国家科技重大专项课题（2009ZX03007-004）。

作者简介：柴新代（1964-），男，北京人，本科，高级工程师，研究方向为通信系统工程；董旭（1979-），男，河北景县人，博士研究生，讲师，研究方向为认知无线电。

1 概述

无线通信技术的飞速发展，正在越来越深刻地影响着人们的生活。与此同时，无线通信技术的发展也面临着严峻的考验，一方面频谱资源的固定分配模式和利用率不均衡制约着无线通信宽带化的发展，另一方面多种空中接口和网络协议并存的局面为无线网络的融合提出了挑战。1999年Mitola博士提出的“认知无线电（Cognitive Radio）”[1]为解决无线通信所面临的问题提供了新的机遇。因此，认知无线电技术迅速成为业界研究的热点。

认知是人类获取运用知识解决问题的一种抽象，将认知运用到无线电技术，会提高无线电系统的智能性，这也是认知无线电技术区别于普通软件无线电的最大特点。认知无线电技术通过实时的获取外部环境信息，并对这些信息进行分析、学习和判断，得到无线电知识，然后根据这些知识智能地调整各种通信参数，从而最终实现可靠的通信，并达到最佳的频谱利用效率。人工智能技术为实现认知无线电的智能性提供了可能，本文将主要围绕多种人工智能技术在认知无线电中的应用进行论述，下面将首先介绍认知无线电智能化的基础框架――认知环路和认知引擎，然后对几种人工智能技术在认知无线电中的应用进行简要介绍，最后将详细介绍神经网络在人工智能中的应用，并通过仿真给出一个具体的示例。

2 相关工作

2.1 认知环路 Mitola博士在提出认知无线电概念的同时提出了OOPDAL（观察-判断-计划-决策-行动-学习）认知环路[1]，用以支持其认知无线电架构。此外，学术界还提出了多种认知环路模型[2,3]，比较著名的有军事战略家Boyd提出的OODA（观察-判断-决策-行动）环路、IBM为自主计算提出的MAPE（监测-分析-计划-执行）环路、Motorola为自主网络提出的FOCALE（基础-观察-比较-行动-学习-擦除）环路等等。OOPDAL环路具有完整认知功能和清晰的认知过程，是设计认知无线电最为理想的环路模型。本文对OOPDAL环路各环节进行了重新定义，丰富了环路模型的内涵与外延，并在原环路模型基础上增加“知识库”，明确表达了知识获取与运用的过程。

如图1所示，经改进的OOPDAL认知环路由外环和内环组成，外环也称决策环。认知无线电首先“感知”无线域、网络域、用户域、政策域中的数据，并对其建模以明确自身所处态势；“判断”是对数据的精炼，也即对感知数据进行清理、集成和选择，提取出其中对决策有贡献的信息；“计划”根据用户需求与当前环境生成优化目标；“决策”根据优化目标执行优化；“行动”将决策结果付诸实施，使内部状态和外界环境发生变化，这些变化又被重新“感知”，进入下一轮循环。内环又称学习环，用于从外环运行的历史经验中提取知识，并存放入知识库以指导决策环运行。

OOPDAL环路对知识的运用过程充分体现了认知无线电的智能性，其中计划、学习、决策等环节更是智能性得以实现的关键所在，具体的实现方法则需要借助于人工智能技术。

2.2 认知引擎 认知引擎是实现认知环路功能的技术手段。但很多认知引擎的设计是针对特定方法实现特定任务的，本文希望设计一种通用的认知引擎架构，以适应认知无线电所面临的各种应用。通用认知引擎结构由认知核与接口部分组成。认知核提供各种丰富的工具，包括知识表示工具、各种推理机、学习机、优化算法库等，为完成认知循环的各环节功能提供支持。接口部分包括感知器接口与用户接口。感知器接口收集各种感知数据，并通过建模系统以机器可理解的方式表示；用户接口部分允许用户调用认知核中各种工具并对其进行流程编排和建模完成专用认知引擎的构建。另外，可配置无线网络具备动态可配置波形与协议，以执行认知引擎的决策。

认知核是认知引擎的核心，包括多种人工智能工具，如专家系统，案例推理，神经网络，遗传算法等，每种人工智能的工具不但可以实现相应的认知功能，还可通过多种不同工具的编排组合实现认知无线电的各种应用，即实现认知引擎的通用性。

3 人工智能技术概述

如果说认知核是认知引擎的核心，那么人工智能技术就是认知核的核心。人工智能技术已有比较成熟的理论体系[4]，但将其应用到认知无线电还处于探索阶段。下面先简要介绍几种人工智能技术在认知无线电中的应用。

3.1 专家系统 专家系统在人工智能技术领域有着非常成功的应用[5]，并能够很好的与其他人工智能技术结合使用，如遗传算法，人工神经网络等。专家系统是运用知识和推理过程来解决只有专家才能解决的复杂问题，也就是说专家系统是一种模拟专家决策能力的计算机系统。专家系统主要包括两个部分：知识库和推理机。知识库用来存储专家知识，推理机则依据专家知识对已有事实进行推理和决策。认知无线电可以借助专家系统完成推理决策功能。认知无线电可以通过主动学习或“人在环中”的方式获取无线电知识并存储到知识库中，然后根据外部无线环境和用户需求的变化，到知识库中查询相应的先验知识，并通过推理机进行决策，从而调整无线电的工作参数以适应环境和需求的变化。CLIPS是目前比较成熟的专家系统工具，已有学者将基于CLIPS的专家系统应用到认知无线电的研究中[6]。

3.2 案例推理 案例推理作为一种人工智能技术致力于从以往的经历或者案例当中得到新问题的解决方案。基于案例的系统通过在案例库查找与需要解决的问题相似度最大的案例来找到问题的解决的方法，并将找到的案例与当前的场景进行匹配，这种匹配实际上就是一种最优化的过程。而最初找到的案例是为了节省优化的时间，通过优化的新的解决方案，将被作为新的案例存储到案例库中。认知无线电可以根据无线环境的变化调整工作参数，不同的环境和工作参数可以作为案例存储到案例库中[7]。当环境发生变化，认知无线电可以在案例库中查找与当前环境最为相似的一个案例，然后用该案例与当前环境进行匹配，优化工作的参数，并把当前环境和优化的参数作为新的案例存储到案例库中。Soar作为一种人工智能系统的开发工具，可以实现案例推理功能，并可以基于案例进行学习，国内已有学者基于Soar和GUN Radio软件无线电平台开发出认知无线电原型系统。

3.3 遗传算法 遗传算法借鉴生物进化和遗传的生物学原理，可用于解决目标优化问题，即找到一组参数（基因）使得目标函数最大化。其基本原理是根据求解问题的目标构造适值函数，使初始种群通过杂交和变异不断选择好的适值进行繁殖，并最终得到最优解。遗传算法同样可以作为认知无线电的决策方法[6,8]：可以把无线电类比为一个生物系统，将无线电的特征定义为一个染色体，染色体的每个基因对应无线电一个可变的参量，比如发射功率、频率、带宽、纠错编码方法、调制算法和帧结构等等，这样就可以通过遗传算法的进化来得到满足用户需求和适应环境变化的系统配置参数。

4 神经网络在认知无线电中的应用

对于人工神经网络的研究源于对人类大脑思维过程的模拟，在很多领域，神经网络已经有了广泛的应用。下面将详细介绍神经网络在认知无线电中的应用。

4.1 神经网络简介 1943年神经物理学家W.McCulloch和逻辑学家W.Pits在对人脑的研究中提出了人工神经网络。目前人工神经网络作为一种人工智能技术主要基于统计评估、优化和控制理论。人工神经网络由用以模拟生物神经元的大量相连的人工神经元组成，主要用于解决人工智能领域的一些复杂问题，比如机器学习。根据网络结果和训练方法的不同，人工神经网络可以分为多种类型，以适应多种的应用需求[7]。多层线性感知器网络（MLPN）：MLPN由多层神经元构成，每一个神经元都是上一层神经元输出的线性组合。一般这种线性组合的权值在训练前是随机生成的，并且可以随着训练不断的更新。更新的方法有多种，如后向传播（BP）、遗传算法等。其训练方法的性能将由其网络规模和应用场景决定。非线性感知器网络（NPN）：NPN是利用对每个神经元的输入平方或两两相乘的方法将非线性引入神经网络使其可以对动态变化的训练数据进行更好的拟合。但NPN的网络结构需要根据训练数据进行调整，另外如果采用BP方法进行训练会使网络收敛缓慢而导致处理时间过长。径向基函数网络（RBFN）：RBFN和NPN类似，不同的只是其非线性的引入是在隐含层利用径向基函数实现非线性映射，这可以防止网络收敛到局部最小值。

4.2 应用举例 由于神经网络可以动态的自适应和实时的训练，因此可以对系统的各种模式、参数、属性等进行“学习”，并“记住”这些事实，当系统有了新的输入和输出时，可以进行实时的训练来记忆新的事实。这正符合了认知无线电认知功能的需求，因此神经网络在认知无线电中有着广泛的应用前景。下面就列举一些神经网络在认知无线电中的应用[9-12]。神经网络可以用于认知无线电的频谱感知，例如利用基于神经网络的分类器可以根据信号的循环平稳特性或者频谱特性等对信号进行分类。神经网络还可用于无线电参数的自适应决策和调整，神经网络可以根据当前信道质量和用户需求等所确定的优化目标选择无线电参数。另外神经网络还可以对无线电系统的各种性能进行预测，神经网络可以记忆不同无线环境不同无线参数所达到的系统性能，比如误码率、吞吐量、时延等等，从而对未来可能产生的系统性能进行预测，进而对各种无线参数进行优化。

5 仿真及分析

由于无线环境的开放性，无线系统大都是非线性系统，因此神经网络用于认知无线电也应采用非线性模型。非线性感知器网络（NPN）可以完成认知无线电的学习功能，从而对各种系统性能进行预测，下面就通过一个具体例子来仿真基于NPN的误码率性能预测。

5.1 仿真模型 NPN由三层节点构成：输入层、隐含层和输出层。隐含层通常只有一层神经元，本文在此基础上扩展了隐含层的层数，从而扩大了神经网络的规模，使其具有更好的学习效果。具体的网络结构如图2所示，每个节点都与下一层的所有节点唯一相连，除了输入层节点，其他各层节点称为神经元，具有一个非线性的激活函数，以实现对非线性系统的拟合。本文将采用最为常用的非线性激活函数――S函数，即：f

神经网络的训练将采用BP方法，具体算法如下：

③根据RMS误差决定是否调整权值，直到RMS误差或者迭代次数达到停止要求。

5.2 仿真场景 仿真场景的设置将根据上面提出通用认知引擎架构进行编排。首先认知引擎要收集各种数据。WiMax可以根据信道质量调整其调制编码模式等无线电参数，因此将作为通用认知引擎架构中的可重配置的无线电平台将系统的误码率性能实时上报给认知引擎；信噪比作为无线环境的表征可通过感知器进行收集；编码速率作为用户对业务的需求可通过用户接口上报给认知引擎。然后认知引擎内基于NPN的学习机就可以对这些数据进行训练了，训练的方法如上节所述。最后训练好的神经网络就可以根据无线环境和用户需求对系统的误码率进行实时的预测，从而调整认知无线电的各种操作参数。

5.3 仿真结果及分析 由于对神经网络模型的隐含层进行了扩展，首先验证一下改进的模型性能是否有所提升。仿真结果如图3所示，分别仿真了具有2层、3层和4层神经元的NPN的收敛性能。其中2层模型是没有经过改进的，其收敛速度最快，但RMS误差较三层模型差；3层模型虽然收敛速度稍慢，但收敛的RMS误差最低；4层模型的网络规模最大，因此收敛速度最慢，但其RMS误差收敛的并不是最低，这是由于神经网络的规模应该与训练数据的规模相适应，过大的网络规模反而不会得到很好的收敛性能。折中考虑，在后续误码率预测仿真中，将采用3层神经元模型的NPN对数据进行训练。

如图4所示，利用3层神经元模型分别对WiMax场景下的64QAM、16QAM、QPSK和BPSK的误码率性能进行了预测。从预测结果和实际的仿真结果的比较可以显示，随着调制模式的升高，预测的性能将越来越好。

6 结束语

本文主要介绍了人工智能技术在认知无线电中的应用，并通过人工神经网络进行举例，从仿真的结果可以看出神经网络在认知无线电中应用的可能性。人工智能技术在认知无线电领域的应用还有着广阔的研究前景，应该积极探索更多的人工智能技术在认知无线电中应用。但也并非所有的人工智能技术都适用于认知无线电的开发和应用，应在研究中有所选择把握方向。不同的应用场景也对人工智能技术提出了不同的需求，找到适用于相应场景的人工智能技术也很重要。未来的工作应更多的考虑一些实际的应用，让无线通信系统可以真正的像人一样思考。

参考文献：

[1]J.Mitola Ⅲ."Cognitive radio: Making software radios more personal"，IEEE Personal Communications，vol.6，no.4，pp.13-18，1999.

[2]S.Haykin."Cognitive radio：Brain-empowered wireless communications"，IEEE Journal on Selected Areas in Communications，vol.23，no.2，pp.201-220，2005.

[3]T.W.Rondeau，C.W.Bostian，D.Maldonado，A.Ferguson，S.Ball，B.Le，and S.Midki，“Cognitive radios in public safety and spectrum management”，Telecommunications Policy and Research Conference，vol.33，2005.

[4]George F.Luger，“Artificial Intelligence Structures and Strategies for Complex Problem Solving Fifth Edition”，Pearson Education Limited，2005.

[5]Joseph C.Giarratano, Gary D.Riley，“Expert System Principles and Programming Fourth Edition”，Thomson learning，2006.

[6]Timothy R.Newman，“Multiple Objective Fitness Functions for Cognitive Radio Adaptation”，Doctor Thesis，2008.

[7]A.He，K.K.Bae，T.R.Newman，J.Gaeddert，K.Kim，R.Menon，L.M.Tirado，J.Neel，Y.Zhao，J.H.Reed，and W.H.Tranter，“A survey of artificial intelligence for cognitive radios”，IEEE Transactiongs on Vehicular Technology，vol.59，no.4，pp.1578-1592，2010.

[8]Thomas W.Rondeau，“Application of Artificial Intelligence to Wireless Communication”，Doctor Thesis，2007.

[9]N.Baldo，B.R.Tamma，B.S.Manoj，R.Rao，and M.Zorzi，“A neural network based cognitive controller for dynamic channel selection”，in Proceedings of IEEE International Conference on Communications（ICC），pp.1-5，2009.

[10]X.Zhu，Y.Liu，W.Weng，and D.Yuan，“Channel sensing algorithm based on neural network for cognitive wireless mesh network”，in Proceedings of IEEE International Conference on Wireless Communications（WiCom），pp.1-4，2008.

神经网络的基础知识范文第4篇

【关键词】Matlab；RBF神经网络；仿真试验

人工神经网络（ANN-Artificial Neural Network）是一种与传统计算机系统不同的信息处理工具，具有人脑的某些功能特征，可用来解决模式识别与人工智能中用传统方法难以解决的问题。神经网络具有高度的自学习、自组织和自适应能力，通过学习和训练网络模型的输入、输出数据就可以获得网络的权值和结构，从而得出隐含在输入、输出数据中的关系。这种关系隐含在神经网络内部，它不需要知道具体的精确模型，只需用神经网络就能逼近输入和输出之间的多维非线性特性，从而建立输入与输出之间的关系，这种非线性映射能力在人工智能、模式识别、信息处理等工程领域得到了广泛的应用。

随着神经网络理论研究和实际应用的不断深入，《人工神经网络》课程逐渐受到较多高校的重视，并将其列入教学计划，成为电气信息类学科的一门专业选修课。但《人工神经网络》课程的理论性非常强，对本科生的教学具有一定的难度。作为入门课程，本科生的教学重点应放对各种网络模型的结构和特点的理解，并结合应用实例，使学生能够获取一些初步设计经验的基础上，掌握有关模型的用法和性能。因此，笔者以RBF神经网络为例设计仿真试验，通过实例增强学生的对神经网络模型的设计和仿真的认识，加深学生神经网络理论的理解。

一、RBF神经网络

RBF网络可以根据问题确定相应的网络拓扑结构，学习速度快，不存在局部最小问题。RBF网络的优良特性使得它正显示出比BP网络更强的生命力，正在越来越多的领域替代了BP网络。

RBF网络典型结构如图1所示。输入层节点只是传递输入信号到隐含层，隐含层节点由像高斯函数那样的辐射状作用函数构成，而输出层节点通常是简单的线性函数。隐含层节点中的作用函数对输入信号将在局部产生响应，也就是说，当输入信号靠近该函数的中央范围时，隐含层节点将产生较大的输出。由此可看出这种网络具有局部逼近能力，故径向基函数网络也称为局部感知场网络。

二、基于MATLAB的RBF神经网络设计与仿真

MATLAB神经网络工具箱为径向基网络提供了很多工具箱函数，它们对我们利用MATLAB进行径向基网络的设计、分析及实际应用有着不可替代的作用，这给用户带来了极大的方便。

下面以污闪风险预测模型为例来说明神经网络设计与仿真。预测模型采用三输入一输出的结构。输入向量为相对湿度RH、泄漏电流幅值Ih、泄漏电流三次谐波与基波的幅值之比δ，它们的大小是能够检测到的用于评判绝缘子污闪风险的主要参数；将绝缘子污闪的风险等级作为输出，输出取值分别为不报警（NA）、一般报警（GA）、危险报警（DA）等三个模糊量。对于绝缘子污闪风险等级NA、GA和DA，为了方便神经网络进行拟合建模，分别赋予一个量化的值1，2和3与之一一对应。

利用函数newrbe创建一个准确的径向基网络，该函数在创建RBF网络时，自动选择隐含层的数目，使得误差为0。在网络设计过程中，用不同的SPREAD值进行尝试，以确定一个最优值。SPREAD分别取1，2，3，4时得到不同的网络结构。将污闪风险等级的实际值和神经网络输出的结果对比，不同神经网络的验证结果如图3所示。可以看出，当SPREAD取1时，污闪风险的实际值与神经网络计算值之间的误差最小，网络性能达到最优，所以本论文预测网络的SPREAD选取1。

将试验中得到的600组数据预留20组数据作为检验样本，剩下的580组数据为RBF神经网络的训练样本，训练好的网络具有进行绝缘子污闪风险预测的能力。

三、结语

人工神经网络是一门理论性很强而又应用广泛的课程，已经应用各种电气设备信号预测和状态监测等领域，本科生由于数学基础的限制学习这门课程有一定的难度。高校要培养出高素质的工程应用型人才，应充分利用MATLAB平台将实验仿真教学与理论学习相结合，以促进学生对较难理解的理论知识的掌握。通过采用灵活多变的教学方式，培养学生的学习兴趣、激发学生的求知欲，从而达到启迪思维、拓展视野的目的，培养学生自学能力、独立解决问题的能力，为社会培养出具有工程创新能力的卓越工程师。

参考文献

[1] 李国勇.智能控制及其MATLAB实现[M].电子工业出版社，2006.

[2] 葛哲学，孙志强.神经网络理论与MATLAB R2007实现[M].电子工业出版社，2007（03）.

神经网络的基础知识范文第5篇

随着计算机网络、通信技术的发展，电子商务活动也随之得到了蓬勃的发展，社会对既懂计算机又懂商务的复合型人才产生了巨大的需求，在这个契机下电子商务专业应运而生，在经历了一批电子商务专业研究者的不断努力下，从1998年各高校只能开设电子商务专业的相关方向到现在己将电子商务专业收录到《普通高等学校本科专业目录（2012年）》中，并且可招收硕士和博士，授予其管理学或经济学或工学学位，在历经了这十多年的探索研究，电子商务专业己经具有了自己的专业培养目标及专业特色。

我院是民办本科三表院校，从2002年起招收电子商务专业学生，曾经是本科、专科兼招，在几年的培养改革过程中，至2010年便只招收本科学生，在就业岗位及社会大环境下，以及对我院学生自身特点的探索中确定了适合我院学生的人才培养方案，以此构建了完整的课程体系，并在这几年的实施中不断完善，形成了我院特色的课程体系。

我院的电子商务专业培养目标为：培养适应21世纪信息技术发展需要，具备经济、管理、计算机技术等方面的基本理论和基本知识，掌握电子商务技术、电子商务管理的基本知识和基本技能，熟悉电子商务行业的政策法规，能在商贸领域、政府机构从事电子商务系统的设计、开发、管理等第一线实际工作，基础扎实、知识面宽、综合素质高，能具有创新精神、德智体美全面发展的复合型、应用型高级人才。

专业基本要求：本专业以现代商务能力培养为主线，以企业信息化基本技能为辅助，重视基础知识培养，坚持强化基本技能训练的专业培养特色。建立以互联网为基础、以交易双方为主体、以银行电子支付和结算为手段、以客户数据为依托的全新的商务模式。学生将受到电子商务技术、电子商务管理方法和技巧方面的基本训练，具有分析、管理、规划和设计电子商务应用问题的基本能力。（1）热爱社会主义祖国，拥护中国共产党。（2）应社会经济发展，具有竞争意识、创新精神和创业精神。（3）实践能力强、上手快、有一定发展后劲，适应社会发展和胜任岗位工作需要。（4）有一定的人文素养、健康的体魄和良好的心理素质。（5）具有较好的语言、文字表达能力、人际交往能力和团队合作精神，具有相关的政策法规知识。（6）熟练地掌握网络和现代信息技术，电子商务技能，具有较强的办公自动化设备的应用能力。

针对这一目标及专业基本要求，确定课程体系，在整个课程体系中将课程分为公共基础课，公共选修课，专业基础课，专业选修课，专业骨干课，专业方向课，包括：电子商务概论、电子商务网站建设、网络营销、电子商务物流、市场营销、会计学、电子银行、电子商务解决方案、电子商务案例分析、电子商务实务、电子商务法、电子商务英语、计算机文化基础、PHOTOSHOP、网页设计、SQL数据库、PHP动态网络编程、计算机网络技术等。

在此基础上再根据就业方向的侧重分为经管营销类课，计算机类课程，其中经管营销类课，旨在培养学生利用先进的技术手段（计算机、互联网络）进行多种商务活动，这个过程中计算机是一种工具，其目的是让学生会用，熟练应用来帮助其完成商务型工作目标，这一部分学生主要从事网络营销、网站推广、网站运营经理/主管、外贸电子商务工作；另一部分是计算机类课程，旨在培养学生掌握计算机类的相关技术，能够开发、设计，熟练使用，综合应用本课程知识，使其成为自己的工作目标，这一部分学生主要从事网站开发、网站设计、网站策划/编辑工作；针对不同侧重的学生，计算机课程的开设也会有所不同，前一种加大经管类课程，减小计算机课程比例，将计算机类课程浓缩并提炼出应用型部分加以开设，将课程细化，模块化，精讲细练以达到对计算机技术的掌握，后一类学生类似于计算机专业的学生，他们的主要课程以计算机网络、软件开发为主，区别的他们的电子商务知识会多一些，所修课程以电子商务活动为目标，计算机专业性更强一些。

我院属于前者，所以在开设计算机课程时要侧重应用，不以计算机知识为主，针对这种情况我院将计算机课程作如下调整，以学生素质、技能培养为核心，以市场为导向，以实际应用为主要目标实现课程的实用化、模块化、精练化。

实用化，即就业岗位需要哪些知识、技能，我们就讲哪些知识、技能，将素质教育与技能教育融入课程中，弱化理论课程，强化实践课程。

模块化，即将计算机知识整休构想，前后衔接有度，课程设置合理，搭配得当，讲授过程前后有序，知识层次和技能培养成体系，强化课程整体性，系统性，使培养的学生经过学习，对整个知识体系都有所了解，掌握所有需要的知识。

精练化，在课程学时一定的前提下，精讲细练，课程内容合理，有粗有细，有重有轻，让学生学习过程中能把握学习的度，哪些是主干，需重点掌握，哪些为了解，课下完成，要合理取舍，不要一味多学多练，学生疲备不堪，老师怎么讲都讲不完。