首页 > 文章中心 > 卷积神经网络的难点

卷积神经网络的难点

前言:想要写出一篇令人眼前一亮的文章吗?我们特意为您整理了5篇卷积神经网络的难点范文,相信会为您的写作带来帮助,发现更多的写作思路和灵感。

卷积神经网络的难点范文第1篇

人工神经网络作为一种智能化的方法近年来在图像数据压缩领域得到了一定的研究与应用[6]。基于人工神经网络的数据压缩主要有2个步骤:①学习训练,将数据送入输入层作为训练样本,不断调整各层间的连接权值,从而使得网络的输出均方差达到最小;②压缩编码,将数据输入到训练好的网络,压缩后的数据通过隐含层输出。DEM数据具有相关性和连续性的特点,即DEM数据反映的是地形连续变化的特征,高程剧烈变化的部分是少有的并且DEM网格中某一点的高程值可以通过邻域值用非线性函数表示,这实质上非线性函数逼近或地形曲面拟合的过程。基于以上特点,学者们将人工神经网络引入到DEM数据压缩领域,冯琦等[7]采用BP神经网络实现DEM数据压缩,该研究特色在于:①采用L-M训练算法提高单隐层网络(SHLN)运算速率[8-9];②基于DEM数据相关性特点设置相对误差精度指标实现对最优BP训练网络的选取,在减少结点数的同时获得较高的压缩比;③该方法解压过程对于计算机硬件依赖性不高,能够进行数据的离线压缩处理。根据DEM数据的连续性特征,赵鸿森等[10]提出了一种基于RBF神经网络的压缩方法,该方法将山脊线、山谷线等地形特征作为样本点训练集,能够根据地形特征自适应确定网络结构,神经网络权值是通过网格点高程值获得,可获得较高的压缩比。

基于小波变换的DEM数据压缩

1.基于DWT的DEM数据压缩

DWT(DiscreteWaveletTransform)适合于处理各种冗余度低、相关性低的非平稳信号的压缩处理,对于不稳定、相关性差的DEM数据压缩具有较好的效果。DWT对于信号的压缩是基于其他具有多分辨率分析(MRA)这一特性,即根据Mallat算法[11]原始信号能够被逐级分解为高频和低频信号,由于高频分解信号含有绝大都数信息并且幅值小,通过设定一定的比例将最小幅值的分解系数置为0,再通过小波系数重构达到信号压缩的目的。经过理论分析,原始信号经过DWT,重构信号与原始信号具有高度的一致性。事实上重构信号与原始信号的差别往往不可忽略,特别是对于DME数据的压缩,压缩后数据相对于原始数据而言存在着严重的边界畸变、失真等问题,必须加以解决。针对这一问题,CHANG[12]等将二维离散小波变换的边界问题转变为一维离散小波变换来进行处理,研究结果表明该方法大大减小了边界失真区域,在提高压缩比的同时DEM重建数据精度也得以提高。

2.基于IWT的DEM数据压缩

DWT是通过将信号分解系数直接置0的方式来进行压缩处理,重构信号与原始信号不可避免地出现误差,而基于IWT(IntegerWaveletTransform)信号压缩,由于小波分解系数通过有限精度数(FinitePrecisionNumber)来进行精确描述,因而适合于对信号进行无损压缩处理[13]。基于IWT的数据压缩具有以下特点:①压缩处理很大程度上依赖于多相矩阵因式分解的选择,而因式分解能否对压缩后图像给定一个适当的误差尺度,取决于图形迭代函数;②IWT采用提升方案,并且均为整数运算,数据处理的速率得以提高;③IWT完全可逆,既可以实现有损编码也可以实现无损编码。陈仁喜等[14]将整形小波变换用于DEM数据压缩处理,该方法首先将经过预处理的DEM数据进行整形小波变换,然后对变换系数进行阈值化处理,最后进行量化编码。该方法最大特点是实现了数据压缩比和质量以及数据质量和传输速度的很好折中,具体为:①量化方法基于SPIHT算法平面传送思想,重要信息主要集中于高位,将小波变换后的系数直接去掉后面的n个平面位,该方法在保证数据压缩质量的同时提高了压缩比;②采用基于位平面扫描的算法对量化后的数据进行压缩编码,这使得压缩后的数据具有质量渐进传输特性;③小波变换后各子带分别进行编码,在解码过程中可以不对高频子带解码,得到的恢复数据分辨率较低,这有利于对大型DEM数据进行快速检索和浏览。

3.基于SPIHT小波编码算法

EMZ(EmbeddedZerotreeWavelet)算法由Shaprio[15]于1993年提出,该算法包括嵌入式和零树,在零树结构与逐次逼近量化方法(SAQ)相结合的基础上实现嵌入式编码。该算法能充分利用小波系数特点使得输出的码流具有嵌入的优点,因而在图像处理[16-17]、生物医学[18]等领域得到广泛的应用研究。但该算法也存在着如在相互独立的零树进行编码时浪费大量字节等缺陷,研究者们也做了一些改进[19]。在EMZ算法基础上发展而来的SPIHT(SetPartitioninginHierarchicalTrees)[20]算法具有能够在保证数据压缩质量的前提下提高压缩比,能够进行优化嵌入式编码,均方根误差和计算复杂度低等优点,并且数据压缩后具有很好的渐进传输特性,目前该算法在图像压缩领域得到广泛应用。地形特征是影响DEM压缩质量的一个重要因素,平坦地区数据冗余量大而山地地势高低起伏,数据冗余则较小,但就现有的研究方法而言将这两种地形采用同样地压缩比,压缩结果不尽如人意,李毅等[21]提出了一种基于SPIHT小波的DEM自适应压缩方法,该方法特点在于:①考虑地形特征,根据地形的复杂度进行分析以确定数据压缩比,从而确保数据可视化质量;②自适应性编码,通过才用表征不同尺度的小波高频系数和地形尺度特征向量对地形复杂度进行评估,根据评估结果自适应调节编码算法。但该研究中数据压缩比是根据地形视觉效果选择,存在一定的经验性,在实际应用中很难得到较为理想的压缩比。

4.基于M进制小波的DEM数据压缩

多分辨率分析是传统二进制小波变换的基本特性,即能够获得信号在时间域和频率域局部化特征,这有利于对图像局部信息进行有效地识别和分析。当图像经过多层小波分解时,随着分解层数的增加,图像信息会出现不同程度的丢失,这成为二进制小波变换的主要缺陷。在二进制小波变换基础上发展的M进制小波变换具有如下特点:①能够对图像信号进行更加细致地分解,分解次数不受限制;②图像信息更加集中,并能够精确描述图像的频率分布;③图像重构具备较高的精度;④具有对图像信号相对狭窄的高频部分进行放大处理和对图像信号压缩的特性,这克服了正交小波分解所存在的缺陷.DME由于具有海量化数据,以及复杂的地形信息等特点一直是DEM数据压缩的难点,近年来研究者们将M进制小波变换引入DME数据压缩领域,王宇宙等[22]提出了一种基于多进制小波变换的DEM数据压缩方法,顾及DEM地形因素,将高频和低频信息分别进行编码处理是其主要特色,具体化为:①低频系数采用差分映射编码,这充分顾及地面变化的连续性以及大量数据冗余的情形,能够对低频信息进行无损的压缩编码;②并未直接舍弃系数值较小的高频小波系数,而是通过自适应对数量化表,对各个高频小波系数子块分别加以量化处理,能够获得较好的压缩效果。但该方法不足之处在于:对数量化位数是根据压缩率来进行确定,而事实上压缩率不能预先得知,从而量化位数也就无法精确得获得,基于具体地形信息的DEM数据精确压缩也就难以实现。多进制小波函数和尺度函数的构造是基于多进制小波DEM数据压缩的难点之一,对此吕希奎等[23]构造了一种具有插值性质的多进制小波函数和尺度函数,将DEM数据转变为二维图像压缩问题,能够在保持地形特征基本不变的前提下提高压缩比。但基于多进制DEM数据压缩本质上是有损压缩,细节信息的损失不可避免。#p#分页标题#e#

基于组合算法的DEM数据压缩

1.SPHIT算法与小波变换相结合的DEM数据压缩

整形小波变换(IWT)采用了提升方案(LS),避免了传统小波的卷积运算,并且计算过程完全在空间域进行,计算复杂度明显降低,便于硬件实现。因此,IWT能够对于冗余度较大的DEM数据进行有效地去相关性处理,实现对DEM数据的无损或近似无损的压缩。将IWT与新型编码方法的代表——SPIHT算法有机结合,为DEM数据压缩提供了一种有效方法。田继辉等[24]提出一种能够用于应急三维GIS的DEM数据压缩方法,该方法特点在于:①根据压缩精度要求,实现DEM数据单位转换;②对于每块DEM数据均减去其最小值,在降低了小波变换级数的同时使得SPIHT编码级数也得到降低;③通过设定一个小波系数阈值,将高于和低于该阈值的小波系数,分别进行SevenZip和SPIHT算法进行处理;④选用Int5/3实现对DEM数据压缩处理。该方法充分发挥IWT和SPIHT算法的优势,能够顾及到地形平坦和起伏较大情形下的压缩编码,研究表明该方法取得了较好的压缩效果,但对于DEM数据的边界问题并未提及,仍需要进一步加以研究。

2.基于小波变换与熵编码相结合的DEM压缩算法

该算法实现主要有3个步骤:①小波变换,即选择恰当的小波基函数对DEM数据进行小波变换;②量化,经过小波变换后数据相比原始数据而言更加集中,但其数量大小并未改变,必须采用一定的量化方法进行数据量化;量化通常有矢量和标量量化两种方法;③编码,通过将小波变换后的量化数据进行编码,将其转化为字符流。就整个小波压缩流程而言,数据经过压缩后边界失真现象的克服,数据压缩比的提高,以及在于量化和编码方法的选择是该压缩算法的难点所在。DEM数据具有不稳定、相关性差、信息熵高,并且DEM在平原地区具有较大的冗余,而在山区则冗余度较低等特点,这使得数据压缩比难以得到提高,常占强等[25]利用具有线性相位的双正交小波变换与混合熵编码相结合的方法对山区DEM数据进行压缩处理,具体来说:首先对DEM数据进行小波变换,通过选取最大分解系数的1/6作为自适应阈值并与硬阈值函数相结合,对小波分解后的高频系数进行处理,能够使得大约95﹪小波系数为0;然后将高频和低频分解系数分别采用游程编码和Huffman编码;最后再次通过游程解码和Huffman解码进行数据解压。该研究充分发挥了小波变换与编码方法各自的优势,在提高数据重建精度的同时获得了较高的压缩比,但小波阈值的选取局限于单一的情形,对多种情形的小波阈值的自适应确定规则的研究仍有待于进一步深入。

3.纹理优化技术与其他方法相结合的DEM数据压缩

纹理数据作为一种重要的场景数据,在对三维DEM数据进行渲染时一般存在两个问题:①由于采用分辨率高而且颜色丰富的纹理,从而存消耗急剧增加;②无法有处理决纹理分辨率与视距之间的关系,即相机与图的距离较近时,图形分辨率较大,相机与图形距离较大时,图形分辨率较小。Mipmap(Multi-imagepyramidmap)技术能够很好解决以上问题,该技术由Willams提出,并很快得到了广泛的研究和应用。从广义角度上分析,DME数据压缩、传输与显示是一个有机整体,同属于DEM数据压缩范畴,即广义DEM数据压缩。杨晓东等[26]结合Mipmap纹理优化技术与顶点法向量编码方法对DEM数据进行压缩处理,该研究主要实现如下功能:①数据的渐进传输和显示:通过对DEM数据进行小波变换,分别采用标量量化器和EZW对小波系数进行量化和编码;②DEM数据优化显示,采用顶点法向量的计算和编码方法并结合Mipmap纹理优化技术,能够对模型数据进行光照效果的计算。该研究突破了将DEM数据的压缩、传输以及优化显示有机结合,突破了现有的DEM数据压缩的固有模式,为该领域提供了一个较好的研究思路。

4.基于判别规则(指标)的DEM数据压缩

TIN由于采用不规则的空间分布高程采样点描述地形,在数据结构、三角网生成算法等方面相对于排列规则且结构简单的Grid数据而言,数据压缩方面难度较大。通过预先定义某一判别规则(指标)来对数据量进行适当的取舍,从而实现对DEM数据的压缩,是实现DEM数据压缩处理的一种有效方法。蔡先华等[27]提出DEM数据压缩地形描述误差(Ep)这一判别指标来实现对DEM数据压缩,该方法首先在充分考虑DEM高程采用点、地形描述以及数据压缩等误差相互影响的基础上,确定数据压缩误差限值EP0;然后对不是TIN边界的高程点产生的地形误差Ep与所给限值进行比较,剔除小于该值的高程点,从而实现DEM数据的压缩。三角网在地形起伏较大的情况下,相邻法线向量之间夹角较大,而当地形平坦时,相邻法线向量近乎平行。刘春[28]等提出一种基于TIN的DEM数据压缩方法,该方法将相邻三角形法线间的夹角作为判别依据,判别阈值步骤如下:①确定大概阈值T,采用该阈值进行TIN压缩;②计算DEM采样点高程差的方差S;③将S与压缩误差允许值进行比较,如果大于该值则适当减少阈值T,并重新计算;反之则增大阈值T并重新计算直到满足要求为止。该方法间接地顾及地形特征,并且阈值的选择是根据所给点的压缩误差指标进行迭代选择的,研究表明该方法对TIN数据压缩较为有效,但对于特殊地面模型的压缩处理仍有待于进一步研究。

结束语

卷积神经网络的难点范文第2篇

关键词:大学计算机基础;教学改革;人工智能;智慧课堂

云计算、大数据、人工智能新兴领域的崛起,推动信息技术全面渗透于人们的生产生活中。信息技术的核心在于计算机技术和通信技术。然而,虽然目前各个高校都开设了计算机基础课程,但是其教学却存在着诸多问题,导致该课程无法达到预期的教学效果。教育部在2012年《教育信息化十年发展规划(2011-2020年)》,其中指明“以教育信息化带动教育现代化,促进教育的创新与变革”[2]。因此,本文以华中师范大学计算机基础课程教学为例,深入阐述了传统计算机基础课程教学的弊端,提出了在当前人工智能如火如荼的时代背景下,如何应用人工智能相关技术对传统的计算机基础教学进行改革的具体方案。该方案以创建网络智慧课堂教学模式改革为主体,辅以教学观念、知识体系和课程考核方式改革,以期对高校的计算机基础课程教学有所裨益。

1传统教学的缺陷

⑴课程的教学地位没有引起足够的重视一些高校为计算机基础课程分配较少的学时(少于48学时),甚至有的专业将此课程设置为选修课。这种设置降低了该课程在教师和学生心目中的位置,导致了对该课程的忽视。同时,不少老师因为学时不够,时间紧迫,仅仅讲述与考试相关的内容,不考的一概不讲。这导致学生的眼界受限,知识和能力受限,无法培养其全面综合的计算机素质。还有的专业没有将这门课给专业的计算机学院的老师讲授,而是随意安排授课人员。没有经过系统专业训练的教师缺乏足够的知识储备,很难讲好这一门看似简单的课程。⑵课程教学内容的制定与当今时代对于信息化人才的需求脱节一些高校的现状是计算机基础的课程教材知识陈旧[3]、质量堪忧,教材总是无法跟上知识更新的步伐,例如都2019年了还在讲Office2010。有的高校由于缺乏对课程的重视,没有对教材优中选优,而是基于利益的考虑,优先选择自己院系编写的教材。其教材内容是七拼八凑,没有整体性、逻辑性和连贯性,更不用说前瞻性。这样的教材,无疑对学生的学习设置了巨大的屏障。除此以外,一些院校的课程教学知识体系不够明确和完善,教学大纲的制定不够科学。从教学大纲中制定的学时分配来说,常常偏重实用性[4],常用计算机软件操作占据了大部分的课时。这会让教师在授课时轻理论而重操作,如此培养学生,非常不利于其计算思维的形成,对后续其他计算机相关课程的学习也是很大的伤害。⑶教学模式过于传统,信息化水平较低从教学方式上来说,传统的教学模式以教师课堂授课为中心,是以教师为主体的教学模式[5]。在这种模式下,教师仍然主要以填鸭式教学为主[6],无法通过课堂教学发现学生的个性化特点,并进行有针对性的教学。另外,虽然计算机基础课程一般都配备了实验课时,但是实验课常常是采用教师布置上机任务、学生做完抽样检查的模式。这对于大课堂来说,教师的任务繁重,无法搜集到每一个学生的任务完成情况,无法清晰地掌握学生学习的实际情况和薄弱环节。而且,该课程缺乏相应的研讨课时,很难让学生对其所学知识进行深入思考和探究,以增强思辨能力和对课程的学习兴趣。⑷课程考核方式不够公平合理从考核方式上来说,该课程普遍采用“平时成绩”+“期末考试”的加权方式对学生成绩进行评定。平时成绩多由考勤分所得,期末考试多采用机考模式。这种考核方式过于单一化、机械化,无法对学生进行全方位的评价。很多学生来到教室打考勤,但可能根本没听讲,而是在睡觉或者玩手机。期末机考的公平合理性也是存在着很多的漏洞。例如机考的试题库可以十年不变,分值的分配和难度的掌握都没有经过系统的考量。甚至有的考试系统不够稳定和安全,频频爆出Bug,严重影响了考试结果的真实性。

2新人工智能环境下对计算机基础课程改革的具体方案

2012年开始,在随着卷积神经网络技术在视觉处理方面的应用取得巨大的成功之后,人工智能到达了有史以来的第三个爆发期。目前,深度学习技术在AlphaGo、无人驾驶汽车、机器翻译、智能助理、机器人、推荐系统等领域的发展如火如荼。与此同时,人工智能技术在教育领域方面的应用已经兴起。人工智能的教学产品也已有先例,例如基于MOOC平台研发的教学机器人MOOCBuddy等等。基于人工智能的教育是融合云计算、物联网、大数据、VR、区块链等新兴技术的增强型数字教育[2].在当前人工智能的大时代背景下,针对传统计算机基础的种种弊端,我们提出了如下教学改革方案。⑴改变教学理念,确立计算机基础课程的重要地位计算机基础作为高校的一门公共课,实则应当作为各个专业的学生后续的学习、科研的必修之课程。因此,高等学校应从源头上确立该课程的重要地位,将该课程纳入必修课范畴,并给与更充分合理的课时分配。除教学课时、实验课时之外,需要为该课程增加一定的研讨课时。任课老师必须是来自于计算机专业的人才。同时,定时举办关于该课程的教学培训、教学研讨会和教学比赛,改变教师的教学理念,从源头上给予该课程足够的重视。⑵优化教学内容,重新制定课程的教学知识体系教材是教师教学的主要依据,也是学生获得系统性知识的主要来源。因此,教材对于教学的重要性不言而喻。教材的选取需要优中择优,必要的时候可以根据自身院校的情况自己编写,力求使用好的教材使教学事半功倍。在选定优质教材的基础上,制定更加合理的教学大纲,优化计算机基础课程的教学知识体系,突出计算机学科入门相关基础理论知识的重要地位。对现有的过时内容进行更新,例如操作系统以Windows10的操作取代Windows7,Office这部分使用Office2019版本取代2010的版本,同时增加关于算法入门知识、程序设计入门知识以及人工智能、区块链等前沿知识单元的介绍。以华中师范大学为例,我们在图1中给出了该校计算机基础课程的教学知识体系结构图。⑶充分利用现代化的教学工具和人工智能技术,构建智慧课堂,改变传统教学模式现代化的教学应当转变以教师为核心的教学模式,更加突出学生的主体性地位。因此,在人工智能、物联网、大数据等技术和蓬勃发展的情形下,应当改变传统的课堂教学形式,充分利用现代化信息技术,将传统课堂教学和网络课堂教学模式相结合,构建智慧课堂。融合课堂教学身临其境的效果与网络课堂自主性强且方便师生交流的特点,通过师生之间多层次、立体化的互动,达到提升教学效果的目的。同时,建立功能强大、完善的学生实验平台,基于不同专业学生的不同特点和不同需求,进行个性化的作业设置。针对教师布置的实验任务和学生的完成情况,结合在线网络教学系统,通过传感器及网络数据,搜集学生的学习行为数据,并且使用人工智能算法进行智能分析,使教师对当前的学生的学习情况一目了然,并能引导学生对重点、难点的巩固和掌握。研讨课以学生为主体,按照所选课题进行分组调研、分组讨论,刺激学生的学习兴趣,培养其思辨能力。研讨内容最终可以课程论文的形式上交至课程共享平台,由教师和同学共同给出评分。这里,仍以华中师范大学为例,我们将在线教学系统、实验课平台、研讨课共享平台等集成为一个基于人工智能技术的网络智慧教学综合平台系统。该系统主要包括用户管理、在线教学、课堂互动、作业管理、考试管理、BBS系统、智能分析和平台管理8个模块,其主要功能如图2所示。该系统采用C/S模式,系统的服务器选用Linux服务器,同时开发基于PC机的和手机端的客户端系统,方便学生和教师随时选用、更加灵活。在线教学模块中的智能学习助理功能,能够根据历史用户的学习行为和当前用户的学习行为,自动地识别学习内容中的难点以及当前学生的难点内容,有针对性地对学生进行知识点强化。课堂互动模块中,通过可穿戴式传感器搜集学生的学习行为,用于后续智能分析模块中对学生的学习态度和学习行为进行智能分析。在线作业评价模块包括机器评价和教师评价两个功能。机器评价是系统为学生作业(客观题、主观题)自动评分,其中主观题的评分也是使用人工智能技术来实现。教师评分时可以参考机器评分,减少教师工作量。同时,教师评分为机器评分提供机器学习的经验数据,促进机器评分更加智能。智能分析模块能够依据学生的在线课程学习模块、课堂学习模块、作业管理模块等搜集到的学习行为数据进行综合分析,促使教师深入了解学生的学习情况和个性化特点,提升教学的针对性,并且有助于后续对学生进行全面、综合的分析和成绩评定。所有系统模块中使用到的智能分析技术包括基本的统计分析、以及各类机器学习算法(k-means,NaveBayes,SupportVectorMachine,DeepLearning等等)。⑷改变传统成绩考核的方式在“教学”+“实验”+“研讨课”课程结构以及网络智慧教学综合平台的辅助之下,学生的成绩评定更加全面化、多元化、公平化、自动化[7]。平时成绩中,除了教学综合平台的“课堂签到”次数之外,还增加更多丰富多元化的考察信息,如:学生的课堂讨论、在线课程学习和考核结果、平时作业完成情况,以及智能分析模块中辅助分析的学习态度、学习能力、平时成绩预测。期末上机考试系统也是智慧课堂综合平台的一个子模块,是精心设计的稳定、安全、功能强大的子系统,方便教师每一年更新试题库,修改bug。试题库中的每一套试卷都应当经过科学的考卷质量分析,使其难度、覆盖范围在一个均衡、合理的范围。最后,教师通过对各类平时成绩指标以及期末考试成绩加权,给出最终的学习成绩。通过规范、合理、公平、全面的考核体系,获得对学生公平、完善的评价机制,激励学生并刺激教学良性运转。

3结束语