西南交通大学本科毕业设计(论文) 第23页 到极大的限制,因此神经网络系统不可能完成高度集成化、智能化的计算任务。同时,神经网络系统理论本身也有很多不完善的地方。所以,神经网络系统理论与应用研究工作进展缓慢。另一方面,这一时期正是数字计算机发展的全盛时期,无论在硬件、软件还是技术应用到商品巾场方面都取得了突飞猛进的发展,使得大批有才华的科学家的注意力都转移到数值计算机方画了。
从20世纪80年代开始 ,是神经网络系统理论发展的黄金时期。这个时期最具标志性的人物是美国加州丁学院的物理学家John Hopfield。他于]982=年和1984年在美国科学院院刊上发表了两篇文章,提出了模仿人脑的神经网络模型,即著名的Hopfield模型。Hopfield网络足—个互连的非线性动力学网络,它解决问题的方法是—种反复运算的动态过程,这是符号逻辑处理方法所不具备的性质。
20世纪80年代,关于智能计算机发展道路的问题日趋迫切地提到日程上来。由于计算机的集成度日趋极限状态,但数值计算的智能水平与人脑相比,仍有较大的差距,因此,就需要从新的角度来思考智能计算机的发展道路问题。这样一来,神经网络系统理论重新受到审视。所以,20世纪80年代后期到90年代初,神纤网络系统理论形成了发展的热点,多种模型,算法和应用问题被提山,研究经费重新变得充足,使得研究者们完成了很多有意义的工作。目前,神经网络系统理论与技术的发展大体分一下3个方面进行。
首先在硬件技术方面,—些发达国家,如美国和日本均实现了规模超过1000个神经元的网络系统,这样的系统具有极高的运算速度,而且已经在股票数据分析中得到了应用。神经网络系统理论的研究方画,主要的进展有Boltzmann机理论的研究、细胞网络的提出和性能指标的分析等。神经网络系统的应用研究主要集中在模式识别(语音和图像识别)、经济管理和优化控制等方面,它和数学、统计中的多个学习有着密切的联系,如线性和非线性规划问题、数值逼近、统计计算等。另外,在其他信息处理问题中也有很多应用,如数据压缩、编码和股市分析等领域,应用内容十分丰富。
3.2 神经网络的研究内容
神经网络的研究内容相当广泛,反映了多学科交叉技术领域的特点。目前,主要的研究工作集中在以下四方面。
? 生物原型研究:从生理学、心理学、解剖学、脑科学、病理学等生物科学方
面研究神经细胞、神经网络、神经系统的生物原型结构及其功能机理。 ? 建立理论模型:根据生物原型的研究,建立神经元、神经网络的理论模型,
其中包括概念模型、知识模型、物理化学模型、数学模型。
西南交通大学本科毕业设计(论文) 第24页 ? 网络模型与算法研究:在理论模型研究的基础上构成具体的神经网络模型,
以实现计算机模拟或准备制作硬件,包括网络学习算法的研究。这方面的工作也称为技术模型研究。
? 神经网络应用系统:在网络模型与算法研究的基础上,利用神经网络组成实
际的应用系统,例如,完成某种信号处理或模式识别的功能、构建专家系统、制成机器人等等。
3.3神经网络模型
神经网络的基本组成单元式神经元。数学上的神经元模型和生物学上的神经细胞相对应,或者说,神经网络理论是用神经元这种抽象的数学模型来描述客观世界的生物细胞的。
很明显,生物的神经细胞是神经网络理论诞生和形成的物质基础和源泉。这样,神经元的数学描述就必须以生物神经细胞的客观行为特性为依据。因此,了解生物神经细胞的行为特性就是一件十分重要且必须的事了。
神经网络的延拓结构也是以生物学解剖中神经细胞互连的方式为依据的,对神经细胞相互作用情况的揭示也是十分重要的。
3.3.1 生物神经元模型
神经元是神经网络的基本元素,只有了解神经元才能认识神经网络的本质。 在人体内,神经元的结构形式是完全相同的。但是,无论结构形式如何,神经元都是由一些基本的成分组成的,神经元的生物学解剖如图3-1所示。
西南交通大学本科毕业设计(论文) 第25页
图3-1 神经元的生物学解剖
从图中可以看出,神经元由细胞体、树突和轴突三部分组成。其中突触是神经元之间的连接,其结构如图3-2所示
图3-2 突触结构
目前,神经网络的研究只是处于初级阶段,后边还有大量的工作等人们去探讨和研究。神经网络的研究已经向人们展示了其美好的美景,只要按阶段不断取得进展,神经元和突触是完全可以实现人工模拟的。
西南交通大学本科毕业设计(论文) 第26页
3.3.2 神经元模型
从神经元的特性和功能可以知道,神经元是一个多输入单输出的信息处理单元,而且,它对信息的处理是非线性的。根据神经元的特性和功能,可以把神经元抽象为一个简单的数学模型。工程上的神经元模型如图3-3所示。
图3-3 神经网络的数学模型
在图3-3中,x1,x2?xn是神经网络的输入,既是来自前级n个神经元的轴突的信息;vi是i神经元的阀值;?1i,?1i??ni分别是i神经元对x1,x2?xn的权值连接,即突触的传递效率;yi是i神经元的输出;f是传递函数,决定i神经元受到输入x1,x2?xn的共同作用达到阀值时以何种方式输出。
3.4 BP神经网络
Minsky和Papert的论点曾使许多人对神经网络的研究失去了信心,但仍有许多的学者坚持这方面的研究。Rumelhart、McClelland和他们的同事洞察到神经网络信息处理的重要性,于1982年成立了一个PDP小组,研究并行分布信息处理方法。1985年发展了BP网络学习算法,实现了Minsky的多层网络设想。BP网络是一种多层前馈型神经网络,其神经元的传递函数是S型函数,输出量为0到1之间的连续量,它可以实现从输入到输出的任意非线性映射。由于权值的调整采用反向传播(Back Propagation)学习算法,因此也常称其为BP网络。目前,在人工神经网络的实际应用中,绝大部分的神经网络模型都采用BP网络及其变化形式。它也是前向网络的核心部分,体现了人工神经网络的精华。 BP网络主要应用于以下四个方面。
? 函数逼近:用输入矢量和相应的输出矢量训练一个网络以逼近一个函数。
西南交通大学本科毕业设计(论文) 第27页 ? 模式识别:用一个待定的输出矢量将它与输入矢量联系起来。 ? 分类:把输入矢量所定义的合适方式进行分类。 ? 数据压缩:减少输出矢量维数以便于传输或存储。
3.4.1 BP神经元
图3-5给出了一个基本的BP神经元模型,它具有R个输入,每个输入都通过一个适当的权值?和下一层相连,网络输出可表示为:
a?f(?*p?b)
f就是表示输入/输出关系的传递函数。
BP网络中隐层神经元的传递函数通常用log-sigmoid型函数logsig()、tansigmoid型函数tansig()以及纯线性函数purelin().其传递函数如图3-5所示。
如果BP网络的最后一层是sigmoid性神经元,那么整个网络的输出就限制在一个较小的范围内;如果BP网络的最后一层是purelin型线性神经元,那么整个网络的输出可以取任意值。
BP网络所采用的传递函数均是可微的单调递增函数。在BP网络的训练过程中,计算函数logsig()、tansig()、purelin()的导数非常重要,神经网络工具箱提供了这些求导函数依次为dlogsig()、dtansig()、dpurelin()。在工作空间输入缀有‘deriv’的指令就可以找到相应传递函数的导数函数。例如: tansig(‘deriv’) ans=dtansig
这些函数都是设计BP网络时要经常用到的。如果用户在实际应用中需要用到其他的函数,可以自行定义。
百度搜索“70edu”或“70教育网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,70教育网,提供经典综合文库EMD信号分析方法端点效应分析(7)在线全文阅读。
相关推荐: