人工神经网络与其发展和应用的介绍

(整期优先)网络出版时间:2017-11-21
/ 2

人工神经网络与其发展和应用的介绍

卓一凡

关键词:人工神经网络,应用,优缺点,发展

1:人工神经网络的发展

纵观整个人工神经网络发展,大体经历了四个时期:启蒙,低潮,振兴,发展。

1.1:启蒙时期

人工神经网络和数学模型于1943年由W.S.McCulloch和W.Pitts建立,称为MP模型,证明了单个神经元能执行逻辑功能,人工神经网络的研究由此开始。1951年,心理学家DonalaO.Hebb提出了Hebb法则:在神经网络中,信息在连接权中进行储存,突触之间的联系强度是可以变化的,而这种变化建立起了神经元间的连接。Hebb法则成为了构造具有学习功能的神经网络模型的基础。1954年,生物学家Eccles提出了真实突触的分流模型,为神经网络模拟突触的功能提供了原理和生理学的依据。1956年,Uttley发明了一种由处理单元组成的推理机,用于模拟行为及条件反射。1958年,Rosenblatt将学习机制增加到了原有的MP模型上,首次把神经网络理论付诸实现。正是由于他的成功,引起了学者们对人工神经网络的研究兴趣。

1.2:低潮时期

当许多学者抱着极大的热忱去研究人工神经网络的时候,Minsky和Papert从数学角度对以感知器为代表的网络系统功能及其局限性进行了深入的研究,并在1969年出版《Percep2trons》一书。该书提出当前的网络只能对简单的线性问题进行解决,而对复杂的多层神经网络无能为力。这一结论使得许多国家的此类项目被暂停资助,自此开始了神经网络的低潮期。但不久后,转机出现。就在1972年,欧洲和美洲的两位学者:芬兰的Kohonen教授,美国的Anderson分别提出了自组织映射SOM(Self2Organizingfeaturemap)理论和一个名叫“交互存储器”的理论。而两者之间竟有着许多相似之处,不由得让人惊讶。但Kohonen的研究是目前所使用神经网络的主要依据。正是由于这些研究,引导了以后人工神经网络的振兴。

1.3:振兴时期

1982年,美国物理学家Hopfield博士发表了Hopfield模型理论,对人工神经网络的研究产生了深远的影响。如下图

Hopfield模型理论证明:神经网络并非不能达到稳定的状态,只是需要一定条件。而他的研究也让许多学者对人工神经网络的研究重新产生了兴趣。1986年,由美国的Rumelhart和McCkekkand主编并撰写的《ParallelDistributedProcessing:Ex2plorationintheMicrostructuresofCognition》一书出版,提出了PDP(ParallelDistributedProcessing)网络思想,再一次推动了神经网络的发展。20世纪90年代,Edelman提出Darwinism模型。1995年,Jenkins等人进行了光学神经网络(PNN)的研究.神经网络的研究重回人们的视野。

1.4:发展时期

20世纪80年代,人工神经网络在世界范围内全面复苏,这也引起了国家对神经网络的重视。“中国神经网络首届学术会议”于1990年2月由国内8个顶尖学会联合在北京召开。1992年举办了中国第二届神经网络学术大会,中国神经网络学会便由此诞生。我国的“863”计划,“攀登”计划中,都有关于人工神经网络研究的内容。国际上,1987年,在美国加洲举行了首届国际神经网络学会.此后每年召开两次.至此,人工神经网络的研究得到了长足的发展。

2.人工神经网络的基本原理

自生物学发展伊始,大脑便是无数科学家研究的重点,人们想要弄清楚大脑是如何运作的?其机理是什么?人工神经网络便应运而生,它的目的是想要对人类神经网络进行开发与测试

2.1:人工神经网络的生物学基础

人工神经网络是人类神经网络的仿生学模拟。我们如果想要了解人工神经网络,就要先了解生物的神经元,如下图:

从图中可以看出:生物神经元包括由细胞质,细胞核,细胞膜组成的细胞体;轴突:是指动物神经元传导神经冲动离开细胞体的细而长的突起,也叫神经纤维;树突:从细胞体向外伸出的树状枝杈,是接受从其它神经元传入的信息的入口接受来自其他神经元的神经冲动;突触:是指一个神经元的冲动传到另一个神经元或传到另一细胞间的相互接触的结构。而在图中没有提及的是,突触末端与神经细胞间并不是靠膜来连接,而是一种叫神经递质的物质。神经递质将神经末梢上的电信号转化为化学信号在细胞间进行转移,又在目标神经细胞细胞膜表面的受体上将化学信号重新转化为了电信号,使兴奋继续传导。

神经细胞可以对从多个树突传来的神经冲动或是同一树突不同时间的神经冲动加以综合分析并作出反应:兴奋或抑制。神经细胞相较于其他细胞,最大的特点是具有学习功能,这也是人工神经网络所一直致力做到的事情。

2.2人工神经网络简述

经过多年的研究之后,人类终于研制出了与人类神经系统较为相似的计算机系统。如下图所示:

简单来说,神经网络是一组相互连接的输入/输出单元,每一个连接都与一个权重相联系。通过对这些权重进行变化,就能够预测输入元组的正确标号。而实际上,在人工神经网络各个层级之间进行传导的系数,便起到了神经网络中类似于神经递质的作用

但亦如人类学习一般,人工神经网络较为明显的缺点便是需要很长的学习时间,并且需要大量的参数来进行训练。而且,神经网络常常因为难以解释而受到批评。人们很难解释人工神经网络中许多术语的意义。

但是,其优势也是明显的,主要体现在其对无效数据的承受能力极高,对未经训练的数据模式也有着强大的分类能力。而大部分决策树算法并不能达到这一点。它们能够非常稳定的进行连续值的输入和输出。

3.人工神经网络的应用及其优缺点

通常来说,某种物品或系统的应用总是与其优缺点相联系的,人工神经网络亦然。在人工神经网络研究的许多年里,人们根据其优点开发出了许多相匹配的应用方向。而与此同时,也发现了许多弊端。

3.1.人工神经网络的优势及有关应用

前文已经提到过,人工神经网络从人类的神经元模仿而来,具有类似人类神经元的特性和能力,其优势自然十分明显。

①脑神经医学,神经生理学等相关学科的最新进展可以给人工神经网络提供不少借鉴的方向。反之亦然,对于人类脑部研究,人工神经网络也许能够提供一定的借鉴和帮助。

②人工神经网络的运算方式是非线性的,对于数据的处理有着不确定性,但正是这样的不确定性,使得人工神经网络成为研究模糊数学的的重要工具。

③对人工神经网络的应用当然不会是单方面的,也会和其他技术相结合运用。在智能控制,模式识别及机器人控制等方面已取得了一定的研究成果。又比如,时下十分热兴的AI,即人工智能(ArtificialIntelligence),便是以人工神经网络为基础所研发,而AI已经应用到了生活的方方面面。大到无人驾驶汽车,小到手机里的人机交互系统,皆是以人工神经网络为基础,进而发展而来的技术

④神经网络是由无数个神经元和连接组成,我们由此可以看出,单个神经元和连接对于神经网络的贡献和影响是微小的。所以,对于少量神经元和连接所发生的故障,人工神经网络通常难以受其影响。同样的,在人工神经网络中,输入的每一个分量对整个网络的最终输出难以起到较大的影响,当少量的数据出现偏差时,偏差所带来的影响相较于整个网络而言,影响是微小的。这种特性,叫做容错性。具有容错性是人工神经网络最明显的优势之一。

3.2.人工神经网络存在的缺陷及不足

①由于其由人类神经网络仿生而来,具有高度的复杂性。而正是这种复杂性,让人很难像数字计算机一样对其各项性能指标进行精确地分析。这大大的限制了人工神经网络所适用的范围。

②人工神经网络的工作是一种自发的集体行为,这就决定了人工神经网络所得到的“答案”不一定是绝对正确的,因此,如果有些问题需要解出精确地答案,人工神经网络就爱莫能助了。

③从人工神经网络研究伊始到现在,已经有许许多多的人工神经网络结构已被提出,如前馈性/后馈性神经网络,BP神经网络等等。但是每种结构基本上只适用于一类或几类情况。

结语

本文对人工神经网络的发展历史进行了简要的叙述,对其生产生活中的应用作了简单的介绍。总的来说,人工神经网络的研究是漫长而曲折的。对于人工神经网络的研究来说,这一切才刚刚起步,人工神经网络的研究前景十分广阔,当然也困难重重。笔者相信,虽然对人工神经网络的研究才刚刚开始,但人工神经网络的研究必将成为21世纪科学研究及社会发展的新的动力和重要支柱。

参考文献

杨晓帆,陈廷槐.人工神经网络固有的优点和缺点[J].计算机科学,1994,21(2):23-26.

毛健,赵红东,姚婧婧.人工神经网络的发展及应用[J].电子设计工程,2011,19(24):62-65.

韩力群.人工神经网络理论[M].化学工业出版社,2007.

朱大奇.计算机过程控制技术[M].南京大学出版社,2001.

刘军,常小军等神经网络原理及在控制中的应用青岛化工学院学报,1994年02期