人工神经网络改进范文

导语：如何才能写好一篇人工神经网络改进，这就需要搜集整理更多的资料和文献，欢迎阅读由公务员之家整理的十篇范文，供你借鉴。

篇1

关键词：人工神经网络；教学实践；教学方法；生物信息学

中图分类号：G642.0 文献标志码：A 文章编号：1674-9324（2014）17-0208-03

人工神经网络是在神经生理学、生物学、数学、计算机学等学科发展的基础上提出的，模拟人类大脑的结构和思维方式处理、记忆信息的一门学科。具体来说，早在20世纪40年代，随着医学、生物学家们对人脑神经的结构、组成以及信息处理的工作原理的认识越来越充分，有学者提出以数学和物理方法对人脑神经网络进行抽象，并建立简化的模型，用以进行信息处理，这种应用类似于大脑神经突触联接的结构进行信息处理的数学模型，称之为人工神经网络ANN（Artificial Neural Network）[1]。

在人工神经网络中，各种待处理的对象（数据、特征、字符、抽象的模式等等）都可用神经元处理单元表示。这些神经元主要可以分为输入神经元、隐含神经元和输出神经元三大类。其作用各不相同，作为输入神经元的处理单元用来与外界产生连接，接收外界的信号输入；隐含神经元处于中间层，为信息处理的不可见层；输出神经元主要实现结果的输出。神经元之间相互连接，连接的权重反映了各神经元之间的连接强度，神经元之间的连接关系中蕴含着信息的表示和处理。人工神经网络主要是在不同程度、不同层次上模拟大脑处理信息的风格，具有非程序化、较强的适应性、自组织性、并行分布式等特点，其实现主要是通过网络的变换和动力学行为，涉及数学、生物学、人工智能、计算机科学、非线性动力学等多个学科[1]。作为一门活跃的边缘叉学科，在处理信息方面，相比于传统人工智能方法具有非线性适应性，成功地应用于神经专家系统、模式识别、组合优化、预测等多个领域，尤其在生物信息学领域得到了广泛的应用。生物信息学是20世纪末发展起来的一极具发展潜力的新型学科。人类的基因中蕴含着大量有用信息，利用神经网络可以对这些海量的信息进行识别与分类，进而进行相关的生物信息学分析。如利用神经网络分析疾病与基因序列的关系，基于神经网络对蛋白质结构的预测，基因表达谱数据的分析，蛋白质互作位点的预测等等，都取得了很好的效果[2]。

因此，在生物信息相关专业的本科生中开设人工神经网络课程尤为重要。经过多年的研究发展，已经提出上百种的人工神经网络模型，这就需要教师针对不同的专业背景，不同层次的学生，讲授不同模型的核心思想、推导过程、实际应用等等。本文主要根据人工神经网络在生物信息学相关专业的教学实践，从以下几个方面进行探讨。

一、引导式教学，激发学生的学习积极性

神经网络作为一门偏于理论分析的学科，传统的教学模式，即首先讲解模型的起源，接下来介绍模型的核心思想，然后就是一连串的数学公式推导，面对满黑板的公式，学生很难提起兴趣去认真学习相应的模型。所以，如何激发起学生的学习积极性，让学生重视这门课程，更好地掌握课程内容，掌握相关的模型理论基础、核心思想，更好地服务于本专业，是人工神经网络教学者亟待解决的问题。

首先，在导课的时候要生动，以引起学生对将要学习的内容的好奇心，让学生有兴趣投入到课堂学习内容中去。布卢姆说过：“最大的学习动机莫过于学生对所学知识有求知的兴趣。”只有在这种动机下的学习，才会提高自身的主动性与自觉性，达到提高教学质量的目的[3]。例如，在讲解hopfield神经网络的时候，通过举例对苹果、橘子的质地、形状、重量等特征的描述，运用“0，1”进行量化描述，然后应用神经网络就可以进行有效地分类；对于旅行商TSP问题，也可以通过hopfield神经网络寻找到最优路径。那么，这些问题是如何解决的呢？就需要大家来一起揭开hopfield神经网络的神秘面纱。其次，由于神经网络涉及大量的数学公式与数学方法，学生往往会有畏惧的心理，这就需要教师帮学生澄清思想误区，现在很多用于数据分析与计算的软件，如matlab工具箱、R软件里面都有很成熟的人工神经网络软件包，所以，学生只需要理解其工作原理、核心思想，学会使用现成的人工神经网络软件包处理数据，在熟练应用程序包的基础上，对相应的神经网络模型进行优化，改进，并且与其他的人工智能算法相结合，更好地为本专业服务。第三，在讲授人工神经网络理论内容的时候，要摒弃传统的呆板式的推导过程，以往的神经网络教学方法注重理论分析，通常是一连串的公式推导，公式中又涉及大量的符号，计算起来复杂又烦琐，学生会觉得索然无趣，厌学情绪严重。在教学过程中，教师要精心设计，创设出特定的问题环境，将所学内容与本专业相结合起来，多讲应用，启发和诱导学生选取合适的神经网络模型来解决本专业的实验数据分析与处理等问题。

二、理论教学与实验教学相结合

除了在理论课堂上将基本的理论知识传输给学生，教师还应该安排若干实验教学内容，让学生以实验为主，将理论课上所学的知识运用到解决实际问题中来，理论联系实际，主动操作思考，观察，分析，讨论，以培养学生解决问题的能力。一旦学生自己动手处理一些问题后，很自然地就会对人工神经网络产生一种亲切感，并能强烈激发起学生继续探究下去的兴趣。对于同一问题，可以让学生选取不同的网络模型，设置不同的参数，甚至可以让学生自己动手编写相应的网络模型程序，并且给予改进，根据得出的结果来评价模型在解决实际问题时的好坏，以及模型改进的效果。作为授课教师，需要不断优化实验教学内容，在生物信息学专业开设人工神经网络课程，实验教学主要是针对生物信息专业的海量生物数据处理与分析的实际需要，培养学生综合运用人工神经网络方法和生物信息学知识，进行信息的分析与处理。除了在实验课堂上给学生最大的自由发挥空间外，课后作业也尽量以开放式问题的形式给出，比如，可以让学生选取相应的网络模型处理本专业的一些实际问题，例如，数据的分类、聚类等等，其中，数据来源可以不同，类型也可自由选取，最后给出相应的模型参数设置、方法的改进、实验结果，也可以安排学生自己查询文献进行学习，并安排学生作报告。这样，学生可以在世界范围内了解神经网络的在本专业的应用情况，又能提高英语的读写能力，还能锻炼学生做科研报告的能力。

三、加强师资队伍建设以及其他基本条件的建设

由于生物信息学是一门新兴的交叉学科[4]，这就要求人工神经网络的授课教师要熟练掌握生物信息相关专业的知识，教师的业务水平必须得到充分保证，才能给学生以全面透彻的指导。学院应该本着自主培养与重点引进的原则，优化教师队伍的专业结构和学历结构，提高教师的自身修养。授课教师要将课堂的理论知识联系实际生物问题进行讲授，让学生感受到人工神经网络在本专业的应用，提高学生的学习效率，同时也需要阅读大量的专业文献，提高编程技巧和数据库应用能力，让自己成为一名合格的复合型教师。同时，人工神经网络课程的实验，高度依赖于计算机网络等设备，因此，相关的软硬件设施的建设也必不可少，由于，基因组测序技术的发展，目前生物信息学研究所用的数据都是海量的，神经网络训练起来所需时间太长，不能用普通的电脑完成，需要专门的服务器来处理，学校有关部门应在条件允许的情况下，配备机房，购买服务器，以及相关的软件，为学生创造良好的环境，让学生完成课程内容。

最后，人工神经网络涉及数学、计算机、人工智能和神经学等专业知识，因此，需要授课教师加强与其他相关专业教师的交流与合作，并渗透到授课过程中去，让学生在学习人工神经网络网络时能将各专业联系起来，更好地解决生物信息学中的问题，要想成为一名合格的人工神经网络课程教师，首先要成为一名复合型的教师，不仅要具备教学和科研能力，同时也要具备计算机、生物学、信息学等多学科的知识。

参考文献：

[1]朱大奇，史慧.人工神经网络及其应用[M].北京：科学出版社，2006.

[2]朱伟，史定华，王翼飞.人工神经网络在蛋白质二级结构预测中的应用[J].自然杂志，2003，（3）：167-171.

[3]赵俊，李晓红.趣味教学法在预防医学教学中的运用[J].现代医药卫生，2005，21（15）：2089-2090.

篇2

>> 基于MATLAB的BP神经网络算法在多元非线性系统建模中的应用 改进的求解非线性方程组的迭代神经网络算法 基于非线性粒子群算法与神经网络的天气预测 演化算法在非线性方程求解方面的应用 基于BP神经网络的非线性函数拟合 非线性倒立摆系统的神经网络辨识 基于遗传小波神经网络的非线性动态自治网络故障诊断仿真算法 一种基于正交基神经网络的非线性卫星信道预失真补偿算法 神经网络在电路故障诊断方面的应用 神经网络在钢铁企业质量预测方面的应用 BP神经网络在坐标转换方面的应用 人工神经网络在电涡流传感器非线性补偿中的应用研究 基于神经网络的通用非线性神经自适应控制研究 基于BP神经网络的非线性网络流量预测 改进的基于神经网络的非线性多元回归分析 基于径向基神经网络的非线性系统辨识 基于OBF神经网络的温度传感器非线性补偿方法 基于RBF神经网络的非线性控制系统 群智能算法优化神经网络在网络安全的应用 浅谈基于BP神经网络的水源热泵在建筑节能方面的应用 常见问题解答 当前所在位置：中国 > 教育 > 神经网络算法非线性优化方面的应用 神经网络算法非线性优化方面的应用 杂志之家、写作服务和杂志订阅支持对公帐户付款！安全又可靠！ document.write("作者： 方达 胡忠刚")

申明:本网站内容仅用于学术交流，如有侵犯您的权益，请及时告知我们，本站将立即删除有关内容。 摘 要：文章通过神经网络算法对一类非线性优化方面的问题进行了分析，得到了应用神经网络非线性优化算法求解该类问题的具体步骤和算法方案，并给出了实例进行验证，证明了神经网络非线性优化算法是有效的，具有理论意义和实用价值。 关键词：：神经网络算法;MTLAB;非线性优化最优化

中图分类号：G622 文献标识码：B 文章编号：1002-7661（2014）22-002-01

人工神经网络是由简单的处理单元所组成的大量并行分布的处理机，这种处理机具有储存和应用经念知识的自然特性，它与人脑的相似之处概括两个方面：一是通过学习过程利用神经网络从外部环境中获取知识;二是内部神经元（突触权值）用来存储获取的知识信息。

一、神经网络非线性优化求解铁路空车调度组合优化问题

目前铁路局对空车调度计划是利用表上作业法，采用计算机辅助统计，要经过分局管内各主要站和各区段的车种别空车调度，分局间分界站车种别交接空车数的确定;局间分界站车种别交接空车数的确定来编制整个铁路局的空车调度计划.下面用神经网络优化方法解决该问题。

空车调度问题一般指的是：设有个空车发送站，个空车到达站数的距离为，设空车产生站 到空车需求站的空车数为，由发出的空车数为，则应满足

空车需求站接受到的空车数为，则应满足

假设空车产生数等于空车的需求数，即平衡运输，则

总的空车走行公里数为

由于神经元的输出值在之间，而空车数目是大于1的数，则将（ ）作为实际空车数，这样就可以保证在（ ）之间，求为在中所占的百分比，为了用Hopfield神经网络求解空车调度问题，建立能量函数如下

式中

表示空车发送站的空车数应等于的约束，当且仅当发车数为时，该项为0; 表示空车到达站所需的空车数应等于的约束，当且仅当到达的空车数为时，该项为0;

表示对空车调度的总体约束;

表示对目标项的约束;

表示惩罚项系数，为目标项系数.

当计算能量函数 达到最小时，对应于空车调整计划的一个最佳计划方案.其算法如下

则动态迭代过程为

其中 ，分别代表迭代次数，选取0.001.

二、结束语

篇3

关键词：BP算法；神经网络；工业品出厂价格指数

中图分类号：TP183 文献标识码：A文章编号：1006-4311（2012）08-0112-02

0引言

工业品出厂价格指数（PPI）是衡量工业企业产品出厂价格变动趋势和变动程度的指数，是反映某一时期生产领域价格变动情况的重要经济指标，也是制定有关经济政策和国民经济核算的重要依据。

工业品出厂价格指数的调查范围是工业企业出售给本企业以外所有单位的各种生产资料和直接出售给居民用于生活消费的各种生活资料。其中，生产资料包括原材料工业、采掘工业和加工工业3类；生活资料包括一般日用品、食品、衣着和耐用消费品4类。在PPI的结构中，生产资料所占的权重较大，超过了70%；生活资料所占的权重只有不到30%。因此PPI在很大程度上反映的是工业企业生产成本的高低。目前我国PPI覆盖了全部39个工业行业大类，涉及186个种类，4000多种产品。

我国现行的工业品价格指数是采用算术平均法编制的。其中除包括工业企业售给商业、外贸、物资部门的产品外，还包括售给工业和其他部门的生产资料以及直接售给居民的生活消费品。通过工业生产价格指数能观察出厂价格变动对工业总产值的影响。工业品出厂价格指数的计算公式为：工业品出厂价格指数=工业总产值总指数/工业总产量总指数×100%。我国目前编制的工业品出厂价格指数的4种分组：①轻、重工业分组；②生产资料和生活资料分组；③工业部门分组；④工业行业分组。权数计算资料来源于工业经济普查数据。工业品出厂价格指数的权数确定，采用分摊权数。

在市场经济活动中，资源配置是通过价格涨跌引导市场主体的经济活动来完成的。因此，价格的波动对经济运行会有很大的影响，价格总水平的波动也是一个重要的宏观经济现象。通常认为PPI反映的是工业品进入流通领域的最初价格，是制定工业品批发价格和零售价格的基础，而CPI反映的是居民购买消费品的价格。

为抑制通货膨胀，中央银行需要准确把握通货膨胀的先行指标，从而正确把握经济和物价的未来走势并进行前瞻性调控。根据价格传导规律，PPI对CPI有一定的影响。研究表明PPI引导了CPI变动，其原因是生产资料价格指数、生活资料价格指数和原材料、燃料和动力价格指数都引导了CPI变动，PPI可以作为我国通货膨胀的先行指标，政府和学者可以利用PPI预测通货膨胀[1-2]。PPI是一个非常复杂的、受诸多因素影响的非线性系统。如果采用传统的计量经济模型无法很好地提高预测精度。

目前对PPI预测的研究较少，鉴于PPI的时间序列是是非线性的，为了准确和客观地预测PPI，采用人工神经网络预测方法。人工神经网络是目前一种有效的预测方法，大量的仿真实验和理论研究已经证明BP算法是一种有效的神经网络学习算法，它具有很强的处理非线性问题的能力，近年来已经广泛应用到经济领域中。但在实际应用中，BP算法也暴露出一些自身的缺点，如算法容易陷入局部极值点，收敛速度慢等，这使得BP算法只能解决小规模的问题，求得全局最优的可能性较小，这样限制了BP算法在实际中的应用。因此应用改进BP算法的人工神经网络模型预测PPI。

1PPI预测模型的建立

人工神经网络是理论化的人脑神经网络的数学模型，是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统。其信息的处理是通过学习动态修改各神经元之间的连接权值阈值来实现的。根据某一学习规则，通过修改神经元之间的连接权值和阈值，存储到神经网络模型中，建立输入层神经元与输出层神经元之间的高度非线性映射关系，并通过学习后的神经网络来识别新的模式或回忆过去的记忆。在各种神经网络模型中，80%-90%的模型采用误差反向传播神经网络（简称BP神经网络）或它的变化形式。BP神经网络是前馈网络的核心部分，体现了人工神经网络最精华的部分。1989年Robert Hecht-Nielson证明了对于任何的连续函数映射关系都可以用含有一个隐含层的BP神经网络来逼近。

BP神经网络具有非局域性、非线性、非定常性和非凸性，在信息处理方面具有如下显著特点：BP神经网络具有自适应和自组织能力，通过与外界环境的相互作用，从外界环境中获取知识，把环境的统计规律反映到自身结构上来，并能有机地融合多种信息。当外界环境发生变化时，只需输入新的资料让模型再学习即可很快跟踪环境的变化，可操作性强。BP神经网络模型的建立不需要有关体系的先验知识，主要依赖于资料，只需给网络若干训练实例，BP神经网络就可以通过自学习来完成，完全能够发现其隐含的信息，并有所创新。BP神经网络作为一个高度的非线性动态处理系统，具有很强的容错功能。由于神经元之间的高维、高密度的并行计算结构，神经网络具有很强的集体计算能力，完全可以进行高维数据的实时处理，同时也可以进行分布式联想存储。

工业品出厂价格指数（PPI）数据来源于《中国统计年鉴（2009年）》，PPI数据时间范围为1990年-2008年。在实际应用中，由于所采集的数据跨度较大，为提高训练速度和灵敏性以及有效避开Sigmoid函数的饱和区，一般要求输入数据的值在0-l之间。再有，为保证建立的模型具有一定的外推能力，最好使数据预处理后的值在0.2-0.8之间，把0-0.2和0.8-1.0的空间预留。下面是数据预处理和反预处理算法：①数据预处理法：y=（0.8-0.2）*（x-min（x））/ （max（x）-min（x））+0.2。②反预处理算法：x=（y-0.2）*（max（x）-min（x））/（0.8-0.2）+min（x）。其中：x是工业品出厂价格指数原始数据；y是预处理后的工业品出厂价格指数数据；max（x）和min（x）分别是工业品出厂价格指数原始数据取值范围的最大值与最小值。

我国历年PPI数据按顺序构成一组时间序列，利用时间序列分析方法对我国历年PPI数据时序进行检验识别，可知PPI数据服从4阶自回归模型AR（4），由此模型输入层单元数为4个，输出层单元数为1个。

适当的隐层数目及节点数决定于多种因素。如训练样本的多少、样本噪音的大小以及所面对问题的复杂程度。隐层在BP神经网络中起着很重要的作用，它具有高度的抽象功能，并可从输入单元中提取特征。隐层层数的选择与问题的复杂性有关，为了确保训练后人工神经网络模型的泛化能力和预测能力，应在满足精度要求的前提下取尽可能紧凑的网络结构。一个三层人工神经网络模型就可解决一般函数的拟合、逼近问题。因此三层人工神经网络能满足预报要求。由于BP网络在确定隐层单元数的问题上还没有成熟的理论可依，大都根据经验来定。目前比较有效的方法就是试错法。本文分别组建了隐层节点数从1-35的BP网络，为了防止出现过拟合现象，经过大量试算，最后根据试报效果，确定了较为理想的隐层单元数是6。

传统BP网络的学习算法实质上是一种简单的最速下降静态寻优算法，通常具有收敛速度慢、易陷入局部极小值和网络推广能力不强等方面的缺陷。本文采用MATI AB神经网络工具箱提供的改进快速学习算法，有效克服了传统BP网络学习算法的缺陷。Trainlm训练函数采用Levenberg-Marquardt优化方法，该训练函数的效率优于最速下降静态寻优算法。

2结果

利用1990年-2003年的我国PPI数据作为训练样本，采用改进BP算法的Trainlm训练函数进行训练构建的神经网络，然后采用2004年-2008年的PPI数据作为检验样本，利用训练好的BP网络对2004年-2008年的PPI进行预测，结果见表1。仿真实验表明我国PPI训练样本模拟值和实际值的平均相对误差为0.82%，模拟值和实际值的相关系数为0.994778；我国PPI检验样本预测值和实际值的平均相对误差为0.80%，预测值和实际值的相关系数为0.915313；2007年PPI预测值为102.6，PPI实际值为103.1，预测值和实际值的相对误差为-0.48%；2008年PPI的预测值为107.4，PPI实际值为106.9，预测值和实际值的相对误差仅为0.47%，这都与实际情况相近，结果较为满意。并对2011年和2012年的我国PPI做了预测，PPI预测值分别为107.3和107.6。

3结论

人工神经网络模型能够很好地捕捉我国PPI内在的规律性，无需设计任何数学模型，通过神经元之间的相互作用来完成整个人工神经网络的信息处理，并能得到很好的预测精度。

将人工神经网络模型应用于我国PPI预测，PPI预测值和实际值的平均相对误差为0.80%，预测误差小，PPI检验样本预测值与实际值的线性相关系数为0.915313，预测精度高，模型预测值和实际值能较好的吻合。

参考文献：

[1]孙红英,刘向荣,解玲丽.基于传导模型的2010年价格指数预测[J].辽宁工程技术大学学报(自然科学版),2010,5:941-944.

篇4

摘要：本文在用人工神经网络BP模型对流域年均含沙量进行多因素建模过程中，对BP算法进行了改进。在学习速率η的选取上引进了一维搜索法，解决了人工输入η时，若η值过小，收敛速度太慢，η值过大，又会使误差函数值振荡，导致算法不收敛的问题。建模实践表明，改进后的BP算法可能使网络误差函数达到局部极小点，提高了算法的拟合精度。

关键词：BP算法 学习速率 年均含沙量 一维搜索法

我国河流众多，自然资源十分丰富，但江河流域水土流失非常严重，给国家的可持续发展以及生态环境带来较大的危害。对于流域产沙的定量研究，一般采用单因子线性回归方法。这类方法虽然也能反映出某种统计特性，但不能刻画自然界复杂的非线性特性。人工神经网络BP网络模型是复杂非线性映射的新方法。在引入这一新的定量研究方法对流域年均含沙量进行建模预测时发现：算法中学习速率η值的选取对算法成败起着关键作用，若η值过小，收敛速度太慢，而η值过大，又会使误差函数值不下降，导致算法不收敛。本文正是针对这一问题进行了探讨。

1 BP网络模型及学习率η固定的弊端

人工神经网络理论是80年代中后期迅速发展起来的一门前沿科学，其应用已渗透到各个领域[1]。BP(Back Propagation)神经网络模型是人工神经网络理论的重要模型之一，应用尤为广泛。尽管BP网络模型发展逐步成熟，但仍然存在许多问题，在理论上需要完善[2]。BP算法主要包括两个过程，一是由学习样本、网络权值ω从输入层隐含层输出层逐次算出各层节点的输出；二是反过来由计算输出与实际输出偏差构出的误差函数E（ω），用梯度下降法调节网络权值，即ωk+1=ωk+η()使误差E(ωk+1)减小。

篇5

关键词：BP神经网络；数字识别；特征提取

中图分类号：TP183 文献标识码：A 文章编号：1009-3044（2013）14-3362-04

1 概述

数字识别在车辆牌照识别、银行支票识别和邮政储蓄票据识别等领域有着广泛的应用，因而成为研究人员近年来研究的一个焦点[1]。而人脑神经系统模型的建立为人工神经网络的产生提供了理论模型依据， 使其具有模拟人脑部分形象思维的能力[2]，因而使其成为人工智能技术的重要组成部分和常用方法。人工神经网络由简单信息处理单元相互连接组成，通过简单处理单元间的相互作用来实现对其所接收信息的处理。而随着人工神经网络技术的快速发展，其为解决模式识别邻域的相关问题提供了新的解决思路和方法，其突出的优点在于它具有对接收信息可进行并行分布式处理能力和自我学习反馈能力，因而吸引了众多研究人员对其进行广泛和深入的研究。而误差反向传播网络（Back-Propagation），即BP神经网络，是一种典型的人工神经网络，它具有人工神经网络的所有优点，因而在众多技术邻域有着广泛的应用[3]。该文首先对BP神经网络的基本原理进行了详细介绍，在分析了其基本原理的基础上，针对数字识别问题，设计了一种利用BP神经网络技术进行数字识别的方法。经实验表明，该方法合理可行，且其识别效果正确有效。

2 相关原理与知识

由于本文针对数字识别问题，利用BP神经网络技术对其进行方法设计和实现，首先必须了解BP神经网络的基本原理，即了解其具体构成形式、模型分类和其功能特点。其次，在了解了BP神经网络基本原理的基础上，进一步了解其所处理数据的特点和组成形式，并根据处理数据的特点和其数据结构设计相应的数字识别方法。下面分别对它们进行详细的介绍。

2.1 BP神经网络基本原理

BP神经网络算法由数据信息流的前向计算，即正向信息流的正向传递，误差信息的反向回馈两个部分组成。当信息流进行正向传递时，其传递方向为从输入层到隐层再到输出层的顺序，器每层神经元所处的状态只会影响下一层神经元的状态。若在最后的输出层没有得到理想的输出信息，则应立即进入误差信息的反向回馈过程[6]。最终经过这两个过程的相互交替运行，同时在权向量空间使用误差函数梯度下降策略，动态迭代搜索得到一组权向量，使得该BP神经网络的误差函数值达到最小，从而完成对信息提取和记忆过程[7]。

2.2 BMP二值图像文件数据结构

由于本文处理的数据源为BMP二值图像，则必须了解其数据结构，才能对其进行进一步的识别方法设计。由数字图像处理基础知识可知，常见BMP二值图像文件的数据结构由以下三部分组成：（1）位图文件头，其包含了BMP二值图像的文件类型、文件大小和位图数据起始位置等信息；（2）位图信息头，它包含了BMP二值图像的位图宽度和高度、像素位数、压缩类型、位图分辨率和颜色定义等信息；（3）位图数据体，其记录了位图数据每一个像素点的像素值，记录顺序在扫描行内是从左到右，扫描行之间是从下到上。因此，根据BMP二值图像数据结构信息，读出所需要的图像数据，并对这些图像数据做进一步的处理。在本文给定的训练图像中，图像数据大小为80个字节，而图像数据体距离其文件头的偏移量为62个字节。但为了减少数据处理数量，该文在进行实验时直接使用位图数据体中的数据，没有通过读出位图文件头来得到位图数据体中的数据。

3 数字识别具体设计方法

由上文可知，该文使用数据源为图像大小为20*20的BMP二值图像，由于是对位图数据体的数据直接进行操作，因此省去了对图像其他数据结构数据的繁杂处理过程，将问题的核心转向BP神经网络的设计方法步骤。

4 实验结果

图4所示为BP神经网络训练及测试结果图。该文选择10个训练样本，通过实验结果可以看出，由这10个训练样本训练出来的BP神经网络对于训练样本中的图像数值识别率达100%，训练时间也比较短，其迭代次数大概为700次左右。对于一些含有噪声的图片，只要噪声系数小于0.85个字符，其数字识别率可达96%。

5 结束语

针对二值图像数字识别问题，该文在对BP神经网络的基础理论进行分析后，设计了一种基于BP神经网络的数字识别方法，并通过实验验证了该BP神经网络用于数字识别的可行性和有效性。而对于BP神经网络存在的收敛速度慢、易陷入局部最优和学习、记忆具有不稳定性等问题，还有待于对其进行一步研究。

参考文献：

[1] 韩力群.人工神经网络教程[M].北京：北京邮电大学出版社，2006.

[2] 吕俊，张兴华.几种快速BP算法的比较研究[J].现代电子技术，2003，24（167）：96-99.

[3] 陆琼瑜，童学锋.BP算法改进的研究[J].计算机工程与设计，2007（10）：96-97.

[4] Sven Behnke，Marcus Pfister.A Study on the Combination of Classifiers for Handwritten Digit Recognition，2004.

[5] 马耀名，黄敏.基于BP神经网络的数字识别研究[J].信息技术，2007（4）：87-88.

[6] Hasan soltanzadeh.Mohammad Rahmati.Recogniton of Persian Handwritten Digits Using Image Profiles of Multiple Orientations[J].Pattern Recognition Leaers，2004（15）.

[7] 吴成东，刘文涵.基于粗网格神经网络的车牌字符识别方法[J].沈阳建筑大学报，2007，23（4）：694-695.

篇6

（1.克拉玛依职业技术学院，新疆克拉玛依834000；2. 新疆农业大学机械交通学院，新疆乌鲁木齐830052）

摘要：学习向量量化（LVQ）神经网络可以通过监督学习完成对输入向量模式的准确分类，提出了一种基于改进的LVQ神经网络的发动机故障诊断方法，介绍了LVQ神经网络及其改进的学习算法。以长城哈佛GW2.8TC型发动机为实验对象，让发动机在怠速状况下，对发动机进行故障设置，利用金德KT600电脑故障诊断仪采集发动机数据流，运用改进的LVQ神经网络建立诊断模型，诊断结果表明，改进的LVQ神经网络能对发动机故障做出正确分类，准确率比较高。

关键词 ：改进的LVQ神经网络；发动机；故障诊断；神经元

中图分类号：TN98?34 文献标识码：A 文章编号：1004?373X（2015）17?0107?03

0 引言

人工神经网络（Artificial Neural Networks，ANNs），也称为神经网络（NNs），是模拟生物神经网络进行信息处理的一种数学模型。它以对大脑的生理研究成果为基础，目的在于模拟大脑的某些机理与机制，实现一些特定的功能。由于人工神经网络具有联想记忆功能、优化计算能力以及其他的一些性质，所以人工神经网络具有较强的分类识别功能。学习向量量化（LVQ）神经网络是常用的一种神经网络，LVQ神经网络是一种有导师训练竞争层的方法，竞争层自动学习识别输入向量，并对输入向量分类。

本文以长城哈佛GW2.8TC 型发动机为例，运用LVQ神经网络对发动机进行故障诊断。

1 LVQ 神经网络

1.1 LVQ神经网络结构

LVQ神经网络是两层的网络结构，即竞争层和线性层。竞争层对输入向量进行学习分类，把竞争层的分类称为子分类；线性层根据用户的要求将竞争层的分类结果映射到目标分类结果中，把线性层的分类称为目标分类。LVQ神经网络结构如图1所示。

由图1可以看出，竞争层和线性层每一类别各有一个神经元，竞争层通过学习，可以得到S1类子分类结果；然后，线性层将S1类子分类结果再分成S2类目标分类结果（S1始终大于S2）。例如，假设竞争层的第1，2，3个神经元对输入空间的子分类所对应的线性层的目标分类为第2类，则竞争层的第1，2，3个神经元与线性层的第2个神经元的连接权将全部为1，而与其他线性层神经元的连接权全部为0，这样，当竞争层的第1，2，3 个神经元中的任意一个神经元在竞争中获胜时，线性层的第2个神经元将输出1。

1.2 LVQ神经网络学习算法的改进

LVQ 神经网络学习算法的改进是在LVQ1 的基础上进行的，它可以改善LVQ1学习结果的性能。改进的LVQ网络的学习过程与LVQ1类似，在应用LVQ1 进行学习后，再用改进的LVQ 网络进行学习，不同的是，改进的LVQ 是针对最接近输入向量的两个相邻神经元的权值进行的，其中一个神经元对应正确的分类模式，另一个神经元对应错误的分类模式，而输入向量位于定义的窗口时，有：

这样，如果给定两个很相近的输入向量，其中一个对应正确的分类，而另一个对应错误的分类，则改进的LVQ也能对靠的非常近，甚至对刚刚可分的模式进行正确地分类，从而提高分类结果的鲁棒性。

2 改进的LVQ 神经网络在发动机故障诊断中的应用

基于改进的LVQ神经网络在发动机中的故障诊断仿真步骤如下：

（1）让发动机处在怠速状态下，并对其进行故障设置，用电脑检测仪及其他设备测出发动机有无故障时的数据流参数；

（2）用改进的LVQ神经网络建立诊断模型，并用已知的样本数据训练网络；

（3）用训练好的网络对发动机进行故障诊断，并对训练结果进行分析。

2.1 发动机故障设置及采集样本

为了验证改进的LVQ神经网络在发动机故障诊断中的可行性，本文以长城哈佛GW2.8TC 型发动机为研究对象，让发动机在怠速状况下，对发动机进行故障设置，并利用金德KT600故障诊断仪采集发动机数据流。以发动机在正常怠速、油门踏板1接地线开路、凸轮轴传感器线路故障、1缸喷油器线路故障、冷却液温度传感器线路串联某阻值电阻和油门踏板插头开路六种状态下，采集发动机数据流，采集到的样本数据如表1所示。

2.2 程序设计

在Matlab环境中，调用LVQ神经网络工具箱，创建的代码如下：

在代码中，p 中数据为样本数据；t 中以1表示正常状态，以2表示故障状态；T=ind2vec（t）为使t 中的向量转换成学习向量量化网络使用的目标向量；net=newlvq（）为创建LVQ 神经网络，神经元数目设置为20，0.17 和0.83，分别表示所采集的样本种类中正常状态和故障状态所占的比例，网络学习率设为0.5；net=init（net）为网络初始化，使其每次训练时权值都是随机的，这样可以达到预期的目标；网络训练步数设置为200；训练间隔设置为50；训练目标设置为0；网络设置好后，开始训练网络，运行程序后所得的网络训练状态图如图2所示，训练曲线如图3所示。

由图2和图3所示，网络训练只训练了8次，用时不到1 s，就达到了预期目标，可见，用改进的LVQ神经网络进行故障诊断，速度非常快，精确度很高。

3 结语

LVQ神经网络将监督学习和无监督学习结合起来，可以完成对输入向量模式的准确分类。本文以长城哈佛GW2.8TC 型发动机为实例，并对发动机进行故障设置，采集数据流，介绍了LVQ神经网络及其改进的学习算法，运用改进的LVQ神经网络建立诊断模型，诊断结果表明，改进的LVQ 神经网络能对发动机故障进行模式识别和准确分类，诊断结果完全正确，而且训练速度极快。改进的LVQ 神经网络具有较高的研究价值，该方法不仅可以运用到汽车诊断领域，而且可以运用到其他故障诊断领域。

参考文献

[1] 董长虹.神经网络与应用[M].北京：国防工业出版社，2005.[2] 史忠植.神经网络[M].北京：高等教育出版社，2009.

[3] 孙祥，徐流美，吴清.Matlab 7.0[M].北京：清华大学出版社，2005.

[4] 周开利，康耀红.神经网络模型及其Matlab仿真程序设计[M].北京：清华大学出版社，2005.

[5] 张德丰.Matlab神经网络应用设计[M].北京：机械工业出版社，2009.

[6] 李国勇.智能控制及其Matlab实现[M].北京：电子工业出版社，2005.

[7] 舒宁，马洪超，孙和利.模式识别的理论与方法[M].武汉：武汉大学出版社，2004.

[8] 蒋宇，李志雄，唐铭.LVQ 神经网络在滚动轴承故障诊断中的应用研究[J].机械科学与技术，2011（3）：408?411.

篇7

【关键词】测试 GRNN类神经网络 应用 探讨

1 类人工神经网络特性

类人工神经网络技术（Artificial Neural Networks）是近年发展起来的一个新的研究领域，反映了人脑功能的若干基本特性，从而使计算机能够模仿人的大脑，具有较强的形象思维能力。

我们目前应用的神经网络多是模糊神经网络，即神经网络与模糊系统的结合，此方法既改进了原有的测试系统的实时性能，又使神经网络学习得到了指导，有利于收敛。但是，此方法单纯地强调了无模型的冗余式学习和模拟，必然造成对计量对象以及计量目标本身的忽略。所以，我们开始尝试使用多层反馈式神经网络，即本文要探讨的GRNN（Generlized Regnssion Neurl Network）神经网络。通过上面的介绍我们可以总结出类人工神经网络具有以下优点非线性映射逼近能力；

（1）对信息的并行分布处理能力；

（2）高强的容错能力；

（3）对学习结果的泛化和自适应能力；

（4）很强的信息综合能力；

（5）信息的优化计算能力；

（6） 便于集成实现和计算模拟

2 建议在石油领域应用类人工神经网络于产量预测

由于上述类神经网络的优点，我们可以知道可以通过监督学习的方法，将专家的故障分析经验传递给神经网络，或用神经网络来建立参数观测系统，从而避免了数学建模的困难，同时，诊断信息还能被用于系统的容错控制。我们利用三层GRNN神经网络来训练网络，可以根据输入到网络的一些样本提供一套权重来进行石油领域的一些预测，在网络训练之后，可以将任何新输入的资料划分为有效产能或无效产能。

虽然神经网络作为一种分类工具似乎比其他方法较具吸引力，在石油领域解决实际问题的应用到目前为止还不多。神经网络（ANN）人工智能方法能处理一系列的信息输入如比率等，并能产生相应的输出，而其运算分析能生成一个成功反映所有输入输出变量相应关系的模式。除此之外，神经网络并不依赖于变量之间必须线性相关或是相互独立的假设。变量之间存有微妙联系，如同数据不连续或不完全一样，均可被系统辨识并生成定性评估。简而言之，除了部分不明确的结果之外，神经网络能够在相似点和类似点方面给出有根据的结论，在很大程度上，神经网络方法在油井的判别上有相似的

作用。

3 GRNN类神经网络模型数学模型及计算

3.1 GRNN类神经网络模型数学模型

GRNN（Generlized Regnssion Neurl

Network）是径向基函数神经网络的一种，主要用于函数逼近。GRNN 网络为含1个输入层、1个隐层和1个输出层的3层结构神经网络。隐层传递函数为径向基函数Radbas，输出层为线性函数Purelin：Radbs（x）=exp（-x2），Purelin（x）=x，GRNN网络设置隐层的权重W1为：W1=P’式中为P’输入向量P的转置矩阵：隐层的偏差b1为：b1 =0.8326/ spread

式中spread为径向基函数的展形。输出层的权重W2=T，T为目标向量。

模型设计输入变量为油井的平均压力和平均气温，输出变量为油井的月平均流量。为防止部分神经元达到过饱和，提高网络收敛程度和计算速度，对原始资料应做标准化处理。

3.2 GRNN类神经网络模型数学计算

测试实验目的是了解新的井身结构及管柱所允许的单井产能，并尽可能求取最大产量。设计采用6个油嘴进行回压法测试。回压测试结束后用21.57mm油嘴测试，日产油300.44×104m3，预测生产压差6.056MPa。井下入四支高精度PPC型存储式井下电子压力温度计同时测试。采用MCALLSTER型的直读式电子井下压力温度计，取得了较好效果。

井筒中的动力异常是造成压力异常的主要原因。分隔器密封不严、节流影响、井筒积液、温度变化都会造成井筒中的动力异常。采用变井筒温度模型井的试井数据进行了校正，校正后的平均地层压力上升了约1.2MPa，压力恢复曲线也呈上升趋势。从图1中看出GRNN模拟效果极好，验证结果也基本令人满意。

4 结论和展望

4.1 结论

大庆油田由于多年开采，井下地质条件复杂，使用神经网络模型（如GRNN和BP神经网络）进行监测效果分析，可获得比较好的结果；

在储层四性特征及其四特性关系研究的基础上，以岩心分析数据为标定，测井为工具，GRNN神经网络为方法，基本可以实现储层物性参数的精确预测，且比常规数理方法具有较高的精度，显示出BP神经网络在储层参数预测中具有较为广阔的应用前景。

多层反馈式神经网络具有特定的标准结构和非线性收敛特性。在求解具体问题时，只要把具体确定的能量函数与标准能量函数相对应，就能确定相应的神经网络参数。在合适的能量函数指导下，根据计量目标设计基于反馈式神经网络的系统结构和动态参数，并将基于此网络的参数辩识和计量结合起来，使其具有更强的自适应性。

4.2 展望

（1）如何在矢量控制的框架下补偿参数随时间常数的变化对计量性能带来的影响，是一个重要的研究课题，也是我们以往研究结果的基础上进一步努力的方向；

（2）GRNN神经网络的优越特性必然能在其它的石油领域中得到更广泛的应用，关于此项的研究任务是一项长期的任务。

参考文献

篇8

关键词：深基坑工程；人工神经网络；支护结构

中图分类号：Tu473

文献标识码：A

随着城市现代化进程的加快，地下工程规模日渐扩大，深基坑工程无论在数量上还是在规模上都有大幅度提高。深基坑工程是一个十分庞大的极其复杂的非线性系统，它既涉及土力学中最典型的强度、稳定和变形问题，同时还涉及土与支护结构的共同作用、水文地质与地下水控制、施工组织设计等问题。由于人工神经网络(Artificial Neural Net-works，简写成ANN)能简单模拟人脑神经元工作的部分机理，具有自适应性、非线性、学习功能及容错性强等特点，特别适合于处理各种非线性问题，因而在深基坑工程的研究中得到了广泛的应用。本文拟就ANN在深基坑工程中的应用进行一番探讨。

1　人工神经网络理论研究的发展简介

人工神经网络是以工程技术手段来模拟人脑神经元网络的结构与特征的系统。利用人工神经元可以构成各种不同拓扑结构的神经网络，它是生物神经网络的一种模拟和近似。在人工神经网络中，前馈型神经网络是目前人工神经网络中应用最广泛也是发展最为成熟的一种网络模型，其网络结构如同1所示，神经元分层排列，有输入层、隐层(亦称中间层)和输出层。各层神经元、各层之间通过不同的权重连接，权重的大小反映互连神经元之间相互影响的形式与大小。在输入层输入各初始参数后，输出层的输出值即为网络对这些输入参数的响应，也即所需的结构。图1所示的网络其本质上是建立输入层各参数到输出层各参数的映射，从而反映这些输入参数对输出的影响形式和幅度，进而反映输入参数与输出结构之问的本质联系。

2　人工神经网络理论研究的发展简介

1943年，美国神经生理学家Warren Mcculloch和数学家Walter Pitts在文章“A Logical Calculus of I-deas Immanent in Nervous Activity”中，第一次提出了神经元数学模型，拉开了人工神经网络发展的序幕。1949年，心理学家Donald Hebb在其所著书《The Organization of Behavior》中第一次将学习功能引入神经网络系统，他所提出的Hebb学习规则在神经网络模型研究中一直起着重要的作用。1957年。Frank Rosenblatt提出的感知器模型(Perceptron)，被认为是最早的神经网络模型。1959年，Bernard Widrow和Marvin Hoff开发出一种称为自适应单元(Ada-line)的网络模型，网络通过Marvin-Hoff学习算法训练后，成功地应用于抵消通信中的回波和躁声，也可用于天气预报，是第一个用于实际问题的神经网络模型。由于这些有识之士的工作及对神经网络的宣传，激起了更多人的兴趣投入到这一领域，形成了ANN研究的第一次。

1969年，Marvin Minsky和Seymour Papert在他们合著的书《Perceptron》中，分析了简单的感知器，指出了它的局限性，即对于非线形问题，甚至简单的“异或”问题都无能为力。由此引起了对神经网络批评的高涨，使得ANN的研究陷入了低潮。直到1982年，John Hopfield对神经网络进行了严格的数学分析，揭示了其工作机理，并且用他提出的模型从失真的和不完善的数据图形中获得完整的数据图形，引起了人们的关注，致使ANN的研究开始复苏，并在近20年中得到了飞速的发展。

尽管神经网络的研究才刚刚起步，它已在广泛的领域中得到了应用。如信号处理与模式识别、专家系统、机器人控制、邮政通讯、图像处理、语音识别等领域。近几年来，在工程力学领域已有人引入ANN来解决问题，如基于BP网络的混凝土本构关系模型，力学领域中非线形动态系统的识别，振动控制中的状态估计，结构破坏形式估计，以及结构分析和可行性设计等等。

3　ANN在深基坑工程中的应用

ANN应用到基坑工程研究的时间较晚。Gob等(1995)用ANN成功地预测了基坑支护中地下连续墙的侧向位移。在国内土木工程界，李立新(1997)在基坑的非线形位移反分析中应用了ANN，率先将ANN引入到用于解决深基坑工程中的种种问题。此后，许多专家学者开始意识到ANN解决深基坑工程问题的有效性和实用性，纷纷开展了这方面的研究工作。ANN在深基坑工程中的应用越来越普遍，应用的范围也不断扩大。截止目前，ANN在国内深基坑工程中主要应用于以下几个方面：

3.1支护结构选型

常见的深基坑支护结构型式有排桩、地下连续墙、水泥土墙、土钉墙、逆作拱墙、放坡开挖等。支护结构可根据基坑周边环境、基坑规模、工程地质与水文地质、施工作业设备、施工季节等条件，选用上述的某一种或几种型式的组合。在深基坑工程中，支护体系和支撑构件设计的合理性和施工质量的优劣直接影响到整个支护体系的安全和正常使用，如何在众多的支护方案中选择一种技术上先进、施工上可行、经济上合理的支护方案就显得异常重要。支护结构体系是一个庞大复杂的力学系统，决定基坑工程支护方案的因素众多且大多具有不确定性特点，根据ANN的特性和工作原理，考虑采用ANN进行深基坑支护结构选型是完全可行的。

王晓鸿等根据大量工程实践确定了支护方案选择的神经网络表示方法，该方法以基坑开挖深度、基坑规模、场地条件、周边环境控制等级、基坑周围建筑物、道路、工程、管线的距离等作为输入信息，以水泥土挡墙、灌注桩墙、地连墙等作为输出信息，采用ANN方法进行研究，取得了常规的解析或数值方法不能达到的较好结果。

3.2变形的预测预报

深基坑工程变形的预测预报包括诸多方面：围护结构的变形、地表沉降、坑底隆起、周围管线变位等。对于上述诸多方面变形的每一种来说，其影响因素都是多方面且极其复杂的。比如，根据以往的施工经验，影响支护结构变形的因素就有支撑条件、土层强度、围护墙的刚度、围护墙在坑底以下的入土深度、地下水、施工情况等，且每一种因素的影响方式和影响程度都不同，甚至有的是不确定的，因而采用传统方法较难甚至不可能建立满意的数学模型，也就无法很好地解决深基坑工程变形的预测预报问题。ANN方法的发展及其本身的诸多优点，为解决这一重要问题提供了强有力的工具。

目前，ANN在深基坑工程变形的预测预报中的应用研究比较活跃。总体来讲，ANN应用于深基坑

工程变形的预测预报问题的研究可分为两大类：

a)一般预测问题：即对一些同类型的、随机的、广泛在同一平面或曲面上(服从一定的概率分布)的实测值进行ANN模拟和泛化推广，可称之为横向推广。华瑞平等以单层内支撑围护结构作为神经网络设计的支护结构类型，以支撑点与开挖深度的比值、支撑弹性系数、基坑开挖深度、桩的入土深度、土的c、ψ值、桩的刚度7个指标作为输入层参数，以桩的最大位移作为输出层，采用10个样本进行训练，后对3个样本进行了检验，最大误差仅为6.6％，效果比较令人满意。此外，其他一些专家学者对类似问题采用了不同的网络结构进行研究，都取得了理想的预测结果。

b)时间序列预测问题。即将一个非线性变化过程依时间而产生的某种分布规律通过建立ANN以求得这种分布性的探索和泛化推广，可称为纵向推广。深基坑工程中的变形是一个动态的过程。时间序列预测的基本思想是利用现有的历史数据设计合理的ANN，经训练和检验能达到所要求的精度后来预测未来时间的变形数据，从而预测预报基坑的稳定性。如孙海涛等对上海某深基坑工程中两个测点每天的沉降进行了监测，以前4d的测量数据为依据来预测后2d的沉降值，经训练、检验后，发现预测值与实测值较为吻合，基本反映了实测值的趋势。

3.3土体物性参数识别

深基坑工程中的各种理论分析必须以合理的土体物性参数为基础。这些由试验测定的参数由于许多因素的影响往往与实际值存在较大差异。在实际工程中不确定的因素更多，因而采用这样的参数进行分析计算，得到的结果往往不可靠。这就需要对深基坑开挖工程中土体的物性参数进行识别。其解决方法是：在深基坑开挖施工过程中，根据若干预先布置好的测点处现场测量所得的数据(位移、应力、孔隙水压力等)，来反求出基坑及基坑周围土体的物性参数(粘聚力、内摩擦角、弹性模量、泊松比等)。传统的反分析法通常结合有限元法和数学规划法，通过优化方法不断修正土体的未知参数，使一些现场实测值与相应的数值计算的差异达到最小，这些方法需要求待识别参数对于现场实测值的敏度。由于土体物理特性与力学特性的非线性，采用数值近似方法计算敏度的工作量很大，程序的实现也复杂。利用人工神经网络的非线性映射能力，可以解决一系列函数关系不能显示表达的复杂模式识别与参数估计问题。与传统反分析方法相比，该方法避免了敏度分析，并具有概念直观、易于掌握、易于实现等优点。

3.4其它方面的应用

人工神经网络除了成功地解决深基坑支护结构选型、变形预测预报、土体物性参数识别等问题以外，还可以应用于施工控制、突涌分析、工程造价预测、底板混凝土测温等方面。虽然应用的方向和解决的问题有所不同，但是利用该方法所解决不同问题的思路大体上是一致的。

4　ANN方法在深基坑工程研究中的发展展望

4.1　BPN算法自身的改进

在目前为数众多的ANN中，前馈型多层、误差逆向传播的BP神经网络(Back Propagation Network，简称BPN)因为其简单的特点而成为目前应用最广的ANN学习模型。但BPN存在着自身的限制和不足，主要包括：收敛速度慢，存在局部极值，隐层节点个数选择无理论参考，仅凭经验选取，网络运行为单向传播，没有反馈和返化能力差。基于此，出现了一些旨在改善BPN学习效果的方法。其中一个方法是通过发展更有效的学习算法去缩短学习时间。Moiler(1993)研制了一个比例共轭梯度算法去加快学习速度；Adeli和Hung(1994)建立了一个自适应共轭梯度神经网络(Ad-CGN)学习算法，并将其应用到了结构工程当中。Sanossian和Evans(1995)用一个基于梯度的启发式算法去加速神经网络。另一个方法是利用平行算法去缩短计算时间。例如，Adeli和Hung(1993)提出了一个实时Ad-CGN学习算法去解决大规模模式识别问题，他们的算法在缩短BPN计算时间方面取得了一些进展。此外，通过合理选择代表性框架来表示训练的输入输出模式可以极大地改善神经网络的工程应用性能。Gunaratnam和Gero(1994)讨论了BPN应用于结构设计时训练样本的输入输出模式对BPN性能的影响。上面提到Hung和Lin(1994)在一个类似于牛顿第2定律的L-BFGS方法基础上利用非线性搜索算法研制了一个更有效的自适应性算法L-BFGS。S.F.Masri(1999)在应用力学研究中用自适应随机搜索技术(ARS)训练了BPN。对BPN的改进的算法还有许多，这些算法各有其优点，也都有需要改进的地方。因此，为了使BPN能更为高效快速，我们今后还需要做更多的研究工作。

篇9

关键词：树叶识别；支持向量机；卷积神经网络

中图分类号 TP18 文献标识码：A 文章编号：1009-3044（2016）10-0194-03

Abstract： In this paper， the convolution neural network recognition in the leaves， and the process by convolution of image visualization. Experiments show that the neural network application identification convolution leaves a 92% recognition rate. In addition ， this neural network and support vector machine comparative study can be drawn from the study ， convolutional neural network in either speed or accuracy better than support vector machines， visible， convolution neural network in the leaves aspect has good application prospects.

Key words recognition leaves； SVM； convolutional neural network

1 概述

树叶识别与分类在对于区分树叶的种类，探索树叶的起源，对于人类自身发展、科普具有特别重要的意义。目前的树叶识别与分类主要由人完成，但，树叶种类成千上万种，面对如此庞大的树叶世界，任何一个植物学家都不可能知道所有，树叶的种类，这给进一步研究树叶带来了困难。为了解决这一问题，一些模式识别方法诸如支持向量机（Support Vector Machine，SVM）[1]，K最近邻（k-NearestNeighbor， KNN）[2]等被引入，然而，随着大数据时代的到来，这些传统分类算法暴露出越来越多的不足，如训练时间过长、特征不易提取等不足。

上世纪60年代开始，学者们相继提出了各种人工神经网络[3]模型，其中卷积神经网络由于其对几何、形变、光照具有一定程度的不变形，因此被广泛应用于图像领域。其主要特点有：1）输入图像不需要预处理；2）特征提取和识别可以同时进行；3）权值共享，大大减少了需要训练的参数数目，是训练变得更快，适应性更强。

卷积神经网络在国内研究才刚刚起步。LeNet-5[4]就是一种卷积神经网络，最初用于手写数字识别，本文研究将卷积神经网络LeNet-5模型改进并应用于树叶识别中。本文首先介绍一下卷积神经网络和LeNet-5的结构，进而将其应用于树叶识别，设计了实验方案，用卷积神经网络与传统的模式识别算法支持向量机（SVM）进行比较，得出了相关结论，并对进一步研究工作进行了展望。

2人工神经网络

人工神经网络方面的研究很早就已开展，现在的人工神经网络已经发展成了多领域、多学科交叉的独立的研究领域。神经网络中最基本的单元是神经元模型。类比生物神经元，当它“兴奋”时，就会向相连的神经元发送化学物质，从而改变这些神经元的状态。人工神经元模型如图1所示：

上述就是一个简单的神经元模型。在这个模型中，神经元接收来自n个其他神经元传递过来的输入信号，这些信号通过带权重的w进行传递，神经元接收到的总输入值将与神经元的阈值进行比较，然后通过“激活函数”来产生输出。

一般采用的激活函数是Sigmoid函数，如式1所示：

[σz=11+e-z] （1）

该函数图像图2所示：

2.1多层神经网络

将上述的神经元按一定的层次结构连接起来，就得到了如图3所示的多层神经网络：

多层神经网络具有输入层，隐藏层和输出层。由于每一层之间都是全连接，因此每一层的权重对整个网络的影响都是特别重要的。在这个网络中，采用的训练算法是随机梯度下降算法[5]，由于每一层之间都是全连接，当训练样本特别大的时候，训练需要的时间就会大大增加，由此提出了另一种神经网络―卷积神经网络。

2.2卷积神经网络

卷积神经网络（CNN）由于在图像分类任务上取得了非常好的表现而备受人们关注。发展到今天，CNN在深度学习领域已经成为了一种非常重要的人工神经网络。卷积神经网络的核心在于通过建立很多的特征提取层一层一层地从图片像素中找出关系并抽象出来，从而达到分类的目的，CNN方面比较成熟的是LeNet-5模型，如图4所示：

在该LeNet-5模型中，一共有6层。如上图所示，网络输入是一个28x28的图像，输出的是其识别的结果。卷积神经网络通过多个“卷积层”和“采样层”对输入信号进行处理，然后在连接层中实现与输出目标之间的映射，通过每一层卷积滤波器提取输入的特征。例如，LeNet-5中第一个卷积层由4个特征映射构成，每个特征映射是一个24x24的神经元阵列。采样层是基于对卷积后的“平面”进行采样，如图所示，在第一个采样层中又4的12x12的特征映射，其中每个神经元与上一层中对应的特征映射的2x2邻域相连接，并计算输出。可见，这种局部相关性的特征提取，由于都是连接着相同的连接权，从而大幅度减少了需要训练的参数数目[6]。

3实验研究

为了将LeNet-5卷积网络用于树叶识别并检验其性能，本文收集了8类树叶的图片，每一类有40张照片，如图5所示的一张树叶样本：

本文在此基础上改进了模型，使用了如图6卷积神经网络模型：

在此模型中，第一个卷积层是由6个特征映射构成，每个特征映射是一个28*28的神经元阵列，其中每个神经元负责从5*5的区域通过卷积滤波器提取局部特征，在这里我们进行了可视化分析，如图7所示：

从图中可以明显地看出，卷积网络可以很好地提取树叶的特征。为了验证卷积神经网络与传统分类算法之间的性能，本文基于Python语言，CUDA并行计算平台，训练同样大小8类，一共320张的一批训练样本，采用交叉验证的方法，得到了如表1所示的结论。

可见，无论是识别率上，还是训练时间上，卷积网络较传统的支持向量机算法体现出更好地分类性能。

4 总结

本文从人工神经网络出发，重点介绍了卷积神经网络模型LeNet-5在树叶识别上的各种研究并提取了特征且进行了可视化，并与传统分类算法SVM进行比较。研究表明，该模型应用在树叶识别上较传统分类算法取得了较好的结果，对收集的树叶达到了92%的准确率，并大大减少了训练所需要的时间。由于卷积神经网络有如此的优点，因此在人脸识别、语音识别、医疗识别、犯罪识别方面具有很广泛的应用前景。

本文的研究可以归纳为探讨了卷积神经网络在树叶识别上的效果，并对比了传统经典图像分类算法，取得了较好的分类精度。

然而，本文进行实验的样本过少，当数据集过多的时候，这个卷积神经网络算法的可行性有待我们进一步的研究；另外，最近这几年，又有很多不同的卷积神经网络模型出现，我们会继续试验其他的神经网络模型，力求找到更好的分类算法来解决树叶识别的问题。

参考文献：

[1]Bell A， Sejnowski T. An Information-Maximization Approach to Blind Separation and Blind Deconvolution[J]. Neural Computation， 1995， 7（6）：1129-59.

[2]Altman N S. An Introduction to Kernel and Nearest-Neighbor Nonparametric Regression[J]. American Statistician， 1992， 46（3）：175-185.

[3]Ripley B D， Hjort N L. Pattern Recognition and Neural Networks[M]. Pattern recognition and neural networks. Cambridge University Press，， 1996：233-234.

[4]Lécun Y， Bottou L， Bengio Y， et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE， 1998， 86（11）：2278-2324.

篇10

Abstract： The sensitivity analysis of equipment maintenance support information plays an important role in the maintenance decision-making and support plan evaluation etc. In this paper， firstly， the demand and process of equipment maintenance support information sensitivity analysis was determined. Secondly， the artificial neural network was adopted to build networks for sensitivity analysis， the network output of the quantitative calculation of the influence of parameters is used on the model results， and the parameter sensitivity was got. Finally， the maintainability data of some gear lubrication pump was analyzed as an example， which verified the effectiveness of the proposed method.

关键词： 维修保障信息；灵敏度分析；BP神经网络

Key words： maintenance support information；sensitivity analysis；BP neural network

中图分类号：E075 文献标识码：A 文章编号：1006-4311（2016）12-0080-03

0 引言

装备维修保障信息是对装备实施维修保障的必要前提和重要基础[1]。它既反映了装备当前的基本情况，提供了装备是否便于维修，维修所需的时间、资源、费用等信息；也包含了各种与维修保障相关的质量特性参数，如平均修复时间、预防性维修时间、定期更换间隔期等，是开展维修工作的基础或者“起点”。

目前关于维修保障信息收集与分析的研究很多，然而针对这些信息的收集粒度、分析精度等研究则较少。因此，对装备维修保障信息进行灵敏度分析是非常有必要的，其有助于确定维修保障信息收集的重点，评价基础数据变化对维修保障效果的影响程度，并为后续分析与改进工作提供重要参考依据[2]。

本文基于黑箱模型的思路，利用人工神经网络的方法建立用于装备维修保障信息灵敏度分析的网络，利用网络输出定量计算参数的变动对不确定模型输出结果的影响程度，以掌握装备维修保障对参数变化的敏感度。

1 装备维修保障信息灵敏度分析需求与过程

灵敏度分析是研究与分析一个系统或模型的状态或输出变化对系统参数或者周围条件变化的敏感程度的方法[3]。在最优化方法中经常利用灵敏度分析来研究原始数据不准确或发生变化时最优解的稳定性。同样，在对装备开展维修保障工作时，其基础信息的灵敏度分析，对于相关维修决策的制订与判断以及保障方案的权衡与评价等，都具有非常重要和现实的作用。

1.1 装备维修保障信息灵敏度分析的需求

传统的维修方式是相对粗放型的，很难实现精确化保障也极易造成维修资源的浪费。基于状态的维修、故障诊断与健康管理等新型维修方式的兴起与发展，实现了维修决策的定量化与科学化，同时对于决策基础信息的质量与准确性也提出了更高的要求。

在上述新型维修方式的定量化分析过程中，必然依据相应的决策模型等手段。上述这些模型都含有若干个确定性参数，参数的变化会引起模型目标值的改变，不同参数的变化对模型目标值的影响也不尽相同。对装备维修保障信息进行灵敏度分析，可以通过对输出结果影响的大小等来探索维修决策模型对各信息的敏感程度，从而为优化装备设计参数和提高其维修决策等提供方向。所以，装备维修保障信息的灵敏度分析具有十分重要的意义。

1.2 装备维修保障信息灵敏度分析基本过程

对装备维修保障信息数进行灵敏度分析，基本过程如下：

①明确灵敏度分析参数。在维修决策模型中，一些参数的改变对模型结果影响很大，对这些重要性参数要重点分析；反之，如参数的变化对模型结果影响很小，没必要对其进行分析。

②确定参数取值变化范围。根据模型的具体情况，选择适当的参数变化范围；需要注意的是，所有参数的变化范围要求一致，这样才能比较其灵敏度。

③模型结果统计与展现。通过MATLAB等数学工具，计算模型结果，并画出表示参数与模型结果关系的二维图。

④模型结果变动分析。根据二维图所示的参数与模型结果的关系，通过其直线斜率、变化区间等来进行灵敏度分析。

⑤确定参数采集要求。参数采集应该来源于工作实践，确保数据的准确性、可靠性。

2 基于神经网络的装备维修保障信息灵敏度分析

在装备维修保障信息分析过程中，由于各参数间常常会存在不同程度的相关性，很难直接判断参数的改变对模型输出结果的影响，因此本文研究利用人工神经网络的方法建立用于黑箱模型参数灵敏度分析的网络。黑箱模型（Block Box Model）是指输入、输出和功能特性已知，但其内部实现未知或不相关的模型。因此，通过参数值的变动得到不同的网络输出结果，利用网络的输出定量计算出参数的变动对不确定模型输出结果的影响程度。

2.1 BP神经网络的概念及结构

人工神经网络是在复杂的生物神经网络研究和了解的基础上发展起来的[4]。人脑是由大约个高度互连的单元构成，这些单元称为神经元，每个神经元约有个连接。按照生物的神经元，可以用数学方式表示神经元，并由神经元的互连可以定义出不同类型的神经网络。

由于连接方式的不同，神经网络的类型也将不同。前馈神经网络因为其权值训练中采用的误差是逆向传播的方式，所以这类神经网络更多地称为反向传播（back propagation）神经网络，简称BP神经网络。BP神经网络的基本网络结构如图1所示。

2.2 基于BP神经网络的灵敏度分析模型设计

利用人工神经网络进行黑箱参数灵敏度分析的基本思路是：首先，根据具体装备，结合实际的维修情况，确定要进行灵敏度分析的黑箱模型参数；再利用已有的装备维修数据和专家经验等对参数进行量化处理：然后，利用相关参数和结果形成样本数据进行人工神经网络训练；最后，固定训练完好的神经网络，并通过相关方法分析参数变化的敏感度[5]。

本文通过MATLAB神经网络工具来完成网络训练[6]，具体步骤如下：

①确定训练样本。收集并处理现有或相似、相近装备的相关维修保障信息样本，并对模型参数进行量化。一般来说，所收集的样本数越多，BP神经网络参数灵敏度分析达到的精度就越高。

②建立网络。选取适当的神经网络模型，将参数归一化值赋予神经网络的输入层单元、归一化后的结果值赋予输出层。输入层和输出层节点之间的传递函数通常采用MATLAB的BP神经网络工具箱中的神经元传递函数，网络初始化可通过工具箱中的初始化函数来实现。

③完成网络训练。通过MATLAB的BP神经网络工具箱中的网络训练函数来实现。当训练到一定精度时，停止训练，求得所有权值和阈值。利用测试样本数据对训练结果进行确认，看是否满足要求，必要时增加样本的容量。

④进行参数灵敏度分析。采用逐项替代的分析方法，即通过逐次对某一参数或几个参数进行微小变动，同时固定其它参数保持不变，进行人工神经网络的计算，得到相应网络输出，利用网络的输出定量地分析参数对结果的影响程度，从而为开展维修决策提供参考依据。

3 案例分析

这里以某设备平均单位维修费用关于其相关影响数据为例进行案例分析。通过实际维修情况分析可知，与该设备维修费用相关的参数主要包括：预防性维修所需费用、修复性维修所需费用、维修所需备件费用、维修活动管理费用、设备故障率、维修延迟导致的设备停机时间。选取该设备的原型和相似设备的13组维修数据，并进行归一化后得到的样本数如表1所示，其中6项影响维修费用的参数分别由X、Y、Z、U、V、W表示， C表示单位时间平均维修费用。

3.1 网络的设计与训练

根据上面的数据用前6项参数确定网络的输入变量，并用单位时间平均维修费用确定网络的目标变量。利用1～10组的费用影响数据作为网络的训练样本，11～13组的数据作为网络的测试样本。利用训练完成的神经网络计算另外第11～13组的平均维修费用值，得出的值分别为0.789、0.801、0.815，误差范围都在0.04以内，说明本文所设计的这种网络是足够精确可靠的。

3.2 参数灵敏度分析

在应用上述训练完成的网络程序的基础上，可进一步对此设备的各项参数进行灵敏度分析。对于各个数组来说，参数灵敏度的分析方法大致是一样的。因此，本文仅以数组1为代表进行参数灵敏度分析，具体方法为：分别将每个参数的值改变（增大或缩小）0.1，保持其它的参数值不变，进行神经网络计算，然后观测网络输出值的变化情况。比如，当参数增大0.1后，单位时间平均维修费用相应的改变见图2。

由图2可以看出，对数组1来说，维修活动管理费用这项参数的灵敏度最高，这说明对于设备单位时间平均维修费用来说，此时维修活动管理费用的大小，是导致其高低的最主要因素；其次是该设备的故障率，即设备先天的可靠性水平，对于后期维修费用也起着重要的影响。

采用同样的方法，我们也可以对其他数组进行分析，并得出影响最终结果最为明显的参数来。这样，在开展维修活动时，为了提高保障效益可以有针对性地采取措施，达到科学维修准确决策的效果。

4 结束语

目前很多装备维修保障信息分析具有多样性和复杂性的特点，例如机械装备维修时间与维修性影响因素的关系、装备故障与训练环境的关系等，这些信息都具有不确定性，不能直观地分析，通过神经网络的方法就能解决这个问题。本文介绍了一种基于BP神经网络进行参数灵敏度分析的方法，这其中最重要的工作就是对模型参数神经网络的训练，只有训练出的神经网络精度足够高，才能保证参数灵敏度分析的准确性。但是前提就是要收集大量参数的数据，提高神经网络的精度，这就要求我们要采集大量可靠的数据。

在本文研究中还有很多不够完善的地方，如对于多个参数同时变化的灵敏度分析，输入参数状态变化和参数状态组合引起的灵敏度改变等这些方面，是今后继续研究的方向。

参考文献：

[1]韩小孩，张耀辉，等.装备维修保障信息分类与描述[J].四川兵工学报，2012，33（9）：49-53.

[2]王广彦，白永生，等.面向多主体、多任务的维修保障信息建模技术[J].面向多主体、多任务的维修保障信息建模技术， 2015，24（1）：21-27.

[3]费芸洁.基于灵敏度分析的神经网络结构优化方法研究[D].苏州大学硕士学位论文，2007.

[4]陈太聪，韩大建，苏成.参数灵敏度分析的神经网络方法及其工程应用[J].计算力学学报，2004.