神经网络的思想范文

导语：如何才能写好一篇神经网络的思想，这就需要搜集整理更多的资料和文献，欢迎阅读由公务员之家整理的十篇范文，供你借鉴。

篇1

论文摘要：网络思想政治教育管理的原则，是在网络思想政治教育管理实践中形成的、体现了网络思想政治教育管理客观规律的、思想政治教育管理活动必须遵循的准则。数字化技术是支撑网络思想政治教育改革发展的关键网络思想政治教育应包含人文精神教育。网络思想政治教育管理要坚持数字化技术与人文精神相结合的原则。

本文所说的网络是指以计算机和信息技术为基础，以实现便捷通讯和资源共享为目的，发展人的本质的虚拟世界。它主要是指互联网。网络思想政治教育是指以认清网络本质和影响为前提，利用网络促使网民形成符合一定社会发展所需要的思想政治品德和信息素养的虚拟实践活动。in原则是指人们在既定目标和特定条件下，观察和处理问题时必须遵循的准则和标准。网络思想政治教育管理的原则，是在网络思想政治教育管理实践中形成的、体现了网络思想政治教育管理客观规律的、思想政治教育管理活动必须遵循的准则。网络思想政治教育管理要坚持数字化技术与人文精神有机统一的原则。

一、网络思想政治教育具有使科学精神与人文精神在网上和谐发展的可能性

由计算机和信息技术构成的互联网诱发的数字化及其运用已渗透到经济、政治、军事和文化教育等领域，涌现出数字经济、数字农业、数字军事、数字教育等。133229.COM数字化是网络的一个主要特征。网络可以集文字、图片、音频、视频于一体，是地地道道的多媒体。虽然目前仍存在如电视、广播等远距离教学的模拟教学手段，但这些都将迅速被数字化电视、广播等所取代。

数字化技术是支撑网络思想政治教育改革发展的关键。数字化思想政治教育技术是由数字化思想政治教育资源库、思想政治教育资源传输网络、思想政治教育资源检索浏览前端平台组成的用于人们教学的现代思想政治教育技术。数字化将是一切思想政治教育技术的核心。离开了数字化，现代与未来的思想政治教育技术将成为无本之木。数字化思想政治教育技术无论是在课堂教学还是在课外网络教学或其他教学活动中都起着重要作用。当然，数字化思想政治教育不纯粹是数字化技术在教育领域的简单应用，它是建立在数字化技术基础之上的现代思想政治教育思想、思想政治教育理论、思想政治教育方法、思想政治教育模式等一整套思想政治教育体系。丰富的数字化教学资源与传输快速的通讯网络和效果良好、操作方便的前端平台是数字化教育技术发展的核心，而数字化思想政治教育体系的确立，则是数字化思想政治教育技术得以广泛应用的可靠保证

网络思想政治教育运用网络技术使得其外延有了无限扩展的可能，如果从网络思想政治教育内涵角度思考，我们就会发现忽略了人文精神的培养。高科技飞速发展与人文科学被冷落，正是我们当前思想政治教育的二律背反。这些问题的原因在于我们没有处理好网络思想政治教育与人文精神的关系。

第一，网络思想政治教育信息的多元化并由此带来人文精神的散乱化。客观事物形态多样化带来人们主观思维模式的多样化，这是现实世界网络信息多元化的必然结果。网络世界是一个广裹的虚拟世界，是一个无视国界、无视种族、无视地域、无视权威、无视等级的世界。网络文化新观念诱导着人们多角度、多层次、多方位、多侧面地审视社会，审视周围一切环境，而行为方式也表现为千变万化。网络新观念的特点是:非线性的网络思维、信息传递的多感觉通道、时空无限放大或缩小、中心消解的边缘化、信息无终极的流动、将抽象变为现实的虚拟手段等。在这种观念支配下，人们的精神世界多了一些散乱，少了一些凝聚，行为就缺少人文精神。

第二，知识资本、数字化技术产业化显得红红火火，人文精神却变得异常冷落。网络思想政治教育最根本的价值在于培养特定网民的品格和精神，唤醒他们的心灵良知来支撑自己的一切行动。网络思想政治教育的数字化技术水平的迅速提高，使它的知识传播和知识应用功能加大加强，但人文精神欠缺所造成的社会不良后果是不堪设想的。数字化技术竞争式的网络思想政治教育发展越快，往往越是不能很有效地培育人的真善美，反而把人性中好的因素压抑了或是扼杀了。我们应该认识到:在充分发挥和利用数字化技术为人类造福的优势的前提下，必须注意抑制数字化技术发展给人们带来的负面效应，认真处理好信息技术发展与人文思想教育的矛盾，克服网络思想政治教育的形式大于内容的劣势，积极培育网络思想政治教育中的人文精神，努力创建网络思想政治教育与人文教育的协调发展模式，把人文精神作为网络思想政治教育的重要组成部分。

二、网络思想政治教育管理要坚持数字化技术与人文精神相结合的原则

1.网络的双刃剑作用要求网络思想政治教育管理坚持数字化技术与人文精神相结合的原则。数字化技术突飞猛进的发展是柄双刃剑，它在给人类带来福音的同时，也带来了诸如网络信息污染等危害人类的不利因素。网络信息中的黄色信息和黑色信息对沉溺其中的青少年的思想观念和道德行为会产生极大的影响。至于那些利用网络从事数字破坏、盗窃、诈骗和洗钱的行为，则会引发更为严重的社会问题。由此观之，数字化技术必须与人文精神相结合，在提高产品的数字化技术含量的同时必须与高度的人文精神结合起来，即现代社会所追求的人才，不仅仅具有高度的科学素质，而且还必须具备高度的人文素质，是一种科学素质与人文素质的整合类型。

2.网络人文精神所具有的独特时代意蕴要求网络思想政治教育坚持数字化技术与人文精神相结合的原则。人文精神，是人文文化的核心。人文文化一般而言是在一定时代一个民族认识人、对待人的思想观念、文化艺术、伦理道德，以及关于人的学说，这使人文精神带有时代的印记、民族的特色。但在网络时代，人文精神具有了不同于以往时代的意蕴、普遍的价值。网络技术第一次使人文精神的传播获得了超越时空的普遍意义。网络的开放性、互动性，为不同民族的文化、不同民族的人文精神的交流，奠定了广泛的基础。网络的即时性和共享性，为人文科学的研究，为共享人类思想文化成果提供了普遍现实的条件。但是，我们站在网络时代，发掘网络人文精神的时代意蕴，并不否认网络给人文精神带来的消极影响。问题的关键是我们在看到网络给人文精神弘扬造成消极影响的同时，要采取各种手段和方法，弘扬人文精神，提升人文精神的境界。网络为人的主体性的发展、科学人文精神的弘扬提供了史无前例的广阔舞台。我们要在“网络世界”的新舞台上，清扫各种思想垃圾，清除各种不利于人的全面发展的因素，以技术与知识的创新促进网络人文精神，以网络道德与网络法的建设保障网络人文精神，从一个境界走向一个更高的境界。izl网络给我们带来了全新的虚拟空间，没有人文精神支持的网络虚拟空间恐怕要变成虚无空间。思想政治教育要沉重地思考这些问题，如果思想政治教育能够在协调发展科学技术精神与人文精神方面迈出一步，哪怕是一小步，我们的思想政治教育就会显示出不可估量的价值。[3]

我们要立足于数字化技术时代，倡导人文精神。如果只在网络上生活，人就会被工具化、数字化，网络思想政治教育必须引导上网者提高自己的人文素质。但如果只讲人文精神，就会忽视隐含在网络里的科学精神，忽视教育手段的进步。因此，网络思想政治教育要把人文精神融人到网络里面去。f41

3.网络思想政治教育坚持数字化技术与人文精神相结合的原则是全面建设小康社会的要求。全面建设小康社会的关键是走新型工业化的道路。所谓新型工业化的道路，就是把发展信息技术及其集中表现的数字化，作为加快我国实现工业化和现代化的重大抉择，坚持以信息化带动工业化，以工业化促进信息化，走出一条科技含量高，经济效益好，资源消耗低，环境污染少，人力资源优势得到充分发挥，与其他国家相区别的具有中国特色的工业化的新路子。走新型工业化道路的核心是实现数字化，其中的关键是要把数字化与人文精神结合起来。全面建设小康社会既是一个经济目标，也是一个政治、文化和可持续发展的目标，包括人文精神及其指导下的各项制度。在我国全面建设小康社会的目标中，民主更加健全，文化更加繁荣，社会更加和谐，以及生活更加殷实，无不包含着人文精神，即使是经济更加发展，科技更加进步等，也包含着丰富的人文内容，所以关键是要把人文精神与数字化结合起来。!习因此网络思想政治教育要发挥人文精神在数字化中的作用，在现代化中实现人文精神与数字化的结合，也就是说，网络思想政治教育在时间上要把时代性和传统性结合起来;在空间上要把引进世界各国特别是发达国家先进的东西与本土化结合起来;在时间和空间的关系上要把现代化和社会主义初级阶段结合起来。

三、网络思想政治教育坚持科学素质教育与人文素质教育的有机统一的主要途径

第一，对学生网民实现人文关怀。在现实物理空间，思想政治教育是直观的，它的有效性几乎全依赖于热情的思想政治教育氛围和思想政治教育者的关怀情结。到了陌生的网络虚拟空间，网络思想政治教育能否保持有效性的关键在于能否使受教育者在冷冰冰的网络空间感受到彼端传来的温暖和人文的关怀。在许多网络交流比较发达的高校中，流传一种网友现象，其重要程度超过了10年以前人们津津乐道的笔友。在网友圈中形成的相互关怀要比许多现实生活中的朋友关系还要凝重得多。许多网络爱好者认为纯粹的网友之间交流并没有特殊之处，其交往形式和程度几乎雷同物理空间的知己好友。不少网友认为在网络空间得到的关怀和帮助并不亚于在现实空间得到的一切，两者之间没有什么差异。如果说有的话，那就是他们认为在网友圈中更容易得到关怀和帮助。网络思想政治教育者要敏锐地抓住这些细枝末节，构筑网络思想政治教育的氛围。i61

网络生活并不是生活的全部。在网络时代到来的时候，遨游在“虚拟化”的网络空间中又生活在真实的物理空间的上网学生，既需要网络技术给他们带来物的福扯，同时也需要获得一种人文的关怀，让他们寻找到一个精神上的家园。在网络时代，对上网学生进行人文关怀的方式多种多样，其内容主要着眼于提高上网学生的网络素质，使上网学生在思想、技术、道德、法制和心理上有承受、控制网络的能力，能适应虚拟社会并能安全地回到真实社会中来。要教育他们用一种非常健康的心态来进行网络活动，教育他们既能上网也能下网。阴网络思想政治教育者要清醒地认识到自然的浩大和精妙，看到网络领域人类太多的空白和无知，要教育网民学会谦虚，学会自律。

第二，构建具有人文精神的网络思想政治教育人才培养模式。首先，人文精神应作为检测网络思想政治教育过程是否有效的准则。网络思想政治教育中的人文教育目的就是运用信息多媒体传播人文知识，通过学习者的解读、领悟、思考，培养学习者的人文精神。比如电脑网络传播出来的精美画面、音乐、文字、语言、图表等都是代表着一定思想意识观念的物质载体，能使学习者的情感熏陶和体验锻炼得到有效升华，唤醒他们的善意心理良知，变为他们追求美好生活的精神动力。

篇2

介绍了基于神经网络的故障针诊断方法和结合模糊理论应用的故障诊断。分析了小波变换的现代模拟电路软故障诊断的研究现状。

关键词:

模拟电路；软故障诊断；神经网络；模糊理论；小波变换

在最近几年，现代模拟电路故障诊断方法的研究成为了新的热点。其中有基于神经网络。并结合专家系统、小波变换、模糊理论和遗传算法。“小波神经网络”和“模糊神经网络”成为主流的模拟电路软故障诊断方法。

1基于神经网络的故障诊断方法

神经网络有自组织性、自学性、并行性、联想记忆和分类功能,这些信息处理特点使其能够解决一些传统模式难以解决的问题。其中模拟电路故障诊断中的非线性和容差问题就是运用神经网络的非线性映射能力和泛化能力来解决的，同时这也是专家门的较为感兴趣的研究热点。基于神经网络的模拟电路故障诊断方法有一些，其中包括测试节点的选择、确定被测故障集、故障特征的提取等步骤,这种方法与基于测前仿真的故障字典法雷同。前者用制作神经网络和样本集来储存特征信息，而且在测试完毕后定位故障是通过神经网络来处理。所以可以把基于神经网络的方法当作是基于测后仿真和测前仿真的延伸与综合。在故障诊断领域，误差反传神经网络（backpropagationneuralnetwork,BPNN）拥有较好的模式分类特性。然而仅仅以节点电压视作故障特征训练的BPNN只能适用于诊断模拟电路的硬故障。在软故障方面，一般需要基于神经网络和多种特征提取方法的综合应用来诊断。

2基于模糊理论应用的模拟电路软故障诊断

在一些故障诊断问题中，模糊规则适合描述故障诊断的机理。模糊理论中的模糊运算、模糊逻辑系统、模糊集合拥有对模糊信息的准确应付能力，这使得模糊理论成为故障诊断的一种有力工具。神经网络与模糊理论相结合，充分发挥了模糊理论和神经网络各自的优点，并以此来弥补各自的不足，这就是所谓的“模糊神经网络”。这种方法的基本思想是在BPNN的输出层和输入层中间增加一到两层模糊层构造模糊神经网络，分别利用神经网络和模糊逻辑处理低层感知数据与描述高层的逻辑框架，这样一来跟神经网络分类器相比，“模糊神经网络”对模拟电路软故障诊断效果的优势就非常明显。通过一个无监督的聚类算法自组织地确定模糊规则的数目并生成一个初始的故障诊断模糊规则库，构造了一类模糊神经网络，通过训练调整网络权值，使故障诊断模糊规则库的分类更加精确，实现了电路元件的软故障诊断。

3基于小波变换的模拟电路软故障诊断

小波变换是一种新的变换分析方法，它继承和发展了短时傅立叶变换局部化的思想，同时又克服了窗口大小不随频率变化等缺点，能够提供一个随频率改变的"时间-频率"窗口，是进行信号时频分析和处理的理想工具。它的主要特点是通过变换能够充分突出问题某些方面的特征，能对时间（空间）频率的局部化分析，通过伸缩平移运算对信号（函数)逐步进行多尺度细化，最终达到高频处时间细分，低频处频率细分，能自动适应时频信号分析的要求，从而可聚焦到信号的任意细节，解决了Fourier变换的困难问题，成为继Fourier变换以来在科学方法上的重大突破。若满足时，则由经过伸缩和平移得到的函数成为小波函数族。小波变换具有时域局部特征,而神经网络具有鲁棒性、自学习、自适性和容错性。如何把二者的优势结合起来一直是人们所关注的问题。一种方法是用小波变换对信号进行预处理,即以小波空间作为模式识别的特征空间，通过小波分析来实现信号的特征提取，然后将提取的特征向量送入神经网络处理；另一种即所谓的小波神经网络或小波网络。小波神经网络是神经网络与小波理论相结合的产物，最早是由法国著名的信息科学研究机构IRLSA的ZhangQinghu等人1992年提出来的。小波神经用络是基于小波变换而构成的神经网络模型,即用非线性小波基取代通常的神经元非线性激励函数(如Sigmoid函数),把小波变换与神经网络有机地结合起来,充分继承了两者的优点。近几年来,国内外有关小波网络的研究报告层出不穷。小波与前馈神经网络是小波网络的主要研究方向。小波还可以与其他类型的神经网络结合,例如Kohonen网络对信号做自适应小波分解。

由于神经网络、小波变换、模糊理论在当今的发展上还不是很完善,例如在诊断中，模糊度该如何准确地定量化，对小波变换之后故障信号进行怎样构造能体现故障类别的特征等,因此这些基于神经网络的诊断方法或多或少地存在一些局限性。一般来说,神经网络方法的长处并不是提高诊断精度，而且无论运用什么方法,在选取状态特征参量和确定电路故障集方面,传统的故障诊断方法仍然具有理论上的指导意义。所以,抽取合理的故障特征比构造合适的神经网络更为重要。

参考文献：

[1]梁戈超,何怡刚,朱彦卿.基于模糊神经网络融合遗传算法的模拟电路故障诊断法[J].电路与系统学报,2004,9(2):54-57.

[2]谭阳红,何怡刚.模拟电路故障诊断的小波方法[J].电工技术学报,2005,20(8):89-93.

篇3

【关键词】傅里叶变换；BP神经网络；自适应滤波

1.引言

BP神经网络具有很强的非线性函数逼近、自适应学习和并行信息处理能力，为解决未知不确定非线性信息处理和自适应滤波提供了一条新途径[1]。但随着BP神经网络输入向量维数增加，其隐含层层数和学习次数也会相应增加，降低了网络的自适应性且延长了学习时间。傅里叶变换是数字信号处理领域一种很重要的算法，其思想是将原始信号从时域变换到频域，通过对频谱图的分析，去除高频处的频率分量，再将频域变换回时域，达到信号去噪滤波的功能[2]。利用傅里叶变换与神经网络相结合的方法，对信息进行预处理，减少信息处理量，再利用神经网络强大的非线性函数逼近能力，从而实现信号的自适应滤波，减少网络的待处理信息，增强网络的自适应能力，其工作过程如图1所示。

2.BP神经网络模型

2.1 神经元结构模型

人工神经网络是人脑的某种抽象、简化或模拟，它由大量的神经元广泛互联而成。网络的信息处理由神经元之间的相互作用来实现，网络的学习和识别取决于神经元间连接权系数的动态演化过程[3]，其模型可以用图2来表示。

输入向量与输出y之间的关系式；

其中权值向量，输入向量，阈值，活化函数。

2.2 BP神经网络

BP神经网络（Back-Propagation Neural Network）是一种无反馈的前向网络，网络中的神经元分层排列，除了有输入层、输出层之外，还至少有一层隐含层，BP学习算法是调整权值使网络总误差最小。具有隐含层BP网络的结构如图3所示，图中设有M个输入节点，L个输出节点，隐含层含有n个神经元。其中为网络输入向量，为实际输出向量，为网络的目标输出，为网络的输出误差。BP网络学习流程：

（1）网络初始化，确定输入向量与输出向量的维数、目标向量、学习次数以及允许的误差值。

（2）输入学习规则，初始化权值W。

（3）计算输出层的输出与目标向量的误差。

（4）判断误差精度是否达到预定值，没有则调整权值W并改变学习规则。

（5）误差精度达到预定值，学习结束。

3.数值仿真与分析

在MATLAB神经网络工具箱中提供了实现BP神经网络的创建，仿真环境以单输入单输出的非线性函数，分别作为输入函数和目标函数。本文同时采取傅里叶变换、BP神经网络以及基于傅里叶变换的BP神经网络分别进行仿真滤波[5][6]，表1给出了三种算法在MATLAB软件中的仿真主要步骤。图4为y（t）与x（t）函数的波形图，图5是经傅里叶变换处理后的x（t）波形，图6是BP网络自适应滤波后的x（t）波形，图7是基于傅里叶变换的BP网络作用后的x（t）自适应滤波后的波形。通过比较图5、6、7可以明显看出傅里叶变换的滤波效果出现高频振荡，BP网络自适应滤波在形状上几乎与元波形一致，但是在某些点位置出现疵点，而基于傅里叶变换的BP神经网络自适应滤波后波形几乎和目标函数y（t）波形完全一致。

4.结束语

本文通过三种算法在MATLAB中的仿真分析，可以得出在输入向量维数比较大时，可以采用基于傅里叶变换的BP神经网络的方法对含噪信息进行处理，不仅可以降低隐含层的层数，增加自适应能力和减少学习时间，而且在波形拟合上可以达到更好的效果。

参考文献

[1]华，李雷，赵力.基于BP神经网络的自适应补偿控制方法[J].计算仿真，2012，29（7）：202-205.

[2]张德丰.MATLAB小波分析[M].北京：机械工业出版社，2009，39-48.

[3]杨芳，马建伟.基于神经网络自适应滤波的低频Prony分析[J].中国水能及电气化，2012，86（4），32-37.

[4]李国勇，杨丽娟.神经模糊预测控制及其MATLAB实现[M].北京：电子工业出版社，2013：17-22.

篇4

关键词：决策支持系统；专家系统；集成学习；神经网络集成

中图分类号：TP18文献标识码：A文章编号：1009-3044(2008)27-2045-02

The Construction of the IDSS Based on the Neural Network Ensemble

WANG Jian-min, LI Tie-jun, DONG Yun-qiang

(PLA University of Science and Technology, Nanjing 210007, China)

Abstract: It is difficult to solve the problem, which is gaps between classical Decision Support System (DDS) and practical decision-making problems, especially the complexes. Ensemble Learning is a hot topic in Machine Learning studies. The improvement of generalization performance of individuals comes primarily from the diversity caused by re-sampling the training set. Neural Network Ensemble (NNE) can significantly improve the generalization ability of learning systems through training a finite number of neural networks and combining their result. The paper introduces the DSS and NNE, and studies the application of NNE on constructing IDSS knowledge base.

Key words: DSS; expert system; ensemble learning; NNE

1 引言

决策支持系统（Decision Support System，简称DSS）的概念在20世纪初由Keen P G和Morton M S等人提出，1980年Sprague R H 提出了基于数据库和模型库的DSS结构，目前各个DSS框架结构，概括起来分为基于X库和基于知识的DSS的框架结构两大类，前者以各种库及其管理系统作为DSS的核心，后者以问题处理单元作为系统的主要部分。随着研究的深入，人们发现传统的手段难以在决策中取得理想的结果，于是将AI中知识表示与知识处理的思想引入到了DSS中，产生了智能决策支持系统（Intelligent Decision Support Systems，简称IDSS）。目前在研究的各类DSS大都与计算机技术紧密关联，对计算机依赖程度过高，从而产生了很多局限，且不能解决或者有效提供对于复杂巨问题的决策支持[1]。

机器学习是人工智能研究的重要方向，已在DSS中扮演起越来越重要的角色，若将两者有机地结合起来，改进问题处理系统，增设学习系统，就成为一种基于学习的DSS体系结构，简称ML-IDSS [2]。对神经网络算法运用集成学习（Ensemble Learning ）的思想，即为神经网络集成(Neural Network Ensemble)方法，它通过训练多个神经网络并将其结果进行合成，可显著地提高神经网络系统的泛化能力。该方法易于使用且效果明显，是一种非常有效的工程化神经计算方法 [3]。

2 决策支持系统（Decision Support System）

一般认为决策支持系统是“决策”（D）、“支持”（S）、“系统”（S）三者汇集成的一体，即通过不断发展的计算机建立系统的技术（System），逐渐扩展支持能力（Support），达到更好的辅助决策（Decision）[4]。

传统DSS通过模型来操纵数据，实际上支持的仅仅是决策过程中结构化和具有明确过程性的部分，人们更希望解决半结构化和非结构化的决策问题。即传统DSS的局限性表现在：系统在决策支持中的作用是被动的，不能根据决策环境的变化提供主动支持（主动的DSS或者协同的DSS），对决策中普遍存在的非结构化问题无法提供支持，以定量数学模型为基础，对决策中常见的定性问题、模糊问题和不确定性问题缺乏相应的支持手段。

AI技术应用于DSS中后，有效地增强了DSS的效能，提高了辅助决策和支持决策的能力，极大地丰富了DSS的信息存取和信息处理手段，同时也使DSS在军事、政府、工程规划、制造等领域受到越来越多的青睐，现有的DSS除了在定量分析支持上有提升外，对于决策中的半结构化和非结构化的问题也提供了一定的定性分析支持，但是集成了专家系统的DSS，定性知识处理能力依然较弱，且基于专家系统的智能决策系统适用范围狭窄，依然无法完成全部的定性分析支持，更无法处理复杂问题的决策支持 [1]。

3 神经网络集成(Neural Network Ensemble)

3.1 机器学习（Machine Learning）

机器学习是一门新兴的边缘学科，其突出的自学习能力让人们看到了它在DSS中应用的前景。现有的DSS定性知识处理能力弱，没有自学习适应能力，而这正是机器学习应用于DSS中的突出优点。神经网络是机器学习中具有强大生命力的算法之一。

3.2 神经网络集成（NNE）

神经网络算法已经成功应用在诸多领域，但由于缺乏严密理论体系指导，其应用效果完全取决于使用者的经验。神经网络集成一般是几个神经网络的线性组合，它具有比单个神经网络更好的泛化能力。

3.2.1 问题的提出：强学习器与弱学习器

在PAC学习模型中，存在强学习与弱学习之分，且两者存在等价性问题。若存在的一个多项式级学习算法在辨别一组概念的过程中，辨别正确率很高，那么它是强可学习的；如果学习算法辨别一组概念的正确率仅比随机猜测略好，那么它是弱可学习的，并且弱、强学习算法之间存在等价性问题，即可以将弱学习算法提升成强学习算法。等价性问题是神经网络集成思想的出发点。1990年，Schapire针对此问题给出了构造性证明并提出集成方法和相应的Boosting算法。

篇5

[关键词]遗传算法 灰色系统 专家系统 模糊控制 小波分析

一、前言

神经网络最早的研究20世纪40年代心理学家Mcculloch和数学家Pitts合作提出的，他们提出的MP模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段：1947~1969年为初期，在这期间科学家们提出了许多神经元模型和学习规则， 如MP模型、HEBB学习规则和感知器等；1970~1986年为过渡期，这个期间神经网络研究经过了一个低潮，继续发展。在此期间，科学家们做了大量的工作，如Hopfield教授对网络引入能量函数的概念，给出了网络的稳定性判据，提出了用于联想记忆和优化计算的途径。1984年，Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络，简称BP网络。目前，BP网络已成为广泛使用的网络；1987年至今为发展期，在此期间，神经网络受到国际重视，各个国家都展开研究，形成神经网络发展的另一个。神经网络具有以下优点：

(1) 具有很强的鲁棒性和容错性，因为信息是分布贮于网络内的神经元中。

(2) 并行处理方法，使得计算快速。

(3) 自学习、自组织、自适应性，使得网络可以处理不确定或不知道的系统。

(4) 可以充分逼近任意复杂的非线性关系。

(5) 具有很强的信息综合能力，能同时处理定量和定性的信息，能很好地协调多种输入信息关系，适用于多信息融合和多媒体技术。

二、神经网络应用现状

神经网络以其独特的结构和处理信息的方法，在许多实际应用领域中取得了显著的成效，主要应用如下：

(1) 图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。

(2) 信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类；可用于海底声纳信号的检测与分类，在反潜、扫雷等方面得到应用。

(3) 模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别，还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别等。

(4) 机器人控制。对机器人眼手系统位置进行协调控制，用于机械手的故障诊断及排除、智能自适应移动机器人的导航。

(5) 卫生保健、医疗。比如通过训练自主组合的多层感知器可以区分正常心跳和非正常心跳、基于BP网络的波形分类和特征提取在计算机临床诊断中的应用。

(6) 焊接领域。国内外在参数选择、质量检验、质量预测和实时控制方面都有研究，部分成果已得到应用。

(7) 经济。能对商品价格、股票价格和企业的可信度等进行短期预测。

(8) 另外，在数据挖掘、电力系统、交通、军事、矿业、农业和气象等方面亦有应用。

三、神经网络发展趋势及研究热点

1.神经网络研究动向

神经网络虽已在许多领域应用中取得了广泛的成功，但其发展还不十分成熟，还有一些问题需进一步研究。

(1) 神经计算的基础理论框架以及生理层面的研究仍需深入。这方面的工作虽然很困难，但为了神经计算的进一步发展却是非做不可的。

(2) 除了传统的多层感知机、径向基函数网络、自组织特征映射网络、自适应谐振理论网络、模糊神经网络、循环神经网络之外，一些新的模型和结构很值得关注，例如最近兴起的脉冲神经网络(spiking neural network)和支持向量机(support vector machine)。

(3) 神经计算技术与其他技术尤其是进化计算技术的结合以及由此而来的混合方法和混合系统，正成为一大研究热点。

(4) 增强神经网络的可理解性是神经网络界需要解决的一个重要问题。这方面的工作在今后若干年中仍然会是神经计算和机器学习界的一个研究热点。

(5) 神经网络的应用领域将不断扩大，在未来的几年中有望在一些领域取得更大的成功，特别是多媒体技术、医疗、金融、电力系统等领域。

2.研究热点

(1)神经网络与遗传算法的结合。遗传算法与神经网络的结合主要体现在以下几个方面：网络连接权重的进化训练；网络结构的进化计算；网络结构和连接权重的同时进化；训练算法的进化设计。基于进化计算的神经网络设计和实现已在众多领域得到应用，如模式识别、机器人控制、财政等，并取得了较传统神经网络更好的性能和结果。但从总体上看，这方面研究还处于初期阶段，理论方法有待于完善规范，应用研究有待于加强提高。神经网络与进化算法相结合的其他方式也有待于进一步研究和挖掘。

(2)神经网络与灰色系统的结合。灰色系统理论是一门极有生命力的系统科学理论，自1982年华中理工大学的邓聚龙教授提出灰色系统后迅速发展，以初步形成以灰色关联空间为基础的分析体系，以灰色模型为主体的模型体系，以灰色过程及其生存空间为基础与内的方法体系，以系统分析、建模、预测、决策、控制、评估为纲的技术体系。目前，国内外对灰色系统的理论和应用研究已经广泛开展，受到学者的普遍关注。灰色系统理论在在处理不确定性问题上有其独到之处，并能以系统的离散时序建立连续的时间模型，适合于解决无法用传统数字精确描述的复杂系统问题。

神经网络与灰色系统的结合方式有：(1) 神经网络与灰色系统简单结合；(2) 串联型结合；(3) 用神经网络增强灰色系统；(4) 用灰色网络辅助构造神经网络；(5) 神经网络与灰色系统的完全融合。

(3)神经网络与专家系统的结合。基于神经网络与专家系统的混合系统的基本出发点立足于将复杂系统分解成各种功能子系统模块，各功能子系统模块分别由神经网络或专家系统实现。其研究的主要问题包括：混合专家系统的结构框架和选择实现功能子系统方式的准则两方面。由于该混合系统从根本上抛开了神经网络和专家系统的技术限制，是当前研究的热点。把粗集神经网络专家系统用于医学诊断，表明其相对于传统方法的优越性。

(4)神经网络与模糊逻辑的结合

模糊逻辑是一种处理不确定性、非线性问题的有力工具。它比较适合于表达那些模糊或定性的知识，其推理方式比较类似于人的思维方式，这都是模糊逻辑的优点。但它缺乏有效的自学习和自适应能力。

而将模糊逻辑与神经网络结合，则网络中的各个结点及所有参数均有明显的物理意义，因此这些参数的初值可以根据系统的模糊或定性的知识来加以确定，然后利用学习算法可以很快收敛到要求的输入输出关系，这是模糊神经网络比单纯的神经网络的优点所在。同时，由于它具有神经网络的结构，因而参数的学习和调整比较容易，这是它比单纯的模糊逻辑系统的优点所在。模糊神经网络控制已成为一种趋势，它能够提供更加有效的智能行为、学习能力、自适应特点、并行机制和高度灵活性，使其能够更成功地处理各种不确定的、复杂的、不精确的和近似的控制问题。

模糊神经控制的未来研究应集中于以下几个方面：

(1) 研究模糊逻辑与神经网络的对应关系，将对模糊

控制器的调整转化为等价的神经网络的学习过程，用等价的模糊逻辑来初始化神经网络；

(2) 完善模糊神经控制的学习算法，以提高控制算法的速度与性能，可引入遗传算法、BC算法中的模拟退火算法等，以提高控制性能；

(3) 模糊控制规则的在线优化，可提高控制器的实时性与动态性能；

(4) 需深入研究系统的稳定性、能控性、能观性以及平衡吸引子、混沌现象等非线性动力学特性。

关于神经网络与模糊逻辑相结合的研究已有很多，比如，用于氩弧焊、机器人控制等。

(5)神经网络与小波分析的结合

小波变换是对Fourier分析方法的突破。它不但在时域和频域同时具有良好的局部化性质，而且对低频信号在频域和对高频信号在时域里都有很好的分辨率，从而可以聚集到对象的任意细节。

利用小波变换的思想初始化小波网络，并对学习参数加以有效约束，采用通常的随机梯度法分别对一维分段函数、二维分段函数和实际系统中汽轮机压缩机的数据做了仿真试验，并与神经网络、小波分解的建模做了比较，说明了小波网络在非线性系统黑箱建模中的优越性。小波神经网络用于机器人的控制，表明其具有更快的收敛速度和更好的非线性逼近能力。

四、结论

经过半个多世纪的发展，神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功，但其理论分析方法和设计方法还有待于进一步发展。相信随着神经网络的进一步发展，其将在工程应用中发挥越来越大的作用。

参考文献：

[1]张曾科.模糊数学在自动化技术中的应用[M].清华大学出版社，1997.

[2]李士勇.模糊控制・神经控制和智能控制论[M].哈尔滨工业大学出版，1996.250-387.

[3]谢联峻.模糊控制在列车自动驾驶中的应用[J].自动化与仪器仪表，1999，(4).

[4]Collier W C，Weiland，R J Smart Carts，Smart Highways[J].IEEE Spec-trum，1994，31(4)：27-33.

[5]Hatwal H，Mikulcik E C.some Inverse Solutions to an Automobile Path Tracking Problem with Input Control of Steeringand Breaks，Ve-hicle system Dynamics，1986，(15)：61-71.

[6]Kosuge K，Fukuda T，Asada H.Acquisition if Human Skills for Robotic System[C].In：Proc IEEE Int Symp On Intelligen Control，1991.469-489.

[7]王小平，曹立明.遗传算法―理论、应用与软件实现.西安交通大学出版社，2002.

[8]Maniezzo V.Genetic evolution of the topologh and weight distribution

of neural network[J].IEEE Trans on Neural Network，1994，5(1)35-67.

[9]Harrald P G，Kamstra M.Evolving artificial neural networks to combine financial forecase[J].IEEE Trans on Evol Computer ，1997，1(1)：39-54.

[10]邓聚龙.灰色系统理论教程.华中理工大学出版社，1990.

[11]吕宏辉，钟珞，夏红霞.灰色系统与神经网络融合技术探索.微机发展，2000，23(4)：67-109.

篇6

关键词：主抽变频；烧结；仿真

1.引言

烧结生产过程是一个多变量、非线性、长延时的复杂系统。烧结过程建模是烧结过程控制的基础，是烧结智能化程序设定及优化的依据。

目前，智能建模方法已经成为解决复杂工业建模难题的重要途径，其中神经网络模型具有非线性拟合能力强，精度高的特c，适应于烧结过程建模。利用神经网络建模的方法有、BP 神经网络[1]、小波神经网络[2]、模糊小脑模型神经网络[3]、多网络模型[4]以及结合机理模型的BP 神经网络[5]等。通过这些智能化建模方法建立的烧结过程模型精度较高，可以反映实际烧结过程。

基于烧结过程的特殊性，笔者针对钢铁厂烧结过程智能控制要求，提出了一种烧结过程建模方法。首先，通过分析气体在主抽大烟道的运行过程，通过伯努利方程建立大烟道负压、风量及主抽风机功率关系数学模型；其次，进一步建立烧结过程中关于物料料层厚度、大烟道负压、风量与垂直烧结速度预测神经网络模型。最后，结合机理分析及BP神经网络模型，对烧结过程进行仿真分析，仿真结果表明，结合烧结机理建立的烧结主抽负压模型精度能满足现代智能控制的应用要求。

2.烧结系统建模分析

2.1大烟道管道系统机理建模

主抽风机以负压的形式抽风，空气在大烟道内的流动过程可以用伯努利方程表示，有：

（1）

空气在管道运行过程中，根据伯努利方程（基于机械能守恒规律），这里考虑一部分能量内能损耗及其漏风带走的动能及风机自己损耗，可得到管道风量与风机功率之间的线性表达式：

（2）

其中：W为风机功率，Q管道为大烟道风量。

也可以表示为： （3）

其中：W为风机功率，P管道为大烟道负压。

其中：a0、a1、a2、a3为与管道及运行状态相关系数。

2.2烧结台车焙烧过程BP神经网络建模

为减小BP神经网络训练的复杂性，采用3层的网络结构，建立烧结过程终点位置预测模型，网络结构如图所示：

图1.BP神经网络结构图

其中，x1，x2，…，xn表示BP神经网络的输入变量，y表示BP神经网络的输出变量，h1，h2，…，hn表示网络隐含层变量，bk为隐含层第k个节点的阈值，θ为输出层节点的阈值， 为输入层第j个变量到隐含层第k个节点的权值， 为隐含层第k个变量到输出层节点的权值。

通过生产指标与过程参数的灰色关联度分析，确定烧结物料焙烧BP神经网络预测模型的输入变量x1为烧结料层厚度、x2为烧结机台车速度、x3为物料透气性指数、x4大烟道负压、x5为大烟道风量、x6为物料透气性指数；采用上图所示的网络结构，模型输出变量y1为烧结终点位置、y2为烧结物料温度最高点温度。

模型烧结终点位置BP神经网络预测模型可以描述为：

（4）

模型烧结物料温度最高点温度预测模型可以描述为：

（5）

2.3基于密度聚类的小生镜差分进化算法

差分进化算法的基本思想是：对当前种群进行变异和交叉操作，产生一个新种群；然后利用基于贪婪思想的选择操作对这两个种群进行一对一的选择，从而产生最终的新一代种群。具体而言，首先通过下式对第t次迭代种群中的每个个体 ，具体而言，i=1，2，…，Np实施变异操作（Np为种群规模），得到与其对应的变异个体 ，即

（6）

3.模型系统仿真

3.1仿真模型的建立

系统仿真在MATLAB/SIMULINK环境下进行，根据模型关系，在SIMULINK环境下搭建仿真模块

3.2模型仿真分析

在该仿真模型，输入为主抽负压、风量，输出为各风箱下料层厚度及各风箱所需风量。

通过建立的仿真模型，设定仿真时间可以得到烧结料烧结过程曲线，主要反映为烧结矿层厚度的变化，曲线如下：

图2.模型烧结矿料层厚度仿真曲线

4.结论

通过仿真，我们可以看到此模型既能反映垂直烧结过程，也能得到烧结矿在台车上的静态特性，此模型能很好的描述烧结动态过程，通过该模型能反应烧结过程实时风量、系统阻力系数与负压等之间的关系，根据模型可判断主抽的风量和负压需求，从而调节风机的速度和风门开度。

参考文献

[1] 张群，吴信慈，冯安祖，等.宝钢焦炭质量预测模型I一焦炭质量预测模型的建立和应用〔J].燃料化学学报，2002，30（4）：300-305.

[2] 胡德生，吴信慈，戴朝发.宝钢焦炭强度预测和配煤煤质控制[J].宝钢技术，2000，（3）：30-34.

[3] 张群，冯安祖，史美仁，等.宝钢控制焦炭热性质的研究川.钢铁，2002，37（7）：l-7.

篇7

【关键词】傅里叶变换;BP神经网络;自适应滤波

引言

BP神经网络具有很强的非线性函数逼近、自适应学习和并行信息处理能力，为解决未知不确定非线性信息处理和自适应滤波提供了一条新途径[1]。但随着BP神经网络输入向量维数增加，其隐含层层数和学习次数也会相应增加，降低了网络的自适应性且延长了学习时间。傅里叶变换是数字信号处理领域一种很重要的算法，其思想是将原始信号从时域变换到频域，通过对频谱图的分析，去除高频处的频率分量，再将频域变换回时域，达到信号去噪滤波的功能[2]。利用傅里叶变换与神经网络相结合的方法，对信息进行预处理，减少信息处理量，再利用神经网络强大的非线性函数逼近能力，从而实现信号的自适应滤波，减少网络的待处理信息，增强网络的自适应能力，其工作过程如图1所示。

图1

1.BP神经网络模型

1.1 神经元结构模型

人工神经网络是人脑的某种抽象、简化或模拟，它由大量的神经元广泛互联而成。网络的信息处理由神经元之间的相互作用来实现，网络的学习和识别取决于神经元间连接权系数的动态演化过程[3]，其模型可以用图2来表示。

输入向量与输出y之间的关系式;

其中权值向量，输入向量，阈值，活化函数。

图2

1.2 BP神经网络

BP神经网络（Back-Propagation Neural Network）是一种无反馈的前向网络，网络中的神经元分层排列，除了有输入层、输出层之外，还至少有一层隐含层，BP学习算法是调整权值使网络总误差最小。具有隐含层BP网络的结构如图3所示，图中设有M个输入节点，L个输出节点，隐含层含有n个神经元。其中为网络输入向量，为实际输出向量，为网络的目标输出，为网络的输出误差。BP网络学习流程：（1）网络初始化，确定输入向量与输出向量的维数、目标向量、学习次数以及允许的误差值。（2）输入学习规则，初始化权值W。（3）计算输出层的输出与目标向量的误差。（4）判断误差精度是否达到预定值，没有则调整权值W并改变学习规则。（5）误差精度达到预定值，学习结束。

图3

2.BP神经网络权值变换理论基础

BP网络的自适应过程，其实就是对输出层权系数和隐含层权系数的调整的过程。记为第i层网络节点输出，为第j层网络节点的输入，则：

（1）

（2）

（3）

（4）

记二次型误差函数：

（5）

3.数值仿真与分析

在MATLAB神经网络工具箱中提供了实现BP神经网络的创建，仿真环境以单输入单输出的非线性函数，分别作为输入函数和目标函数。本文同时采取傅里叶变换、BP神经网络以及基于傅里叶变换的BP神经网络分别进行仿真滤波[5][6]，表1给出了三种算法在MATLAB软件中的仿真主要步骤。

表1

三种算法在MATLAB中仿真处理方法

傅里叶变换 采样点N=256，t=0：1/256：255/256，X=fft（x），前24个点不变，高频部分置0，x=ifft（X）

BP神经网络 N=256，t=0：1/256：255/256，T1=y（t），P1=x（t）， net=newff（P1，T1，900），学习次数2000，误差精度0.01，[net，tr]=train（net，P1，T1）a1=sim（net，P1）;

基于傅里叶变换的BP神经网络 X=fft（x），Y=fft（x），前24个点不变，高频置0，T2=Y（1，1：24），P2=X（1，1：24）net=newff（P2，T2，200），学习次数1000误差精度0.01，[net，tr]=train（net，P2，T2）

a2=sim（net，P2）;x=ifft（a2）;

图4为y（t）与x（t）函数的波形图，图5是经傅里叶变换处理后的x（t）波形，图6是BP网络自适应滤波后的x（t）波形，图7是基于傅里叶变换的BP网络作用后的x（t）自适应滤波后的波形。通过比较图5、6、7可以明显看出傅里叶变换的滤波效果出现高频振荡，BP网络自适应滤波在形状上几乎与元波形一致，但是在某些点位置出现疵点，而基于傅里叶变换的BP神经网络自适应滤波后波形几乎和目标函数y（t）波形完全一致。

图4

图5

图6

图7

4.结束语

本文通过三种算法在MATLAB中的仿真分析，可以得出在输入向量维数比较大时，可以采用基于傅里叶变换的BP神经网络的方法对含噪信息进行处理，不仅可以降低隐含层的层数，增加自适应能力和减少学习时间，而且在波形拟合上可以达到更好的效果。

参考文献

[1]华，李雷，赵力.基于BP神经网络的自适应补偿控制方法[J].计算仿真，2012，29（7）：202-205.

[2]张德丰.MATLAB小波分析[M].北京：机械工业出版社，2009：39-48.

[3]杨芳，马建伟.基于神经网络自适应滤波的低频Prony分析[J].中国水能及电气化，2012，86（4）：32-37.

[4]李国勇，杨丽娟.神经模糊预测控制及其MATLAB实现[M].北京：电子工业出版社，2013：17-22.

篇8

关键词：Matlab;神经网络；工具箱;同步

中图分类号：TP318文献标识码：B文章编号：1004373X(2008)2015603

Matlab Neural Network Toolbox and Its Application in Synchrony

TIAN Yuan

(Department of Electronic and Information Engineering,Huazhong Normal University,Wuhan,430079,China)

Abstract：This work gives an introduction to the Matlab Neural Network Toolbox (NNT),including the structure of the Neural Network Toolbox(NNT),pattern classification and learning and generalization.During the introduction,some practical examples to show the function of the NNT are given.At last,the application of the neural network in the synchrony is expatiated,and the results show that the synchronous is precise by using the NNT.

Keywords：Matlab;neural network;toolbox;synchrony

1 引 言

神经网络工具箱扩充了Matlab的设计、应用、显示和仿真神经网络的工具。如今神经网络能够用来解决常规计算机和人难以解决的问题，神经网络已经在各个领域中应用，以实现各种复杂的功能。这些领域包括：模式识别、非线性系统鉴定和系统控制［1］。神经网络工具箱除了提供方便用户设计和管理网络的可视化接口（GUI）外，还提供了大量已经证实的网络设计的支持。标准、开放、可扩张的工具箱设计方便了用户自定义函数和网络的生成［2］。

像生物学神经系统一样，一个神经网络会学习，因此，也就可以被训练去解决问题，识别模式，划分数据和预测事态发展。神经网络的行为由它的各个计算参数的结合方式以及它们的权重来决定。一般的神经网络都是可调节的，或者说可训练的，这样一个特定的输入便可得到要求的输出。这里，网络根据输出和目标的比较而调整，直到网络输出和目标匹配［3］。神经网络工具GUI使神经网络变得简单，它使你能够导入大量复杂的数据，并能够很快地产生、初始化、训练、仿真和管理网络。简单的图像表示有助于明确和理解网络的结构［4］。因为神经网络需要复杂的矩阵计算，Matlab提供一个神经框架，帮助快速地使用神经网络和学习它们的行为和应用。

文献［5］讨论了用扩充的神经系统工具的方法在仿真环境里解决现存的问题。这种新方法简化了网络结构，并且也实现对其他软件工具的利用。目前还没有论文公开讨论NNT在同步机制中的应用，而这一部分的研究也是具有现实意义的。

2 Matlab神经网络工具箱

NNT使在Matlab中使用神经网络变得简单。其工具箱中包含了大量函数和网络结构框图(图1是一个简单的神经网络框图，图中独立的符号简化了对网络结构的理解)，因此，这里不需要介绍所有的将用到的函数、训练算法等。

2.1 NNT的结构

工具箱是基于网络对象的。网络对象包括关于神经网络的所有信息，例如：网络的层数和结构、层与层之间的连接等。Matlab提供了高等网络层的创建函数，比如：newlin (创建一个线性层)，newp(创建一个感知机)，newff(创建一个反向传播网络)等。举例说明，这里创建了1个感知机，2个输入向量p1=［0 1］,p2=［－2 2］，神经元数为1。

>>net = newp (［0 1;-2 2］,1);

首先，结构参数和子对象如下：

architecture:

numInputs:1

numLayers:1

biasConnect:［1］

inputConnect:［1］

layerConnect:［0］

outputConnect:［1］

targetConnect:［1］

numOutputs:1 (read-only)

numTargets:1 (read-only)

numInputDelays:0 (read-only)

numLayerDelays:0 (read-only)

subobject structures:

inputs:{1x1 cell} of inputs

layers:{1x1 cell} of layers

outputs:{1x1 cell} containing 1 output

targets:{1x1 cell} containing 1 target

biases:{1x1 cell} containing 1 bias

inputWeights:{1x1 cell} containing 1 input weight

layerWeights:{1x1 cell} containing no layer weights

子对象结构中包含了网络单个对象的信息。神经元的每一层有相同的传输函数net.transferFcn 和 网络输入函数InputFcn,对于创建感知机采用hardlim和 netsum函数。如果神经元要有不同的传输函数，则将设计不同的层以满足要求。参数net.InputWeights 和 net.layerWeights 描述了被应用的训练函数以及它们的参数。

接下来叙述训练函数、初始化函数和性能函数。

functions:

adaptFcn:′trains′

initFcn:′initlay′

performFcn:′mae′

trainFcn:′trainc′

trainFcn 和adaptFcn是2种不同的训练方式，分别指批处理方式和增加方式或称在线方式。通过设置trainFcn的参数,就可以告诉Matlab哪种运算法被使用；在运用循环顺序增加方式时，多用trainc函数。ANN工具箱包含大约20个训练函数。性能函数用来测定ANN完成规定任务时的性能。对于感知机，它的平均差错性能测定用函数mae；对于线性衰退系统，它的均方根差错性能测定用函数mae。initFcn函数用来初始化网络的权重和偏置。神经网络工具箱包含在nnet目录中，键入help nnet可得到帮助主题。如果要将这些函数替换为工具箱里的其他函数或者是自己编写的函数，只需把这些函数名配置新的参数即可，例如：

net.trainFcn = ′mytrainingfun′;

这些函数的参数被列表如下：

parameters:

adaptParam:.passes

initParam:(none)

performParam:(none)

trainParam:.epochs,.goal,.show,.time

通过改变参数，可以改变上面提到的函数的默认行为。最经常用到的函数的参数就是：trainParam，格式：net.trainParam.epochs，用来设置运算的时间点的最大数目；格式：net.trainParam.show，用来设置性能测定间隔的时间点的数目。可以通过输入帮助help获得更多信息。

网络的权重和偏置也被存储在下面的结构体里面：

weight and bias values:

IW:{1x1 cell} containing 1 input weight matrix

LW:{1x1 cell} containing no layer weight matrices

b:{1x1 cell} containing 1 bias vector

IW（i,j）部分是一个二维的元胞矩阵，存储输入j与网络层i的连接的权重。LW(i,j)部分，用来存储网络层j和网络层i间连接的权重。元胞数组b存储每一层的偏置向量。

2.2 模式分类

如果一个问题可以被分解为多个模式级别，则可以用神经网络来解决这一问题。在大多数情况下，利用神经网络解决问题是可能的。神经网络的函数用来接收输入模式，然后输出适合这一级别的模式。

这方面的例子由产生和训练一个感知机对属于3个不同等级的点进行正确的分级。神经网络的输入数据被定义如下：

>>P=X′

X矩阵的每一行代表一个采样点，采样点的等级用矩阵C的相应元素值来描述。因为想要对3个不同的等级进行区分，所以需要3个感知机，每一个等级有1个。相应的目标函数描述如下：

>>T=ind2vec(C)

产生有正确输入等级类型感知机层函数为：

>>net=newp(minmax(P),size(T,1))

2.3 训练与泛化

神经网络是模式分级的，但并不是所有的模式分级都指的是神经网络。下面将讲述神将神经网络与其他分级的一些区别。它们的主要区别在2个属性上：学习与泛化。

在使用电子存储器解决数字分级器时，管理存储器，特别是完成输入的合并方面，花费很大精力。要求能够通过给它较少数目的简单且具有正确响应的例子来解决问题，这就指的是学习或称为训练：系统学习识别默写特定的模式，然后给出正确的输出响应。

某种程度上，这一部分已经被如今的电子存储器实现了。首先初始化设置存储器的所有值为0，然后，调用范例对存储器的值进行训练，将结果存入存储器的相应位置。在相应的位置用1替换原来的0。1显示了相应的输入模式等级。训练阶段结束后，进入实际操作。如果这些模式与训练阶段的模式是一样的，则输出结果就是正确的。

理想的，器件应该给出正确的响应，即使有些例子没有明确的显示。这部分被称为泛化。系统能够推断出例子给的不同模式等级的属性。神经网络能够做这种事，如果他们被正确操作，他们将对那些在训练阶段学习的模式非常相似的模式做出响应。那么，对于数字分级器来说，这意味着神经网络被数据范例进行训练，它就能正确地区分相似的数据，而以前这些都是次要的。这里设：

>>net.trainFcn=′trainb′作为批处理训练方式

>>net.trainFcn=′trainc′作为在线训练方式。

训练参数一般都依赖于选择的训练函数。两个重要的参数：net.trainParam.epochs设置所有数据全部用于训练的最多次数，net.trainParam.show设置训练函数状态报告的时间。例如：

>> net.trainParam.epochs=1000

>> net.trainParam.show=100

初始化且仿真网络使用下面的语句：

>> net=init(net)

>>［net,tr］=train(net,P,T)

3 在同步中的应用

在加性高斯白噪声条件下，接收端对信号进行高速采样，根据香农定理，在一个模拟信号持续时间内至少要保证4个采样点，才能完整和准确地恢复信号的信息，由此决定了系统的采样要求。软件上主要由若干BP（Back-Propagation）前向神经网络完成，网络的个数与算法精度有关。

在搜索长度一定的条件下，根据整个搜索区间上采样点个数确定各个神经网络的输出节点数目。使用的网络个数由捕获精度来确定，即整个捕获区间上划分为N个搜索相位，则采样N个网络并行执行。每个网络都具有相同的一组输入信号,一个输出为0或者1。

为体现神经网络对信号进行捕获的思想，训练样本为不含噪声的高斯脉冲信号，搜索的相位区间为6个，识别的结果是6维向量，在出现信号相应得区间位置上对应的元素为1，其他元素为0，测试样本信噪比为30 dB。

图2是6个不含噪声的训练样本；图3和图4左边是信噪比为30 dB的分别出现在6个不同区间的测试样本，右边是网络输出的识别结果，在向量的对应元素上出现尖峰。仿真结果说明在30 dB信噪比的情况下，利用神经网络能够准确检测到信号的出现时刻。由于仿真使用的训练样本比较少，神经网络没有充分提取样本的统计特性，也没有足够的网络结构和训练过程对神经网络检测信号能力的影响和噪声对训练过程和测试过程及性能的影响。通过仿真看来，在特定情况下神经网络对信号具有一定的检测能力。

4 结 语

本文在介绍Matlab神经网络工具箱的基础上，结合简单例子进一步对神经网络工具箱中的一些函数及神经网络结构进行解释和说明。然后利用神经网络在同步中的应用进行了简单的说明，并通过仿真验证了神经网络在同步中的可行性。

参考文献

［1］Picton,Philip.Neural Networks.Basingstoke Palgrave,2000.

［2］Hagan,Martin T.Neural Network Design\.China Machine Press,2002.

［3］Zaknich,Anthony.Neural Networks for Intelligent Signal Processing\.River Edge,NJ:World Scientific,2003.

［4］Kandel,Schwarts E R.Principles of Neural Science［M］.Elsevier,1985.

篇9

关键词：电阻点焊；神经网络；消音锯片

0序言

电阻点焊过程是一个高度非线性，既有多变量静态叠加又有动态耦合，同时又具有大量随机不确定因素的复杂过程。这种复杂性使得传统方法确定最佳工艺参数存在操作复杂、精度低等缺陷。

本文通过深入研究提出了一种神经网络优化消音锯片电阻点焊工艺参数方法。以试验数据为样本，通过神经网络，建立焊接工艺参数与焊接性能之间的复杂模型，充分发挥神经网络的非线性映射能力。为准确预测点焊质量提高依据。在运用试验手段、神经网络高度非线性拟合能力结合的方式，能在很大程度上克服传统方法的缺陷，完成网络的训练、检验和最优评价，为电阻点焊过程的决策和控制提供可靠依据。

1原理

人工神经网络是用物理模型模拟生物神经网络的基本功能和结构，可以在未知被控对象和业务模型情况下达到学习的目的。建立神经网络是利用神经网络高度并行的信息处理能力，较强的非线性映射能力及自适应学习能力，同时为消除复杂系统的制约因素提供了手段。人工神经网络在足够多的样本数据的基础上，可以很好地比较任意复杂的非线性函数。另外，神经网络的并行结构可用硬件实现的方法进行开发。目前应用最成熟最广泛的一种神经网络是前馈多层神经网络（BP），通常称为BP神经网络。

神经网络方法的基本思想是：神经网络模型的网络输入与神经网络输出的数学关系用以表示系统的结构参数与系统动态参数之间的复杂的物理关系，即训练。我们发现利用经过训练的模型进行权值和阈值的再修改和优化（称之为学习）时，其计算速度要大大快于基于其他优化计算的速度。

BP神经网络一般由大量的非线性处理单元——神经元连接组成的。具有大规模并行处理信息能力和极强的的容错性。每个神经元有一个单一的输出，但可以把这个输出量与下一层的多个神经元相连，每个连接通路对应一个连接权系数。根据功能可以把神经网络分为输入层，隐含层（一或多层），输出层三个部分。设每层输入为ui(q)输出为vi(q)。同时，给定了P组输入和输出样本 ，dp（p=200）。

（6）

该网络实质上是对任意非线性映射关系的一种逼近，由于采用的是全局逼近的方法，因而BP网络具有较好的泛化的能力。

我们主要是利用神经网络的非线性自适应能力，将它用于消音锯片的电阻点焊过程。训练过程是：通过点焊实验获得目标函数与各影响因素间的离散关系，用神经网络的隐式来表达输入输出的函数关系，即将实验数据作为样本输入网络进行训练，建立输入输出之间的非线性映射关系，并将知识信息储存在连接权上，从而利用网络的记忆功能形成一个函数。不断地迭代可以达到sse（误差平方和）最小。

我们这次做的消音金刚石锯片电焊机，通过实验发现可以通过采用双隐层BP神经网络就可以很好的反应输入输出参数的非线性关系。输入神经元为3，分别对应3个电阻点焊工艺参数。输出神经元为1，对应焊接质量指标参数。设第1隐含层神经元取为s1，第2隐含层神经元取为s2。输入层和隐含层以及隐层之间的激活函数都选取Log-Sigmoid型函数，输出层的激活函数选取Pureline型函数。

2点焊样本的选取

影响点焊质量的参数有很多，我们选取点焊时的控制参数，即点焊时间，电极力和焊接电流，在固定式点焊机上进行实验。选用钢种为50Mn2V，Φ600m的消音型薄型圆锯片基体为进行实验。对需要优化的参数为点焊时间，电极力和焊接电流3个参数进行的训练。最后的结果为焊接质量，通常以锯片的抗拉剪载荷为指标。

建立BP神经网络时，选择样本非常重要。样本的选取关系到所建立的网络模型能否正确反映所选点焊参数和输出之间的关系。利用插值法，将输入变量在较理想的区间均匀分布取值，如果有m个输入量，每个输入量均匀取n个值（即每个输入量有m个水平数）， 则根据排列组合有nm个样本。对应于本例，有3个输入量，每个变量有5个水平数，这样训练样本的数目就为53=125个。

我们的实验，是以工人的经验为参考依据，发现点焊时间范围为2~8s，电极力范围为500~3000N，点焊电流范围为5~20kA时，焊接质量比较好。我们先取点焊电流，电极力为定量，在合理的范围内不断改变点焊时间，得到抗拉剪载荷。如此，可以得到不同点焊电流和电极力的抗拉剪载荷。根据点焊数据的情况，我们共选用200组数据。部分测试数据如表1：

神经网络建模的关键是训练，而训练时随着输入参数个数的增加样本的排列组合数也急剧增加，这就给神经网络建模带来了很大的工作量，甚至于无法达到训练目的。

3神经网络

我们用200组训练样本对进行神经网络训练，以err_goal=0.01为目标。调用Matlab神经网络工具箱中的函数编程计算，实现对网络的训练，训练完成后便得到一个网络模型。

程序如下：

x1=[2.1 2.5 3 3.5 4……]； %点焊时间输入，取200组

x2=[1.3 1.5 1.9 2.1 2.3……]；%电极力输入，取200组

x3=[9 10 11 12 13……];%点焊电流输入，取200组

y=[2756 3167 3895 3264 2877……]； %输出量，取200组

net=newff([1 10;0.5 3;5 20]，[10 10 1]，{'tansig''tansig''purelin'});

%初始化网络

net.trainParam.goal = 0.01;%设定目标值

net=train(net，[x1;x2;x3]，y);%训练网络

figure； %画出图像

选取不同的s1，s2，经过不断的神经网络训练，发现当s1=8，s2=6时，神经网络可以达到要求。工具箱示意图如下图1。

图 1工具箱示意图

工具箱示意图非常清晰地表示了本实验的神经网络的输入，输出以及训练的过程。

神经网络的训练结果，如图2所示:

图2神经网络的学习过程

图中可以看出双层网络训练的sse在训练100次时，已经接近0.0001，效果较理想。

为了验证经过训练的网络模型的泛化能力，在输入变量所允许的区域内又另选多个样本进行了计算。发现：利用BP神经网络模型计算的测试输出与期望输出值相符，误差小于2％。

在已经训练好的网络中找出最大值：

for i=2:10 %点焊时间选择

for j=0.5:0.1:3%电极力选择

fork=5:0.1:20%点焊电流选择

a=sim(net，[i，j，k])；%仿真

ifa>n %比较仿真结果与最大值，取最大值n=a；

i(1)=i；%最大值的时间

j(1)=j；%最大值的电极力

k(1)=k； %最大值的电流

end

end

end

end

将i（1），j（1），k（1）以及n输出，n为最大值。得到点焊时间为3.4s，电极力为12.7kN，点焊电流为11.8kA，此时的抗剪拉剪载荷为4381N，为训练结果的最大值。将点焊时间为3.4s，电极力为12.7kN，点焊电流为11.8kA在点焊机上进行实验，得到结果为4297N。并且通过与实际的结果相比较，发现误差也在2%以内。

4结论

1）本文采用了插值法作为选取BP神经网络训练样本的方法。并且在数据变化剧烈的地方多选取了75组数据，这样可以得到较高精度的网络模型，使点焊模型的可行性。

2）基于此方法建立了三个点焊参数的BP神经网络模型，而且所建的BP模型具有较高的精度，可以很好的描述了这三个点焊参数与点焊质量的映射关系。

3）由于神经网络模型将系统结构参数与传统动态特性参数之间的物理关系，反映为神经网络模型的网络输入与网络输出的数学关系，因此，在神经网络模型上进行结构修正与优化比在其他模型上更直接，简单与高效。

本文采用神经网络的方法优化复合消音锯片的点焊工艺参数，为分析点焊质量提供了很好的辅助手段。通过与以前工艺相比较，提高了点焊质量。

参考文献

[1] 方平，熊丽云.点焊电流有效值神经网络实时计算方法研究.[J].机械工程学报，2004（11）.148-152.

篇10

关键词：BP神经网络；AdaBoost算法；软件老化测试

DOIDOI：10.11907/rjdk.161726

中图分类号：TP319

文献标识码：A文章编号：16727800（2016）010013603

0引言

软件老化是指软件系统在长时间运行中由于数据没有得到及时更新、文件锁未及时释放、内存发生泄漏、计算时四舍五入误差的积累、存储空间碎片等导致软件性能下降，有时甚至出现系统崩溃或者直接宕机的现象[1]。为了应对软件老化，Y.Huang等[1]提出了软件再生的思想，即在软件系统性能严重下降时，采取暂停正在运行的程序、清理系统内存、释放不必要的资源等措施恢复软件系统的性能，降低损失。

软件老化预测在软件再生中至关重要，软件系统老化点判断的准确性影响软件再生的最佳时机。很多学者以BP神经网络为基础，进行各种改进并且将其应用于软件老化的预测。文献[2]将蚁群算法和BP神经网络结合起来，采用蚁群算法初始化BP神经网络的初始权值，一定程度上克服了BP神经网络容易陷入局部最小值，收敛速度慢等缺陷，提高了训练速度；文献[3]将马尔可夫模型和BP神经网络结合起来，对BP神经网络的预测值进行分析处理，利用黄金分割法划分状态区间，使用马尔可夫转移矩阵预测数据值，和单纯使用BP神经网络相比，具有较高精度；文献[4]在BP神经网络中加入动量项和模拟退火算法，通过加入动量项改善了收敛速度慢的缺点，模拟退火算法解决了容易陷入局部最小值的问题。这些算法都是以BP神经网络为基础，针对BP算法收敛速度慢和容易陷入局部极小值进行了改进。

本文针对BP神经网络容易陷入局部极值和收敛速度慢的缺点，将AdaBoost算法和BP神经网络结合起来预测软件老化。通过实验仿真，结果表明基于AdaBoost算法的BP神经网络和单个BP神经网络相比具有更高的预测精度，验证该模型的有效性和可行性。

1实验环境搭建

在Linux系统上搭建Apache服务器，在Windows系统上搭建JMeter，模拟对服务器页面进行访问。

Apache是一个开源、免费、应用广泛的服务器软件。其配置灵活，本文实验中对两个参数进行重新配置：MaxClients和MaxRequestPerChild。MaxClients参数设置服务器能够同时连接的客户数。MaxRequestPerChild参数设置子进程可以处理的请求的数目，在子进程处理完最大数目请求时，父进程就会销毁子进程，重新产生一个新的子进程处理请求，这样在一定程度上避免了内存泄露，对于软件抗衰有一定作用。本实验中Apache服务器的版本是2.2.15。为了加速软件老化，所以取消服务器自身的抗衰策略。将MaxClients设置为最大值256，MaxRequestPerChild设置为0，子进程将永远不会被销毁，可以处理任意多个请求。

Jmeter是一个开源的测试工具，可以对http请求进行测试，接受服务器的名称和端口号、http请求的方式和url地址、发送速率等，返回平均响应时间、最大及最小响应时间、错误率、吞吐量等。本实验中Jmeter版本为2.1.3。

本实验采集数据有4个特征向量，分别是发送速率、吞吐量、每秒接收的数据量、平均响应时间。其中，平均响应时间的长短最能体现软件老化的特征，如果软件的平均响应时间是用户所不能接收的，就可以认为软件处于老化状态。根据2008年Aberdeen Group的研究报告，对于Web网站，1s的页面加载延迟相当于少了11%的PV（page view），相当于降低了16%的顾客满意度；如果从盈利角度计算，就意味着：如果一个网站每天挣10万元，那么一年下来，由于页面加载速度比竞争对手慢1s，可能导致总共损失25万元的销售额[5]。本实验以Apache服务器为研究对象，取消了Apache服务器本身固有的软件抗衰策略，测试其软件老化，客户机访问Apache服务器的一个静态网页，所以认为响应时间如果超过1s即为软件老化。

2BP神经网络

2.1基本概念

BP神经网络是一个多层前馈神经网络，训练方式是输入数据正向传播，经过隐含层到达输出层；计算实际输出数据和期望输出数据之间的误差，误差按逆向传播，经过隐含层到达输入层，并且将误差分配给所经过的所有神经元，以此作为依据修改各个神经元的权值，权值修改过程就是BP神经网络不断训练的过程，终止条件是误差达到可以接受的程度或者训练次数达到最大。

2.2BP神经网络设计

根据Kolmogorov定理，任意一个连续函数都可以用一个三层前馈神经网络来精确实现[6]。因此，模型采用三层网络结构。本实验根据发送速率、吞吐量、每秒接收的数据量预测软件平均响应时间。输入层采用3个神经元，输出层采用1个神经元，预计隐含层神经元个数为5～13，对于隐含层分别选取5～13个神经元进行网络训练，实验数据如图1所示。隐含层神经元个数为6，误差最小，网络性能最优。隐含层采用tansig函数，输出层采用purelin函数，训练函数采用trainlm函数，学习函数采用learngdm函数，性能函数采用mse函数。

2.3实验分析

本文实验通过对Apache服务器的监测采集训练数据和测试数据，借助Matlab神经网络工具箱，设计出本实验的BP神经网络，预测13组测试数据的输出。

从图2中可以看出，BP神经网络预测的数据能很好地拟合出实际输出数据，因此BP神经网络对于研究软件老化以及软件抗衰具有一定意义。

3基于AdaBoost算法的BP神经网络

3.1基本原理

AdaBoost算法是将训练集各个样本使用弱预测器进行多次迭代，对训练失败的样本在下一次迭代中给予较大关注，赋予其较大权重，每一次迭代运算使用弱预测器预测测试集输出，根据本次迭代运算中训练失败错误多少赋予该预测值相应的权重，错误少的给予更大权重，最后将各迭代运算中的预测值加权得到最终结果。

基于AdaBoost算法的BP神经网络模型将BP神经网络作为弱预测器，合并多个弱预测器作为强预测器，以产生更加有效的输出结果。该模型克服了BP神经网络容易陷入局部极值和收敛速度慢的缺陷，提高了预测精度。在AdaBoost算法迭代运算中给予训练失败的个体以较大权重，下一次迭代训练给予更多关注，这样避免了陷入局部极值的缺陷。给予训练失败的个体较大权重使得训练误差逐渐下降，每次迭代后训练的网络更加优秀，收敛速度更快。每一次迭代运算相对于上一次迭代运算训练误差减少，测试集的预测权值增大，最后按照权值大小合并每次迭代运算BP神经网络的输出，使得预测精度相比单个BP神经网络更高。基于AdaBoost算法的BP神经网络预测流程如图3所示。

3.2基本步骤

基于AdaBoost算法的BP神经网络预测步骤如下（见图4）：

（1）确定BP神经网络的基本结构。

（2）BP神经网络预测。

（3）多个BP神经网络预测结果进行合并。

3.3实验分析

实验依据AdaBoost算法建立BP神经网络模型预测软件的平均响应时间，把训练误差超过5的训练样本作为应该加强学习的样本，将10组弱预测器的预测结果组成强预测器的预测结果，测试13组数据，将10组弱预测误差的平均值作为弱预测误差，比较强、弱预测误差，结果如表1所示。

从表1可看出，强预测器的预测误差明显小于弱预测器，基于AdaBoost算法的BP神经网络模型具有良好的预测效果，预测的平均响应时间越接近实际平均响应时间，表明可以更加准确地判断软件老化。

4结语

针对BP神经网络存在的容易陷入局部最小值、收敛速度慢等缺点，本文提出了基于AdaBoost算法的BP神经网络模型，并将该模型应用到软件老化预测中。实验结果表明该模型具有较高的预测精度，对研究软件老化具有实用性和可行性。

参考文献参考文献：

[1]YENNUN HUANG，N DUDLEY FULTON，NICK KOLETTIS. Software rejuvenation：analysis， module and applications[C].1995：381390.

[2]陈小勇. 基于蚁群神经网络的软件老化趋势预测[D]. 哈尔滨：哈尔滨工程大学， 2011.

[3]林已杰，张为群，周敏，等. 一种基于MM&MBPNN的软件衰退预测方法研究[J]. 计算机科学， 2010， 37（4）： 163166.

[4]闫雪梅，王晓华，崔欣欣，等. 软件老化过程建模、预测及软件再生策略研究[J]. 北京理工大学学报， 2007， 27（7）： 625629.