神经网络的功能范文

时间:2024-04-01 11:31:12

导语:如何才能写好一篇神经网络的功能,这就需要搜集整理更多的资料和文献,欢迎阅读由公务员之家整理的十篇范文,供你借鉴。

神经网络的功能

篇1

【关键词】 卒中康复,功能磁共振, 运动系统,神经重塑

the plasticity of motor neural net after stroke:a cross-sectional functional mri study

liu sheng-hua,chu cheng-feng,yang ming,et al. department of radiology,zhongda hospital,southeast university,nanjing 210009,china

[abstract] objective to study the similarities and differences of hand motor area in the patient with cerebral infaction during passive wrist movement with functional magnetic resonance imaging. methods twenty stroke patients were scanned while they were performing the passive movement tasks with their right and left wrist and spm2 was adopted to process the fmri data and to localize the functional areas. results the area activated in different degree of recorvey were different:for the subject with better recovery, contralateral sensorimotor cortex, ipsilateral cerebellum and bilateral sma were activated; the patients with relatively bad recovery have significantly activation in some distant area. conclusion contralateral sensorimotor cortex and bilateral supplementary area play an important role in the recovery of motor function.

[key words] stroke recovery; functional mri; motor system; neuronal plasticity.

脑卒中后40%的病人通过治疗可康复,说明功能康复的潜力较大。wWW.133229.coM但目前对康复的机制和康复的决定因素目前还不十分了解, 脑卒中后脑功能恢复与重建过程的生物学机制尚未完全阐明,脑组织究竟如何恢复,一直是人们非常感兴趣的问题。功能磁共振成像具有无创性、可操作性及可重复性[1-4],可以在活体进行,在当前的脑卒中后的运动功能恢复研究中有重要价值。本组实验在笔者以往正常老年人腕关节被动运动研究的基础上[5],进一步分析卒中患者运动功能恢复的可能机制。为康复的机制提供理论依据。

资料与方法

1.病例选择 卒中患者20例,年龄40~81岁,平均年龄62.6±9.3岁,初发缺血性单侧梗死患者12例(dwi证实),累及右侧患者9例,左侧11例。病例入选标准:①首次缺血性脑梗死所致偏瘫,不同程度运动性偏瘫为主,无肌张力增高,认知能力较好,能够配合实验;②无药物成瘾及酗酒史,既往无神经系统及精神疾病病史;③经中国人利手判定标准调查,均为右利手;④于发病后2个月入组行脑功能实验;⑤无mri检查禁忌症。实验设计方案经东南大学附属中大医院伦理委员会论证并同意。所有被试均知情同意,并签署知情同意书。

2.检查方法 采用philips公司1.5t超导型eclipse磁共振成像系统。扫描中先使用自旋回波脉冲序列获取18层横轴面t1w1解剖图像。接着采用bold技术, 应用单次激发成像梯度回波序列,在t1wi同样的层面上进行功能成像。然后对每个受试者作全脑容积扫描以获得全脑3d图像,容积扫描3。

3.任务设置 本实验采用组块设计。运动任务设置为腕关节的被动背伸运动。腕关节放置于自制腕关节背伸托板上,其最大抬高角度为45°,由固定的辅助实验人员利用该托板被动抬高腕关节。运动频率为1hz,由e-prime编成声音频率为1hz的文件,由磁共振机epi序列脉冲控制计算机自动同步播放。辅助实验人员通过特殊脑功能刺激装置(深圳市美德医疗电子技术有限公司)的耳机接听声音指令对受试者进行腕的被动运动及休息。被动运动18s,休息15s,共重复5次,以休息状态开始,休息状态结束,时间共180s。所有受试者先进行左腕、后进行右腕的被动运动时的epi扫描。

4.神经运动功能量表评定 本实验对缺血性卒中后患者进行 运动量表的测量,判断卒中后运动功能的恢复程度。运用的量表为:美国国立卫生研究院卒中量表(nihss),改良barthl(modified barthel index,mbi)指数,fugl-meyer(fugl meyer assessment, fma)中的上肢评价法,量表的评定由康复科固定高年资主治以上医师评定。

5.统计学处理 采用matlab平台的spm2软件系统对fmri实验数据作统计分析。计算smc(sensorimotor cortex,感觉运动皮质)、pmc(premotor cortex,运动前区)、sma(supplementary motor area,辅助运动区)激活的差异及偏侧性指数(laterality index,li)。观察不同程度脑卒中患者smc、pmc、sma激活的差异及偏侧性指数的差异,评价功能重组在运动恢复中的作用,并与正常对照组进行对比。

结 果

1.根据患者nihss,mbi, fma等结果评价患者恢复程度并将患者分为3组:a组:恢复较差者(患肢腕关节已无功能)6例;b组:恢复中等者(患肢腕关节已远部分功能恢复)7例;c组:恢复较好者(患肢功能与正常者无区别)7例。

2.三组激活脑区分析比较结果

1.根据患者nihss,mbi, fma等结果评价患者恢复程度并将患者分为3组:a组:恢复较差者(患肢腕关节已无功能)6例;b组:恢复中等者(患肢腕关节已远部分功能恢复)7例;c组:恢复较好者(患肢功能与正常者无区别)7例。

2.三组激活脑区分析比较结果

图1 三组患者腕关节被动运动激活脑区

a组15号患者:患侧肢体肘关节以远大部分功能丧失,恢复不好,患侧激活图可见两侧额叶、基底节区、岛盖区明显激活,两侧smc、sma、ppc、pmc、小脑均有激活,但面积较小,表现为整脑大范围激活;健侧激活图表现为对侧smc、sma、同侧小脑激活,ppc及pmc斑点状激活,接近正常组激活模式。

b组2号患者,患侧肢体腕关节及手指部分功能丧失,患侧激活图可见两侧基底节区、岛叶激活,双侧smc、cer激活,对侧pmc激活,除去基底节区、岛叶激活,余脑区激活模式已接近对照组激活模式;健侧激活图表现为双侧smc、cer、对侧sma、对侧pmc斑点状激活,接近正常组激活模式。

c组16号患者,患侧功能完全恢复,患侧激活图可见两侧smc、cer激活,对侧sma、pmc激活,余脑区激活模式已接近对照组激活模式;健侧激活图表现为双侧smc、sma、cer,对侧pmc、ppc斑点状激活,接近正常组激活模式。

2.1三组患者腕关节被动运动激活脑区部位不同(图1):①a组患侧被动运动时,主要运动功能区(smc-il、双侧sma、pmc-cl、ppc-cl)激活较少,前额叶、岛叶、基底节区及扣带皮层双侧大面积激活较显著;②c组患侧被动运动时,主要运动功能区激活较明显,前额叶、岛叶、基底节区及扣带皮层等脑区未见明显激活,与健侧激活模式较接近;③b组患侧被动运动时,脑区激活模式居于较差及较好两者之间。

2.2三组患者腕关节被动运动激活脑区面积不同:①患肢运动:三组间,(见表1)双侧smc、sma及同侧小脑半球的激活面积差异是有统计学意义的, c组激活面积较大,a组激活面积较小,其他脑区与运动恢复无明显关联。②患侧腕关节被动运动时的smc激活区,a组与c组偏侧性指数有差异,a组与b组比较无明显差异,即a、b组在对侧smc激活面积增多的同时,同侧(健侧)smc激活增加的更为明显(见表2)。

2.3①三组健侧腕关节被动运动激活脑区部位较接近(见表3),均表现为smc、sma、pmc-cl、ppc-cl的规律激活,前额叶、岛叶、基底节区及扣带皮层未见明显激活;三组健肢被动运动脑区激活面积无明显差异,均接近正常组患者激活模式。②恢复较好的患肢与健侧诸脑区激活中(见表4),健侧对侧smc激活体积较患肢多,差异有统计学意义。表1 患肢运动双侧smc、sma、cer激活面积及f、p值(p<0.05作为检验水准)表2 感兴趣区smc的偏侧性指数(li)(p<0.05作为检验水准) 表3 健肢运动双侧smc、sma、cer激活面积及f、p值(p<0.05作为检验水准)表4 恢复较好者患肢与所有3组健肢脑区对比(p<0.05作为检验水准)

讨 论

运动功能重组的fmri研究大多采用横向[2]及纵向模式[3]。横向(cross-sectional)研究是指在卒中后某个时期进行的脑成像研究。研究脑卒中后受损运动功能重建的方法之一就是观察卒中病人康复后与正常人的区别及患肢与健肢的区别。大多数的研究对象是脑卒后功能恢复良好的病人,而对功能恢复不好的病人报道较少,这是因为研究时的任务多选择为主动运动,本实验克服了以上的局限性,采用了被动腕关节的运动任务研究卒中后脑功能的改变。

脑损伤后功能重组的机制包括系统内和系统间的功能重组。系统内的重组是在同一系统内,相同或不同水平上出现代偿。系统间重组是指由另一个在功能上完全不同的系统来代偿。我们发现脑卒中c组(恢复较好者)患侧腕关节被动运动激活的主要脑区,即激活面积较大的脑区依次位于对侧smc、同侧小脑和双侧sma,与前期实验正常组平均脑激活方式较一致,而恢复不好的患者则激活更多其它的脑区,如岛叶、基底节区、额叶、扣带皮质,这些区域多呈双侧大面积激活。这与weiller[5]、ward等[6]诸多国外研究者研究结果较一致。对于对侧小脑、pmc、ppc等非主要运动脑区恢复较好者与中等者、较差者无明显差异。近年来越来越多的研究进一步证实了脑梗死后不同时期均可以观察到这种患肢运动所引起的广泛脑区激活[3]。本实验中岛叶、基底节区、额叶、扣带皮质远隔部位的激活可能就属于系统间重组的模式。未完全恢复患者中以岛叶、基底节区、额叶、扣带皮质远隔部位的激活较明显,即以系统间重组为主;而恢复较好者未见此种脑功能重组模式的出现,而仅仅表现为脑区面积的明显增大,向正常组激活模式靠近,及系统内重组为主。因此,考虑可能是系统内重组对患肢运动功能的有效程度更高一些,或者是系统内重组达不到完全康复的水平时,进而才依赖系统间重组来弥补部分功能。

对于恢复程度不同的患者激活脑区的不同面积中,双侧smc、sma及同侧小脑半球的差异是有统计学意义的,恢复较好者激活面积较大,恢复差者激活面积较小,其他脑区与运动恢复无明显关联。这说明双侧smc、sma及同侧小脑半球的激活对于患肢功能的恢复有极其重要的意义。这种对侧smc损伤灶周边区域激活及同侧smc的激活对功能恢复的重要作用也见于多位学者的报道[6,7]。

患侧腕关节被动运动时,a组与c组偏侧性指数有差异,a组与b组比较无明显差异,即a组在对侧smc激活面积增多的同时,同侧(健侧)smc激活增加的更为明显。健侧半球smc的激活参与了很重要的功能重组。国外学者song等[8]也发现了健侧半球对运动功能恢复起到一定作用。动物实验发现,康复训练可以提高实验性脑梗死后老鼠的运动功能,并导致健侧半球运动皮层树状突的生长[9]。

脑卒中组恢复较好者患肢与健侧运动功能无明显差别,激活模式较相似,但对侧smc的激活存在差异,考虑患侧大脑smc激活模式与健侧脑smc皮质还是存在一定的差异性,这种差异在患肢运动时通过健侧脑功能可以充分重组补偿,故运动功能还可以保持正常水平。而健肢被动运动激活脑区较一致,且脑区激活面积无明显差异,均接近正常组患者激活模式。

可见主要运动功能区及辅助运动功能区对运动功能恢复起至关重要的作用,当主要运动功能区及辅助运动功能区受损激活减低时,远隔部位亦参与代偿激活,但其代偿功能在运动恢复中作用较有限;健侧大脑半球的代偿作用对患肢运动功能的恢复影响较大,而健肢运动时,患侧大脑对其影响较小。

综上所述,卒中后患者联合正常组老年人的fmri研究能够较为明确地得出不同恢复程度患者脑区激活的差异性,为临床康复治疗提供理论依据。

【参考文献】

1. hlustik p, solodkin a, noll dc, et al. cortical plasticity during three-week motor skill learning[j] . j clin neurophysiol,2004,21(3):180-191.

2. cramer sc,shah r,juranek j,et al. activity in the peri-infarct rim in relation to recovery from stroke[j].stroke,2006,37(1):111-115.

3. binkofski f, seitz rj.modulation of the bold-response in early recovery from sensorimotor stroke[j] .neurology. 2004 ,63(7):1223-1229.

4. 尹昳丽 杨小庆 刘斌。正常老年人与轻度认知功能障碍患者计算任务的功能磁共振研究[j].中国CT和MRI杂志,2008, 6 (4): 7-10。

5. 刘圣华,储成凤,杨明。fmri观察正常老年人腕关节被动运动下脑激活区[j]。中国医学影像技术,2008,24(11):8-11。

篇2

【关键词】自组织神经网络;智能建筑管理;BP神经网络

1 基于自组织神经网络技术原理

基于大规模自组织神经网络技术[1]是在自组织神经网络技术和专家系统的基础原理运用多层数据融合弥补了单循环数据在智能建筑工程管理分析数据处理的不足和逻辑的缺陷学科.多跳自组织神经网络是智能传感器采集数据训练样本仿真学习模型即自动增速各个自组织神经元连接权阀值与感知识别隐式分布在整个网络结构体系中实现自组织神经网络模式记忆与信息处理应用.

2 基于大规模自组织神经网络在智能建筑管理中研究

2.1 基于多跳自组织神经网络在造价预测研究

基于大规模自组织BP神经模型应用40个高层智能建筑工程样本训练并用工程实例进行验证高精确性;而用大规模自组织神经网络模拟与输入层和隐含层加入了偏置自组织神经元来促进学习训练样本数据中有噪声、干扰等会造成过度学习现象,同时采用遗传优化算法进行建筑结构优化.基于BP神经在智能建筑工程估价中的应用“特征提取器”的运算大量过去的工程资料中自动提取工程特征与预算资料的规律关系数据.

2.2 基于大规模自组织神经网络在工程管理绩效评价中的应用

运用大规模自组织BP神经模型对工程管理绩效评价问题进行研究建立综合考虑工期、质量、费用、安全四大控制指标的工程管理绩效评价模型[2].实践证明,基于BP神经网络在运算工程管理绩效评估模型有利于多跳自组织神经网络预测工程工期、质量、成本、安全与绩效之间复杂的非线性关系来提高管理绩效的评价数据.

2.3 基于遗传算法模型在建设工程评标结构优化应用

基于多层神经网络的工作原理是先将输入信号传输到下一层节点运算函数处理后再将该节点的输出信息向下一层节点传输到信号传输到输出层节点为止.同时运用遗传算法模型构造及算法设计进行方案优劣排序、换位矩阵以及能量函数构造、大规模自组织神经元之间连接和输出,并用实例说明了该方法的优越性和实用性与非线性.

2.4 基于BP神经网络模型在建设工程招投标管理应用研究

基于BP神经网络多层数据融合多跳自组织神经网络技术原理分析自动预测工程招投标的招标价格和风险因素分析以及竞标单位资格审查等方面的应用指出多跳自组织神经网络具有的高度并行处理和可完成复杂输入输出的非线性映射组合结构,不仅可以保证高的中标率,且可避免招标过程中不确定性因素的影响.运用大规模自组织神经网络的工程承包招投标报价的研究,提出了一个多因素确定高层智能建筑投标报价的大规模自组织模型影响报高率的诸多因素,并确定了其权值即确定了用BP神经网络实施黑箱操作的样本输入值和目标值再通过训练样本自主调整修正输入节点和输出节点间的联系得出符合各种情况要求的权值矩阵算法.

2.5 基于智能建筑算法模型研究

基于BP神经网络是以训练样本算法即误差反向传播算法即BP神经算法的学习过程分为信息的正向传播和误差的反向传播[1],其通过训练样本前一次迭代的权值和阈值来应用神经网络技术的第一层向后计算各层大规模自组织神经元的输出和最后层向前计算各层权值和阈值对总误差的梯度进而对前面各层的权值和阈值进行修改运算反复直到神经网络样本收敛 BP神经网络输入向量为

X=( )T;隐含层输出向量为Y=( )T;输出层的输出向量为O= )T;期望输出向量为 ;输入层到隐含层之间的权值矩阵 ,其中列向量 为隐含层第j个大规模自组织神经元对应的权向量;隐含层到输入层之间的权值矩阵 ,其中列向量 为输出层第k个大规模自组织神经元对应的权向量.各层信号之间的算法结构为:

以上式中的 均为S类型函数, 的导数方程为: (5)

神经网络输出与期望输出的均方误差为: (6)

则训练样本输出层和隐含层的权值调整量分别为:

式中: 为比例系数,在模型训练中代表学习速率.如果BP自组织神经网络有 个隐含层,各隐含层节点分别记为 ,各隐含层输出分别记为 ,则各层权值调整计算公式分别如下:

输出层

综合上述预测分析在BP神经学习算法运用各层权值调整公式均由学习速率、本层输出的误差信号和本层输入数字离散信号决定在训练样本学习的过程受决策环境复杂程度和训练样本的收敛性即需要增大样本量来提高网络技术所学知识的代表性应注意在收集某个问题领域的样本时,注意样本的全面性、代表性以及提高样本的精确性,增大抗干扰噪声,还可以采用其他方法收集多层训练样本数据.

3 结束语

自组织神经网络技术应用在智能建筑管理领域是在多层智能传感器等多种信息技术飞速发展的多学科交叉研究领域得到广泛应用.

参考文献:

[1]周小佳.电力系统可靠性神经网络模型及实现研究[D].博士学位论文,1997.

[2]胡保清等.神经网络在土木工程领域的应用[J].低温智能建筑,2004(2).

作者介绍:

篇3

神经网络据有学习能力和联想化的功能和混沌行为的特点,被广泛的应用于计算机网络通信中。本文详细论述神经网络的原理,在此基础上以车牌计算机识别定位系统为例,对神经网络相关分类方法、工作流程等进行了计算机通信的应用解析,综合分析其在通讯系统中的应用。

【关键词】神经网络技术 计算机通讯 运用

由于神网络的独特性能,神经网络技术不但大量应用于故障分析、模式识别、自动控制领域,还在计算机网络通讯领域也被广泛的使用。正是因为神经网络具有学习映射、联想花功能、混沌行为的特点,所以它可以在目前的宽带网技术问题上提供理论上的解决办法。当前,计算机技术的车牌识别定位系统所需要识别的图像大部分都是室外摄像头拍摄到的,若是遇到强降雨或者大雾等恶劣天气,车牌上面的数字就很难采集到,神经系统可以有效解决这一问题,虽然神经系统应用于识别车牌是没有必要的,但是本文将基于这个简单的系统来介绍神经网络技术。

1 车牌计算机识别定位技术

车牌识别技术是我国智能交通系统的一个关键的组成部分,被广泛的应用于数字图像技术、生物识别技术和人工智能技术领域。车牌识别系统被广泛的用于公安刑侦部门的车辆违规行驶检测、失窃车辆检测、车辆违章停车,交通管理部门的实时路况检测、高速公路收费,物业管理部门的小区停车收费系统、进出入安全系统等。实际应用中采用的较多的车牌识别系统方法有特征检验法、模板匹配法和神经网络法。其中,大多数基于神经网络的车牌识别定位系统都是首先要采集足够数量的车牌图像样本作为带检测的图像,利用BP神经网络对图像进行识别,检测达到预定的正确率后即可停止;然后对需要识别定位的车牌图像用图像二值化、直方图等方法进行预处理,降低外界光线对车牌图像的影响,之后利用滤波器消除图像的噪声干扰,最后将完成预处理的车牌图像传送到神经网络搜索系统来对车牌进行定位。

2 神经网络技术介绍

2.1 神经网络的分类方法

常见的神经网络的分类方法有遵循网络连接拓扑结构的分类方法和遵循网络内部数据流向的分类方法。按照网络拓扑结构可以将神经网络分为层次型结构和互联型结构,其中层次型结构式指网络中层与层之间有神经元相互连接但同一层次的神经元之间没有连接;而互联型结构网络中的每个神经元之间都可以相互连接,互联型结构还可以细分为稀疏互联型、局部互联型和全部互联型。按照内部数据流向可以分为前馈性神经网络和反馈型神经网络,前馈性神经网络结构与层次型网络结构相似,数据流的方向统一从网络输入层传递到网络隐藏层,最后传递到网络输出层,传递过程中网络没有反馈回路,应用比较广泛的是BP神经网络和径向基神经网络。反馈型神经网络结构域单层互联网结构相似,反馈型神经网络中的每一个节点都可以进行数据处理和向外界输出数据,其代表是Hopfield神经网络。并且一般前反馈型神经网络的识别能力和分类能力都优于反馈型神经网络。

2.2 前反馈型神经网络

前反馈型神经网络的基本数据信号包括函数信号和误差信号两种,其中函数信号是要由网络输入端传递进入经过网络隐藏层神经元的处理,逐步传递到网络的输出层形成正向传播的输出层函数信号。误差信号是在网络实际输出的误差高于设定的预计误差时产生的信号,它的传递方向与函数信号相反,从网络输出层传递到网络隐藏层到网络的输入层,通过修改权值使误差达到最初的要求。

前反馈型神经网络包括学习和识别两个过程,学习是把准备好的信息样本输入到前馈神经网络中,通过网络隐藏层和输出层的处理得到实际的输出数值,将输出数值与预定的期望数值进行比较,确定误差数值在允许的范围之内后输入下一个样本;若是超出允许范围,就要进行反向传播并修改权值,再继续下个学习过程,重复上述过程。识别过程是把待识别的信息样本传递输入到前反馈型神经网络之中得到识别结果,由于神经网络具有良好的记忆能力和联想能力,识别与之前的学习样本相似待识别的信息样本,得到正确识别的几率很高,又由于神经网络具有良好的纠错性和容错性,就算待识别的样本与之前学习的样本不同,甚至是有较大的噪声和干扰,按照整体的特征对样本进行记忆,依然能够有效地对样本进行正确识别。

3 车牌识别定位系统

本文中介绍的车牌定位识别系统中包括车牌定位模块、字符分隔模块和字符识别模块。车牌定位模块包括车牌图像的灰度化、图像平滑化、图像增强和车牌定位;字符分割模块包括车牌图像为之校正、提出车牌上下便可、车牌字符分隔、车牌字符归一化处理;字符识别模块则包括神经网络训练和识别。神经网络具有很强的自适应能力、学习能力强、联想容错功能强、抗噪声干扰能力强的优点,使其在各个领域都被广泛的研究和应用。目前,大多数车牌识别定位技术都是基于BP算法的前馈性神经网络,并且具有很好的效果,但是其中还是存在一些问题,车牌定位识别技术还可以进一步发展。由于BP算法是基于梯度不断下降的,很容易在学习的过程中陷入到局部寻优中,从而无法得到全局的最优解,除此之外,BP算法的网络初始值的是根据经验而设置的,若是初始值的选择不合理,就会出现算法收敛速度下降甚至是不收敛的现象。若是在其中引入遗传算法,就可以弥补其中的不足之处,可以取得更好的效果。

4 总结

科学技术的不断发展,使人们的生活越来越方便,神经网络技术在通信中的运用,可以帮助解决之前无法解决的一些技术难题,除了在车牌定位识别系统中的应用之外,还应用于ATM网络通讯系统、辅助测量识别系统等系统中,它在各个领域应用的同时也存在着一些问题,需要专业人士不断地改进,为人类的生活提供更加便利的条件。

参考文献

[1]孙蓓蓓.神经网络技术在计算机通信中的应用[J].煤炭技术,2014,33(01):202-204.

篇4

关键词:神经网络 BP网络

中图分类号:TP3 文献标识码:A 文章编号:1672-3791(2014)01(c)-0240-02

神经网络是一门发展十分迅速的交叉学科,它是由大量的处理单元组成非线性的大规模自适应动力系统。神经网络具有分布式存储、并行处理、高容错能力以及良好的自学习、自适应、联想等特点。该模型对于拟合现实复杂世界有着重要的实用价值。

1 神经网络简介

人工神经网络(Artificial Neural Network,ANN),亦称神经网络(Neural Network,NN),是一种应用类似于大脑神经突触连接结构进行信息处理的数学模型,它是在人类对自身大脑组织结合和思维机制的认识理解基础之上模拟出来的,它是根植于神经科学、数学、统计学、物理学、计算机科学以及工程科学的一门技术。心理学家Mcculloch,数学家Pitts在20世纪40年代第一次提出了神经网络模型,从此开创了神经科学理论的研究时代,此后半个世纪神经网络技术蓬勃发展。神经网络是一种计算模型,由大量的神经元个体节点和其间相互连接的加权值共同组成,每个节点都代表一种运算,称为激励函数(activation function)。每两个相互连接的节点间都代表一个通过该连接信号加权值,称值为权重(weight),神经网络就是通过这种方式来模拟人类的记忆,网络的输出则取决于网络的结构、网络的连接方式、权重和激励函数。而网络本身通常是对自然界或者人类社会某种算法或函数的逼近,也可能是一种逻辑策略的表达。神经网络的构筑理念是受到生物的神经网络运作启发而产生的。人工神经网络则是把对生物神经网络的认识与数学统计模型向结合,借助数学统计工具来实现。另一方面在人工智能学的人工感知领域,我们通过数学统计学的方法,使神经网络能够具备类似于人的决定能力和简单的判断能力,这种方法是对传统逻辑学演算的进一步延伸。

2 神经网络模型及训练

2.1 生物神经元模型

人脑是自然界所造就的高级动物,人的思维是由人脑来完成的,而思维则是人类智能的集中体现。人脑的皮层中包含100亿个神经元、60万亿个神经突触,以及他们的连接体。神经系统的基本结构和功能单位就是神经细胞,即神经元,它主要由细胞体、树突、轴突和突触组成。人类的神经元具备以下几个基本功能特性:时空整合功能;神经元的动态极化性;兴奋与抑制状态;结构的可塑性;脉冲与电位信号的转换;突触延期和不延期;学习、遗忘和疲劳;神经网络是由大量的神经元单元相互连接而构成的网络系统。

2.2 人工神经网络模型

人工神经网络,使通过模仿生物神经网络的行为特征,进行分布式并行信息处理的数学模型。这种网络依靠系统的复杂度,通过调整内部大量节点之间相互连接的关系,从而达到信息处理的目的。人工神经网络具有自学习和自适应的能力,可以通过预先提供的一批相互对应的输入输出数据,分析两者的内在关系和规律,最终通过这些规律形成一个复杂的非线性系统函数,这种学习分析过程被称作“训练”。神经元的每一个输入连接都有突触连接强度,用一个连接权值来表示,即将产生的信号通过连接强度放大,每一个输入量都对应有一个相关联的权重。处理单元将经过权重的输入量化,然后相加求得加权值之和,计算出输出量,这个输出量是权重和的函数,一般称此函数为传递函数。

2.3 神经网络的训练

当神经网络的结构确定以后,接下来的工作就是训练和学习。神经网络不是通过改变处理单元的本身来完成训练和学习过程的,而是依靠改变网络中各神经元节点的连接权重来完成的。因此若处理单元要学会正确的处理所给定的问题,唯一用以改变处理单元性能的元素就是连接权重。

2.4 神经网络的分类

神经网络按照不同的结构、功能,以及学习算法,对网络进行分类,可以分为:(1)感知器神经网络:最简单的神经网络类型,只有单层的神经网络结构,采用硬限值作为网络传递函数,主要适用于简单的线性二类划分问题,在此类问题中处理的效率较高。但不适合本论文的课题。(2)线性神经网络:单层结构的神经网络,采用线性函数作为网络的传递,主要也是用于解决线性逼近问题。

3 BP神经网络

目前应用最为广泛的网络,具有多层网络结构,可以由一个或者多个隐含层。BP网络采用Widrow―Hoff学习算法和非线性传递函数,典型的BP网络采用的是梯度下降算法,也就是Widrow―Hoff算法所规定的。BP,即Back Propagation,就是指为非线性多层网络训练中梯度计算是采用信号正向传播、误差反向传播的方式。通过采用非线性传递函数,BP网络能够以仁义的精度逼近任何非线性函数,由于采用隐含中间层的结构,BP网络能够提取出更高阶的统计性质,尤其是当输入规模庞大时,网络能够提取高阶统计性质的能力就显得非常重要了,结合本文的课题,将采用BP神经网络及其改进算法进行组合集成实验,用以解决财务预警的实际问题,在后面的章节会采用相关实验证明组合集成的BP神经网络的优势。

4 径向基神经网络

径向基神经网络又称为RBF网络,它与BP网络同为多层前向网络,也能够以任意的精度逼近任何非线性函数,只是它与BP网络采用的传递函数不同,BP通常采用的是Sigmoid函数或线性函数作为传递函数,而RBF网络则采用径向基函数作为传递函数。本文后面将采用径向基函网络与BP网络进行对比。

5 竞争神经网络

竞争神经网络的特点是它的各个神经元之间是相互竞争的关系,众多神经元之间相互竞争以决定胜出者,或胜神经元决定哪一种原模型最能代表输入模式。

6 反馈神经网络

BP神经网络(Fredric M.Ham Ivica Kostanic Principles of Neurocomputing for Science―Engineering 2007)BP神经网络具有sigmoid隐含层以及线性输出层,具有很强的映射能力,本节我们对BP网络神经元和网络结构进行介绍。神经网络方法的具体步骤是:向网络提供训练例子,即学习样本,包括输入和期望的输出。确定网络的实际输出和期望输出之间允许的误差。改变网络中所有连接权值,使网络产生的输出更接近于期望输出,直到满足确定的允许误差。下图给出了一个具有N个输入的基本的BP神经元模型结构。途中每一个输入都被赋予一定的权值,与偏差求和和后形成神经元传递函数的输入。

我们来看看三层BP神经网络模型的数学表达,首先我们来确定途中各个参数所代表的涵义:

(1)输入向量:X=(x1,x2,…,xi,…,xn)T;

(2)隐层输出向量:Y=(y1,y2,…,yj,…,ym)T;

(3)输出层输出向量:O=(O1,O2,…,Ok,…,Ol)T;

(4)期望输出向量:d=(d1,d2,…,dk,…,dl)T;

(5)输入层到隐层之间的权值矩阵:V=(V1,V2,…,Vj,…,Vm);

(6)隐层到输出层之间的权值矩阵:W=(W1,W2,…,Wk,…,Wl)。

BP神经网络就是通过构建上述变量来完成网络的描述。

我们从上至下,从输出层开始看BP网络的工作原理,对于输出层:

k=1,2,…,l (1)

k=1,2,…,l (2)

对于隐层:j=1,2,…,m (3)

j=1,2,…,m (4)

其中的是传递函数我们可以采用单极性Sigmoid函数: (5)

(1)网络误差与权值调整

输出误差E定义:

(6)

(7)

在这一步的基础上,进一步展开至输入层:

(8)

j=0,1,2,…,m;k=1,2,…,l (9)

i=0,1,2,…,n;j=1,2,…,m (10)

式中负号表示梯度下降,常数η∈(0,1)表示比例系数。在全部推导过程中,对输出层有j=0,1,2,…,m;k=1,2,…,l,对隐层有i=0,1,2,…,n;j=1,2,…,m

(2)BP算法推导

对于输出层,式(9)可写为:

(8)对隐层,式(9)可写为:(10),对于隐层,利用式(7):

可得: (11)

将以上结果代入式(8),并应用式(5):,得到:

(12)

(13)

至此两个误差信号的推导已完成。将式(12)代回到式(8),得到三层前馈网的BP学习算法权值调整计算公式为:

(14)

篇5

关键词: 神经网络;模拟电路;故障智能诊断

Applications of Neural network in analog circuit fault intelligent diagnosis

Huang Qian1 ,Lu Li2

Nanchang institute of technology JiangXi NanChang 330029

Abstract: The article mainly describe development course of neural network simulation circuit and the common method of fault diagnosis of simulation power based on neural network at this stage, the focus analysised BP neural network fault dictionary method and the SOM neural network fault dictionary method and respective of calculation method, and basic thought, and technology difficulties analysis, discussed application problem of neural network method in in analog circuit fault intelligent diagnosis, last talk about development trend of simulation circuit neural network diagnosis method.

Keyword: Neural network;Analog circuits;Intelligent fault diagnosis

引 言

随着神经网络等人工智能技术的发展, 模拟电路故障诊断的研究又开辟了一条新路, 基于神经网络的模拟电路故障诊断方法已经成为新的研究热点。20世纪80年代末期起有学者研究将人工神经网络应用到模拟电路的故障诊断中,现阶段已经提出多种基于神经网络的模拟电路故障诊断方法,有些方法如BP( Error Back Propagation Network)神经网络故障字典法已经能有效应用于滤波电路、模拟放大电路等非线性容差电路的故障诊断, 效果优于传统的故障字典法。

1神经网络故障字典法

神经网络故障字典法把模拟电路的故障诊断看成是一个分类问题, 利用神经网络的分类功能来诊断故障。在测前把神经网络训练成一部故障字典, 字典的信息蕴含在网络的连接权值中, 只要输入电路的测量特征, 就可以从其输出查出故障。

1.1 BP 神经网络故障字典法

BP 是一种多层网络误差反传学习算法。

1)初始化,随机给定各连接权[w],[v]及阀值θi,rt。

(2)由给定的输入输出模式对计算隐层、输出层各单元输出

式中:bj为隐层第j个神经元实际输出;ct为输出层第t个神经元的实际输出;wij为输入层至隐层的连接权;vjt为隐层至输出层的连接权。

式中:dtk为输出层的校正误差;ejk为隐层的校正误差。

(3)计算新的连接权及阀值,计算公式如下:

(4)选取下一个输入模式对返回第2步反复训练直到网络设输出误差达到要求结束训练。

应用BP 神经网络故障字典法进行模拟电路故障诊断步骤如下:

(1)确定待测电路的故障集和状态特征参量, 采用电路仿真或实验的方法获取电路每一故障状态下的状态特征数据, 经筛选和归一化处理后构造训练样本集。设计BP 神经网络并进行训练。

(2)用训练样本集中的样本训练好网络, 即完成学习的过程。一般采用3 层BP 神经网络, 输入层节点数与电路状态特征参量的维数相同, 输出层节点数可与电路待测故障类别数相同,也可小于待测故障类别数, 隐层节点数则需按经验公式试凑。实际诊断时给被测电路加相同的测试激励, 将测得的实际状态特征参量输入到训练好的BP 神经网络, 则其输出即可指示相应的故障状态。

1.2 SOM神经网络故障字典法

SOM (Self - organizing Feature Map)神经网络是芬兰教授Kohonen于1981 年提出的一种自组织特征映射神经网络。这种自组织特征映射神经网络通过对输入模式的反复学习,使连接权矢量空间分布密度与输入模式的概率分布趋于一致, 即连接权矢量的空间分布密度能反映输入模式的统计特性。

SOM二维网络拓扑结构图

SOM 网络能对输入模式自动分类,通过输入模式的自组织学习, 在竞争层将分类结果表示出来。应用SOM 神经网络建立模拟电路故障诊断字典的具体步骤如下:

(1)确定电路的故障集和激励信号。通过仿真获取电路在每一故障状态下的状态特征向量, 并进行预处理得到训练样本数据。

(2) 确定SOM 网络结构。 SOM 网络只有输入层和输出层两层, 没有隐层,输入层的形式与BP 网络相同, 其结点数应与电路状态特征向量的维数相同。输出层即竞争层的神经元一般采用二维平面阵结构排列, 也可采用一维线阵或三维栅格阵的结构排列。采用一维线阵时, 输出层结点数可与电路的故障类别数相同。

(3)经过SOM 训练形成具有容差的故障字典。SOM 网络的学习算法可采用标准的Kohonen 算法。可以看出, SOM 网络法与BP 网络法构建故障字典的方法步骤完全相似,SOM 网络法一般适用于交流电路, 以电路响应的频域参量为状态特征,它能更有效地克服容差因素对故障定位的影响,SOM 网络法实际诊断时容易出现模糊故障集, 诊断过程要比BP网络法复杂。

1.2神经网络故障字典法难点

同经典的故障字典法相比, 神经网络故障字典法突出的优点是测后诊断速度快,实时性强,其原因是该方法利用了神经网络高度并行的信息处理能力。经典的故障字典法需要进行繁琐的模糊集分割处理, 且一般只能诊断硬故障。而神经网络故障字典法由于神经网络的泛化能力,可以诊断容差模拟电路, 而且对软故障情况也有很好的应用前景。应用该方法难点包括以下几个方面:

(1)神经网络的结构和参数等只能依据经验反复调试, 难以确定所设计的神经网络是最优的。

(2)数据预处理技术和训练样本集的筛选至关重要,神经网络故障字典法的诊断效果主要依赖于此。如何根据实际电路对原始数据进行预处理以突出故障特征信息及如何优选训练样本。

2 神经网络优化诊断法

传统的优化诊断法依据被测电路的解析关系, 按照一定的判据(目标函数) , 估计出最有可能出现故障的元件。优化诊断法是一种测后模拟的逼近法, 可在较少的测量数据下诊断故障,避免元件的容差问题, 可以诊断软故障和多故障但传统优化诊断法存在一个复杂的重复过程, 需要多个优化过程和多次电路模拟, 测后计算量很大。

神经网络优化诊断法对传统方法进行改进, 利用Hopfield 神经网络的优化计算功能寻优, 克服了传统的优化诊断方法测后计算量大、实时性差的缺点。由于该方法最终是通过求解元件参数或参数增量来判定故障元件的。

神经网络优化诊断法的基本思想是将模拟电路的故障诊断方程转换为带约束条件的优化问题, 然后利用Hopfield 神经网络进行优化问题的求解。将优化问题映射到一种神经网络的特定组态上, 此组态相应于优化问题的可能解, 然后再构造一个适合于待优化问题的能量函数(对应于目标函数), 当Hopfield 神经网络从某一初始状态沿着能量函数减小的方向运动, 其稳定平衡解即对应于优化问题的解。对于线性电阻电路, 可以以元件参数增量和可测节点电压变化量建立故障诊断方程, 该诊断方程通常为一组欠定方程。

应用Hopfield 神经网络求解此类带约束条件的优化问题的步骤如下:

(1)分析问题: 分析网络输出与问题的解相对应。

(2)构造网络能量函数: 将实际待解决优化问题的目标函数表达成能量函数的相应形式, 能量函数最小值对应问题最佳解。

(3)设计网络结构: 将能量函数与目标函数相比较, 求出能量函数中的权值和偏流。

(4)运行网络求出稳定平衡态: 由网络结构建立网络的电子线路, 运行该电子线路直至稳定, 所得稳态解即为优化问题所希望的解。

3 其它神经网络故障诊断法

ART (Adaptive Resonance Theory)神经网络故障诊断法。ART 神经网络是一种基于自适应共振理论ART的学习算法, 包括ART1 型、ART2 型和ART3 型三种结构形式。文献三中的作者探讨了一种采用ART1 型神经网络进行模拟电路故障诊断的方法,将电路的各种故障分出层次,并按一定特征给故障类型进行编码形成故障数据样本,将故障数据样本输入ART1型神经网络进行训练, 训练完成后该ART 网络即可用于诊断。ART最大的特点是既能识别已有的故障模式, 又能较好地诊断新发故障。基于神经网络的网络撕裂法。网络撕裂法是一种大规模模拟电路分层诊断的方法, 将网络撕裂法与神经网络故障字典法相结合就形成基于神经网络的网络撕裂法。

ART的基本思路是, 当电路网络分解到一定程度后, 电路子网络继续分解往往越来越困难, 这时可以引入神经网络故障字典法, 分别为每一电路子网络构建一个神经网络, 则电路子网络级的诊断采用神经网络故障字典实现。

与传统的网络撕裂法相比, 该方法测后工作量小, 诊断过程更加简单,诊断速度加快。基于神经网络求解非线性方程的模拟电路故障诊断方法。

4 模拟电路神经网络诊断法发展趋势

近年来, 一个值得重视的现象是神经网络与专家系统、模糊控制、遗传算法和小波分析等技术相结合应用于模拟电路的故障诊断领域的研究。如神经网络与模糊逻辑理论相结合, 即所谓的“模糊神经网络”用于模拟电路的故障诊断, 其基本思想是在BP 神经网络的输入层与输出层中间增加1到2 层模糊层构造模糊神经网络,利用神经网络处理低层感知数据, 利用模糊逻辑描述高层的逻辑框架,其对模拟电路软故障的诊断效果优于单一的神经网络分类器。又如小波分析与神经网络结合应用于模拟电路的故障诊断。

小波与神经网络的结合有以下两个途径:

(1) 辅助式结合, 比较典型的是利用小波分析对信号进行预处理, 然后用神经网络学习与判别。

(2)嵌套式结合, 即把小波变换的运算融入到神经网络中去, 其基本思想是用小波元代替了神经元,即激活函数为已定位的小波函数基, 通过仿射变换建立小波变换与神经网络的联接,小波神经网络由于把神经网络的自学习特性和小波的局部特性结合起来,具有自适应分辨性和良好的容错性。

参考文献

[1] 王显强.谈谈神经网络在模拟电路故障诊断中的应用问题[J]

电路技术.2012(06)

[2] 刘华.基于神经网络的模拟电路故障诊断方法研究[J]微电子学报.2010(03)

[3]董伟.谈ART1 型神经网络进行模拟电路故障诊断方式分析. [J]电路科技. 2012(05)

[4]王承. 基于神经网络的模拟电路故障诊断方案探究.[J]电路科技. 2013(06)

[5]张宇. 基于神经网络的模拟电路故障诊断方案探究.[J]计算机测量与控制. 2012(07)

[6]王承. 基于神经网络的模拟电路故障诊断方案探究.[J]电路故障. 2013(02)

[7]刘盛灿. 神经网络的模拟电路故障的应用.[J]电路科技. 2013(06)

[8] 万磊.神经网络在模拟电路故障诊断中的应用若干问题探讨[J]

电路技术.2011(08)

[9] 郭明强.神经网络在模拟电路故障诊断中的发展历程分析[J]电路技术.2013(08)

篇6

关键词:ZISC78;径向基函数神经网络(RBFNN);实时;预报

1引言

神经网络是近年来得到广泛关注的一种非线性建模预报技术。它具有自组织、自学习、自适应和非线性处理、并行处理、信息分布存储、容错能力强等特性,对传统方法效果欠佳的预报领域有很强的吸引力。基于神经网络的非线性信息处理方法已应用于军事信息处理及现代武器装备系统的各个方面,并有可能成为未来集成智能化的军事电子信息处理系统的支撑技术。该技术在一些先进国家已部分形成了现实的战斗力。

船舶在波浪中航行,会受到风、浪和流的影响,因而将不可避免地发生摇荡运动。严重的摇荡会使船员工作效率下降、物品损坏、军舰的战斗力下降。如果能够预知未来一段时间船舶的运动情况,不仅有利于尽早采用先进控制算法控制舰载武器平台隔离船舶运动的影响,使其始终稳定瞄准目标,而且还可获得未来一个海浪周期内的船舶运动情况,以研究船载武器上层的控制策略,从而提高火力密度,因此,有必要研究在海浪中具有一定精度的海浪中船舶运动的短期预报。此外,如能有效准确地预报船舶的横摇运动,对于提高船舶的耐波性和适航性也有重要意义。

国内外学者也将神经网络用于船舶运动预报研究,但往往没有考虑实时性等实现问题,因而不能实用化。神经网络实现技术是神经网络研究的一个重要方面。神经网络实现可分为全硬件实现和软件实现两种。目前神经网络的实现还主要以软件模拟为主,由于现行的冯诺曼计算机体系结构不能实现并行计算,因而神经网络软件的实时应用还受到一定限制。

目前,一些著名集成电路制造公司如Intel、Mo-torola、松下、日立、富士通等均已推出自己的模拟或数字神经网络芯片,这些芯片无论在网络规模还是运行速度上都已接近实用化的程度,因而给神经网络应用的发展以极大的推动。由于舰载武器系统,需选用具有在片学习功能的神经网络芯片,即将网络训练所需的反馈电路及权值存储、计算和修正电路都集成在了一个芯片,因而可实现全硬件的、具有自学习能力的神经网络系统,也可以说,这是一种具有自适应能力的神经网络。

2ZISC78的功能及工作原理

ZISC78是由IBM公司和Sillicon联合研制的一种低成本、在线学习、33MHz主频、CMOS型100脚LQFP封装的VLSI芯片,图1所示是ZISC78的引脚排列图。ZISC78的特点如下:

内含78个神经元;

采用并行结构,运行速度与神经元数量无关;

支持RBF/KNN算法;

内部可分为若干独立子网络;

采用链连接,扩展不受限制;

具有64字节宽度向量;

L1或LSUP范数可用于距离计算;

具有同步/异步工作模式。

2.1ZISC78神经元结构

ZISC78采用的神经元结构如图2所示,该神经元有以下几种状态:

(1)休眠状态:神经网络初始化时,通常处于这种状态。

(2)准备学习状态:任何时侯,神经网络中的神经元都处于这种状态。

(3)委托状态:一个包含有原型和类型的神经元处于委托状态。

(4)激活状态:一个处于委托状态的神经元,通过评估,其输入矢量处于其影响域时,神经元就被激活而处于激活状态。

(5)退化状态:当一个神经元的原型处于其它神经元类型空间内,而大部分被其他神经元类型空间重叠时,这个神经元被宣布处于退化状态。

2.2ZISC78神经网络结构

从图3所示的ZISC78神经网络结构可以看出,所有神经元均通过“片内通信总线”进行通信,以实现网络内所有神经元的“真正”并行操作。“片内通信总线”允许若干个ZISC78芯片进行连接以扩大神经网络的规模,而这种操作不影响网络性能。

ZISC78片内有6bit地址总线和16bit数据总线,其中数据总线用于传输矢量数据、矢量类型、距离值和其它数据。

2.3ZISC78的寄存器组

ZISC78使用两种寄存器:全局寄存器和神经元寄存器。全局寄存器用于存储与所有神经元有关的信息,每片仅有一组全局寄存器。全局寄存器组中的信息可被传送到所有处于准备学习状态和委托状态的神经元。神经元寄存器用于存储所属神经元的信息,该信息在训练学习操作中写入,在识别操作中读出。

2.4ZISC78的操作

ZISC78的操作包括初始化、矢量数据传播、识别和分类等三部分。

初始化包括复位过程和清除过程。

矢量数据传播包括矢量数据输入过程和神经元距离计算过程。神经元距离就是输入矢量和神经元中存储的原型之间的范数。通常可选L1范数或Lsup范数:

其中,Xi为输入矢量数据,Xs为存贮的原型数据。

对于识别和分类,ZISC78提供有两种可选择的学习算法RBF和KNN。其中RBF是典型的径向基函数神经网络。在该RBF模式下,可输出识别、不确定或不认识的状态;KNN模式是RBF模式的限制形式,即在KNN模式下,新原型的影响域总被设为1,输出的是输入向量和存储原型之间的距离。需要指出的是,ZISC78具有自动增加或减小神经元个数以适应输入信号的分类和识别功能,神经元个数的最大值和最小值在全局寄存器组中设定。

2.5ZISC78的组网

一个ZISC78芯片内可以通过寄存器操作定义若干个独立的网络。若干个ZISC78芯片通过层叠可以组成一个更大的神经网络,组网芯片数量没有限制,小于10个ZISC78组网时,甚至连电源中继器件也不需要。所以,ZISC78具有最大的灵活性,能够满足不同的需要。

3仿真实例

为了验证ZISC78用于船舶运动实时预报的精度,本文对径向基函数神经网络预报进行了仿真,图4给出了基于径向基函数神经网络和船舶运动惯导实测信号预报的0.3秒(15步)误差曲线图。

通过以惯导实测数据ZHX_lg.dat为例预报0.3秒(15步)以后的船舶运动,作者运用相空间重构理论已经判断出本数据为非线性信号。

该仿真的最大预报误差方差为6.4666e-004,该数据可以满足战技指标。

篇7

关键词:自主导航;人工智能;模糊神经网络;避障;BP神经网络

中图分类号:TP79文献标识码:A文章编号:1005-3824(2014)03-0083-03

0引言

2013年12月14日21时11分,嫦娥三号探测器在月球表面预选着陆区域成功着陆,装着红外成像光谱仪、避障相机、机械臂和激光点阵器等设备的月球车“玉兔”驱动着6个轮子在月球表面留下了历史的痕迹。这标志着我国已成为世界上第3个实现地外天体软着陆的国家,也展现出了智能控制系统[1]在航天事业上的卓越应用。在如今的社会生活中,随处体现着智能技术的存在,人们已经离不开智能技术,智能机器人的发展也飞速前进,从儿童的玩具机器人到太空探索的机器人,可以预见智能机器人的应用将更加广泛。近年来,非线性动态系统的自适应控制在我国引起了广泛的研究,模糊神经网络控制是一个重要的自适应方法,因此得到了很多专家学者的青睐。

模糊逻辑控制在宏观上模仿人的思维,处理语言和思维中的模糊性概念,它是以模糊集合论、模糊语言变量和模糊逻辑推理为基础的一种计算机数字控制技术;神经网络是从微观上模仿人的智能行为,进行分布式并行信息处理算法的数学模型,它是根据人脑的生理结构和信息处理过程创造的[2]。模糊控制与神经网络各自都有一定的应用局限,因此,人们早在20世纪80―90年代就把它们相结合,组成更为完善的控制方法。模糊控制与神经网络的结合有多种方式,根据研究角度和应用领域的变化而不同。1模糊控制与神经网络的介绍

1.1模糊逻辑控制系统

模糊逻辑控制系统主要包含输入变量、模糊控制器、被控对象和偏差。模糊逻辑控制系统结构如图1所示。

知识库:是模糊控制器的核心。由数据库和规则库组成,数据库中存着有关模糊化、模糊推理、解模糊的一切知识,规则库是由若干模糊规则组成的。

模糊推理机:根据模糊逻辑法则把逻辑规则库中的模糊“if-then”转换成某种映射。

反模糊化:反模糊化的方法一般有最大隶属度平均法、最大中点法、面积等分法、重心法和加权平均法等。

模糊控制的优点:可以在预先不知道被控对象的精确数学模型;规则一般是由有经验的操作人员或者专家的经验总结出来并且以条件语句表示的,便于学习和理解;控制是由人的语言形式表示,有利于人机对话和系统知识的处理等。不足之处:精度不够高;自适应能力有限;模糊规则库非常庞大,难以进行更改优化[3]。

1.2人工神经网络

人工神经网络(ANN)是一种模拟人脑神经系统的结构和功能的运算模型,由大量的节点,即神经元及相互之间连接构成的,它是人工方式构造的一种网络系统。神经元结构模型如图3所示。

传递函数f又称转移函数或激活函数,是单调上升的有界函数,常用的转移函数有线性函数、斜坡函数、阶跃函数及单双极S型函数等。但是最常用的还是单极S型函数:

神经网络的结构形式也有几种,例如,全互连型结构、层次型结构和网孔型结构等[4]。前馈型网络是一类单方向层次型网络模块,其最基本的单层神经元网络如图4所示。

图4单层神经元网络3层BP神经网络是比较常用的结构,图5是它的基本结构。

图5BP神经网络的基本结构BP神经网络至少有3层,图5中,第Ⅰ层是输入层,第Ⅱ层为隐藏层,第Ⅲ层为输出层。由于3层的BP神经网络就具有了模糊系统中万能逼近的能力[5],为了不使系统变得更复杂,本文就只用了3层的BP神经网络,当然,也可以根据自身的实际应用情况增加隐层的层数,但并不是层数越多,精度就越高,相对的系统的反应时间就会增加,时延也会增长。

神经网络的优点:能够通过学习和训练获取用数据表达的知识,不仅可以记忆一直获得的信息,还具有较强的概括及联想记忆能力,它的应用已经延伸到各个领域,在各方面取得很好的进展等。不足之处:缺乏统一的方法处理非线性系统;网络的权值是随机选取的;学习的时间长;无法利用系统信息和专家经验等语言信息;难以理解建立的模型等[6]。

所以,综合以上模糊逻辑系统与神经网络各自的优缺点,就提出了一种它们的结合方法,即模糊神经网络控制方法。

2模糊神经网络的结合方式

模糊神经网络大致分为3种形式:逻辑模糊神经网络、算术模糊神经网络和混合模糊神经网络。

在这3种形式的系统中,模糊神经混合系统是根据模糊控制系统和神经网络各自不同的功能、用途集成在一个系统里面的[7]。在这类系统中,我们可以将神经网络用于输入信号处理,模糊逻辑系统用于行为决策[8](如图6),或者把模糊逻辑系统作为输入信号处理,神经网络系统作为输出行为决策,再或者是将神经网络去代替模糊控制器的一部分,还可以将基于神经元网络的模糊系统或者神经元网络用在模糊神经混合系统中。

在本文的应用中,使用的是轮式智能小车,它一共安装了3个超声波传感器、3个红外传感器和1个角度传感器,红外传感器除了应用在小车循迹外,还用来增加控制系统测量的精确性和弥补超声波测距的盲区。例如,在某一路或者几路超声波受到了外界的干扰时,红外线就可以测量出系统所需要的数量值。超声波与红外线用来测量小车到左、前、右障碍物的距离Ll,Lf,Lr;模糊神经系统中控制器的输入包括: Ll,Lf,Lr,小车与障碍物的夹角tg;输出为小车的转角sa和小车的加速度va。将Ll,Lf,Lr的模糊变量设为{near ,far},论域为(0―2 m);tg的模糊变量为{LB,LM,ZO,RM,RB}表示{左大,左小,零,右小,右大},论域为(-1800,1800);距离和夹角的隶属度函数如图7和图8所示。输出变量的隶属度函数在这里就不再赘述了。

在系统解模糊化时,是将一个模糊量转换成确定量,常用的解模糊化的方法有最大隶属度函数法、重心法、加权平均法。在本文中用的是重心法。

智能小车避障的控制系统如图9所示。

篇8

本文建立相应的BP神经网络模型,根据民生银行信贷信用评级指标体系,选取BP神经网络模型的训练样本和检验样本。将训练样本输入BP神经网络进行训练,BP神经网络模型完成训练后,用检验样本对本文建立的BP神经网络模型进行检验。完成训练的BP神经网络模型将根据企业的信用评级信息计算出企业信用得分的预测值,从而使商业银行规避信贷过程中的信用风险,起到风险预警功能。

关键词:

BP神经网络;信贷信用;风险预警

我国一直没有建立起符合市场规范的信用体系,信用风险是商业银行面临的最传统最基本的风险形式,也是最难于控制和管理的风险形式。本文建立相应的BP神经网络模型,根据民生银行信贷信用评级指标体系,选取20个企业的信用评级信息作为BP神经网络模型的训练样本,选取10个企业的信用评级信息作为BP神经网络模型的检验样本。将训练样本输入BP神经网络,让BP神经网络根据信贷企业信用得分的输出值与真实值之间的误差不断调节各个神经元之间的权值与阀值,当误差满足要求时,BP神经网络模型完成训练。BP神经网络模型完成训练后,对本文建立的BP神经网络模型进行检验[1]。完成训练的BP神经网络模型将根据企业的信用评级信息计算出企业信用得分的预测值,为商业银行信贷过程中的信用风险进行预测评价,从而使商业银行规避信贷过程中的信用风险,起到风险预警功能。

一、BP神经网络理论

BP神经网络理论是学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时,输入样本从输入层传人,经各隐层逐层处理后,传向输出层。若输出层的实际输出与期望的输出(教师信号)不符,则转入误差的反向传播阶段。误差反传是将输出误差以某种形式通过隐层向输入层逐层反传,并将误差分摊给各层的所有单元,从而获得各层单元的误差信号,此误差信号即作为修正各单元权值的依据。这种信号正向传播与误差反向传播的各层权值调整过程是周而复始地进行的[2]。权值不断调整的过程,也就是网络的学习训练过程。此过程一直进行到网络输出的误差减少到可接受的程度,或进行到预先设定的学习次数为止。

(一)BP网络模型

采用BP算法的多层感知器是至今为止应用最广泛的神经网络,在多层感知器的应用中,单隐层网络的应用最为普遍。一般习惯将单隐层感知器称为三层感知器,所谓三层包括了输入层、隐层和输出层。三层感知器中,输入向量为()T12,,...,,...,inX=xxxx;隐层输出向量为()T12,,...,,...,jmY=yyyy;输出层输出向量为()T12,,...,,...,klO=oooo;期望输出向量为()T12,,...,,...,kld=dddd。输入层到隐层之间的权值矩阵用V表示,()T12,,...,,...,jmV=VVVV,其中列向量jV为隐层第j个神经元对应的权向量;隐层到输出层之间的权值矩阵用W表示,()T12,,...,,...,kiW=WWWW,其中列向量kW为输出层第k个神经元对应的权向量[3]。下面分析各层信号之间的数学关系。对于输出层,有:(net)kko=fk=1,2,...,l(1)0netmkjkjjwy==∑k=1,2,...,l(2)对于隐层,有:(net)jjy=fj=1,2,...,m(3)0netnjijiivx==∑j=1,2,...,m(4)以上两式中,转移函数f(x)均为单极性Sigmoid函数:1()1xfxe−=+(5)f(x)具有连续、可导的特点,且有:f′(x)=f(x)[1−f(x)](6)根据应用需要,也可以采用双极性Sigmoid函数(或称双曲线正切函数):1()1xxefxe−−−=+(7)式(1)~式(7)共同构成了三层感知器的数学模型。

(二)网络训练与检验

网络设计完成后,要应用训练样本进行训练。训练时对所有样本正向运行一轮并反向修改权值一次称为一次训练。在训练过程中要反复使用样本集数据,但每一轮最好不要按固定的顺序取数据,通常训练一个网络需要很多次。网络的性能好坏主要看其是否具有很好的泛化能力,而对泛化能力的测试不能用训练集的数据进行,要用训练集以外的测试数据来进行检验[4]。一般的做法是,将收集到的可用样本随机地分为两部分,一部分作为训练样本,另一部分作为检验样本。

二、基于BP神经网络的民生银行信用风险评价研究

(一)建立保险公司投资风险评价指标体系

贷款信用评级财务指标包括贷款企业经营管理能力、贷款企业债务偿还能力和贷款企业持续发展能力。贷款企业经营管理能力包括五个指标,分别是资产报酬率、流动资产周转率、应收账款周转率、主营收入现金含量、成本费用利润率;贷款企业债务偿还能力包括五个指标,分别是流动比率、利息保障倍数、资产负债率、现金流与流动负债比、净资产与贷款余额比;贷款企业持续发展能力包括三个指标,分别是净资产增长率、主营利润增长率、工资福利增长率。贷款信用评级非财务指标包括五个指标,分别财务报表质量评价、企业员工能力、企业经营者履历、企业经营者信誉、行业现状及前景。

(二)BP神经网络模型训练

选取20个企业的信用评级信息作为BP神经网络模型的训练样本。根据民生银行信贷信用评级指标体系,训练样本的输入向量X由18个指标组成,分别是资产报酬率1x、流动资产周转率2x、应收账款周转率3x、主营收入现金含量4x、成本费用利润率5x、流动比率6x、利息保障倍数7x、资产负债率8x、现金流与流动负债比9x、净资产与贷款余额比10x、净资产增长率11x、主营利润增长率12x、工资福利增长率13x、财务报表质量评价14x、企业员工能力15x、企业经营者履历16x、企业经营者信誉17x、行业现状及前景18x。训练样本的输入向量T121718X=(x,x,,x,x)。训练样本的输出向量为Y,代表企业的信用得分。输入BP神经网络模型的训练样本如表1所示。建立的BP神经网络模型为三层网络,拓扑结构为18-5-1。将20个训练样本输入BP神经网络进行训练,让BP神经网络根据信贷企业信用得分的输出值与真实值之间的误差不断调节各个神经元之间的权值与阀值[5]。采用MATLAB7.0神经网络工具箱进行运算,当误差平方和小于10-5时,训练终止。训练样本中各个信贷企业的真实信用得分和BP神经网络模型输出值。

(三)BP神经网络模型检验

由表1可以看出BP神经网络模型输出值与信贷企业真实信用得分的误差很小,下面对本文设计的BP神经网络模型进行检验。BP神经网络模型采用10个企业的信用评级信息作为检验样本。对本文建立的BP神经网络模型进行检验,将10个企业的信用评级信息作为检验样本输入完成训练的BP神经网络模型,完成训练的BP神经网络模型将根据10个企业的信用评级信息计算出企业信用得分的预测值。检验样本中各个信贷企业的真实信用得分和BP神经网络模型预测值如表2所示。根据表2的数据,得到信贷企业的真实信用得分和BP神经网络模型预测值之间误差曲线。检验样本中信贷企业的真实信用得分和BP神经网络模型预测值的拟合度较高,部分样本真实值与预测值基本重合。检验样本中信贷企业的真实信用得分和BP神经网络模型预测值误差值整体较小,最大误差11.7%,最小误差0.27%。假设以绝对误差小于5%为容忍度,那么本文建立的BP神经网络模型的准确率为70%。假设以绝对误差小于10%为容忍度,那么本文建立的BP神经网络模型的准确率为90%。

三、结论

1、检验样本中信贷企业的真实信用得分和BP神经网络模型预测值的拟合度较高,样本21、26、28的真实值与预测值基本重合,样本24、25的真实值与预测值偏差较大。

2、检验样本中信贷企业的真实信用得分和BP神经网络模型预测值误差值整体较小,最大误差11.7%,最小误差0.27%。

3、假设以绝对误差小于5%为容忍度,那么本文建立的BP神经网络模型的准确率为70%。假设以绝对误差小于10%为容忍度,那么本文建立的BP神经网络模型的准确率为90%。计算结果表明本文建立的BP神经网络模型准确率较高,可以为商业银行信贷过程中的信用风险进行预测评价,从而使商业银行规避信贷过程中的信用风险,起到风险预警功能。

参考文献:

[1]许美玲,齐晓娜,李倩等.基于BP神经网络的村镇银行信用风险预警模型的构建[J].河南科技,2014(22).

[2]黄梦宇.基于BP神经网络的手机银行风险预警模型研究[J].时代金融(下旬),2014(4).

[3]迟国泰,陈国斌,迟枫等.基于神经网络的中国商业银行效率综合评价[J].哈尔滨工业大学学报,2006,38(4).

[4]于彤,李海东.基于BP神经网络的客户信用风险评价[J].现代电子技术,2014(10).

篇9

【关键词】拦渣坝; BP神经网络;小波神经网络

0 前言

为了确保各种大型工程在施工和生产运行中会产生大量的弃土、弃石等废弃固体物质的安全放置,必须建立合适的拦渣坝。但是,随着拦渣坝运行时间的推移,拦渣坝运行的各种条件(如结构、基础、环境等)逐渐发生变化,使得坝体材料老化变质、坝体结构性能衰减甚至恶化等影响其安全运行,这样有可能严重的威胁着周边人民的生命和财产安全,这在在国内外均有着深刻教训。因此,必须对拦渣坝进行安全监测,建立正确有效的变形预测模型,科学地分析和预测拦渣坝的变形,及时发现存在的安全隐患,制定合理的防治措施,以确保拦渣坝的安全运行。

由于各种条件和环境的复杂性,使得拦渣坝变形的影响因素存在多样性,利用单一的理论方法来对工程变形进行预测,其变形的大小是难以准确预测的。将多种理论和方法进行有机结合,建立一种方法预测工程变形的大小是一种有效的途径。本文基于这样的思想,将小波分析与神经网络有机结合的小波神经网络应用于拦渣坝工程实例,对其变形分析研究。

1 小波神经网络

小波神经网络是将小波分析与人工神经网络有机结合的产物。其基本思想是用小波元代替神经元,用已定位的小波函数代替Sigmoid函数作为激活函数,然后通过仿射变换建立起小波变换与神经网络系数之间的连接,形成的新模型具有较强的网络逼近能力和容错能力。

目前,将小波分析与人工神经网络的结合主要有下面两种方式:松散性结合,即将小波分析与人工神经网络进行辅助式结合;紧致性结合,即将小波和神经网络直接融合的一种方式, 它主要是把小波元代替神经元,将相应的输入层到隐层的权值及隐层阈值分别由小波函数的尺度与平移参数所代替。其中紧致性结合方式也是当前研究小波神经网络模型最主要的结构形式。

小波神经网络是在小波分析的基础上提出的前馈型神经网络。小波神经网络激活函数是具有良好时频局域化性质的小波基函数。设小波神经网络有m(m=1,2,…,m)个输入节点、N(N=1,2,…,N)个输出层、n(n=1,2,…,n)个隐含层节点。并设xk为输入层的第k个输入样本,yi为输入层的第i个输出值,wij为连接输出层节点i和隐含层节点j的权值,wjk为连接隐含层节点j和输入层节点k的权值。约定wi0是第j个输出层节点阈值,wj0是第j个隐含层节点阈值,aj和bj分别为第j个隐含层节点的伸缩和平移因子,则小波神经网络模型可以表示为:

2 工程实例应用

国家某重点高速公路第B4合同段内某拦渣坝,其坝体为混凝土重力坝,长约122米,高约30米,拦渣坝上面(上游)是巨大的高速路高填方路基,这在国内是比较罕见的,而下游是梅西河。本拦渣坝主要是为了防止高速路隧道挖方土回填的高填方路基滑动和垮塌发生危险,从而对高速路的运行和梅溪河的通航造成不必要的影响。通过对拦渣坝体上S5号点上的沉降监测数据分析,建立变形预测的小波神经网络模型。将从2008年9月28日到2009年11月5日共11期数据作为学习样本对拦渣坝小波神经网络进行训练和学习。对S5号从2010年2月1日到2010年12月29日共5期数据进行预测。

通过对混凝土坝的研究和本拦渣坝功能作用的分析,可知影响本拦渣坝沉降变化的因素主要有:温度、土压力、时效。其中取4个温度因子,分别为C、C5、C15、C30(Ci为自观测日起前i天的平均气温);土压力因子1个(为S5号点附近土压力盒的每期平均计算压力);时效因子2个,分别为T、InT(T为观测日到起算日的累计天数除以100)。故输入层节点数为7个。而输出层节点数为1个,即为观测点S5每次垂直方向的累计沉降量。先用经验公式确定一个初始节点数,然后进行试验训练,当隐含层节点数为13时网络训练最为合适,所以采用7-13-1的结构形式的小波神经网络模型。通过对不同小波函数的试验训练,多次计算表明,当选用Morlet小波函数时网络的总体性能较好。利用Matlab7.1语言编制相应的网络模型程序进行计算。

为了充分的分析小波神经网络的训练效果,本文中也采用相同结构的BP神经网络对拦渣坝监测数据进行训练、预测。在本实例中,设两种模型的收敛误差都取0.0001。训练结果表明,两种模型的收敛速度都比较快,BP神经网络训练了25次就低于误差限差;而小波神经网络只训练了5次就低于误差限差0.0001,总体上小波神经网络比BP网络精度高。小波神经网络训练与BP神经网络训练拟合残差系统比较结果如表1。

从预测结果对比分析表可以看出,小波神经网络和BP神经网络对拦渣坝变形预测的预测残差绝对值在一个数量级上,但是WNN网络的预测残差值总体上明显小于BP神经网络。小波神经网络的预测值与BP神经网络的预测值相比较更加接近于实际值,WNN预测结果好于BP神经网络预测结果,其预测优越性是显而易见的。

3 小结

本文通过对小波神经网络模型的研究,建立了拦渣坝变形预测的小波神经网络模型。通过对WNN网络模型和BP神经网络模型训练拟合结果与预测结果的对比分析,可以看出小波神经网络模型在拦渣坝变形预测中的收敛性和精度比BP神经网络好,对拦渣坝的变形预测研究有一定的参考应用价值。

【参考文献】

篇10

【关键词】小波神经网络;建筑承发包价格;预测

0.引言

建筑市场的健康发展对于拉动经济增长,调整产业结构,改善人民生活水平起着重要的作用。建筑市场又是一个复杂的系统,因为建筑市场设计到建筑材料市场、金融市场、劳动力市场等各方面的发展,所以对于建筑市场进行研究是必要的。建筑工程承发包模式在我国建筑市场中扮演的角色越来越重要,其中,建筑工程承发包价格管理尤为重要,直接关系到国家建设资金的合理利用,关系到维护建筑市场的秩序以及承发包双方的合法权益,是国家有关部门和建筑各方都非常关心的问题。目前,可用于承发包价格预测的方法很多,比如回归分析法、因果分析法、灰色系统以及BP神经网络等各种预测方法。但是,由于建筑承发包价格具有非线性趋势,因此,就必须利用模拟非线性的模型,前面几种方法在这方面都存在不足。本文依据小波的时频域特征,将小波分析理论与神经网络预测模型结合在一起,提出了一种新的预测模型―小波神经网络模型,并将其应用于房地产价格指数的预测,解决了预测非线性时间序列的不足[1]。

1.小波神经网络模型

小波神经网络(Wavelet Neural Networks,缩写WNN), 是近几年国际上新兴的一种数学建模分析方法,是结合最近发展的小波变换良好的时频局域化性质与传统人工神经网络的自学习功能力而形成的。最早是由法国著名的信息科学研究机构IR ISA 的Q inghua Zhang 等[2]于1992 年提出的, Y C Pat i 等[5]对离散仿射小波神经网络进行了研究.小波神经网络是通过小波分解进行平移和伸缩变化后而得到的级数,具有小波分解的一般逼近函数的性质与分类特征。并且由于它引入了两个新的参变量,即伸缩因子和平移因子,所以小波神经网络具有比小波分解更多自由度,从而使其具有更灵活有效的函数逼近能力,更强的模式识别能力和容错能力。由于其建模算法不同于普通神经网络的BP算法,故可有效地克服普通人工神经网络模型所固有的缺陷[3]。

小波神经网络是基于小波分析而构成的一类新型前馈网络,也可以看作是以小波函数为基底的一种新型函数连接神经网络,其信号的表达式通过将所选取得小波基叠加来实现的等[4]。在信号分类中,子波空间可作为模式识别的特征空间,通过将小波基与信号向量的内积进行加权和来实现信号的特征提取,然后将这些特征输入到分类器中,它结合了小波变换良好的时频局域化性质及神经网络的自学习功能,因而具有良好的逼近与容错能力[5]。

小波神经网络学习的具体算法如下:

3.基于小波神经网络的建筑承发包价格预测

3.1数据的选取与预处理

以绍兴市市砖混结构住宅为例,对建筑工程承发包价格进行预测研究。根据绍兴市统计年鉴,2005 年~2009 年浙江建设工程材料信息价以及调研得到影响建设工程承发包价格因素的相关数据,为了更方便的进行预测,首先要进行归一化处理,采用公式:

表1 经过归一化处理后的建筑承发包价格

Table1 Normalized real estate price index

3.2小波神经网络预测模型预测结果

在设计网络时采用三层网络模型,这样比采用四层网络不易陷入局部极小值。采用此结构对上面归一化的中房指数数据进行预测。并将整个过程运用Matlab进行编程实现将数据分为两组,前一组用于训练网络,后一组用作检验。用小波神经网络预测模型进行预测,结果如表2所示。

表2 小波神经网络预测结果

Table 2 Forecast result of WNN

4.小结

小波神经网络是结合最近发展的小波变换良好的时频局域化性质与传统人工神经网络的自学习功能而形成的,具有深厚的数学基底,被广泛应用于各个领域。本位在介绍小波神经网络的同时,建立起了一种小波神经网络预测模型,并将其应用于建筑承发包价格的预测当中。

【参考文献】

[1]诸静.智能预测控制及其应用[M].杭州:浙江大学出版社,2000.

[2]刘明才.小波分析及其应用[M].北京:清华大学出版社,2005.

[3]王洪元等.人工神经网络技术及其应用[M].北京:中国石化出版社,2002.