循环神经网络的优点范文

时间:2024-04-11 11:24:48

导语:如何才能写好一篇循环神经网络的优点,这就需要搜集整理更多的资料和文献,欢迎阅读由公务员之家整理的十篇范文,供你借鉴。

循环神经网络的优点

篇1

 

目前国内外常用的信息安全风险评价模型主要由层次分析法(AHP)、基于概率统计的ALE算法,模糊综合评价法等,也取得了一定的研究成果。但上述算法的基本思想是基于线性映射和概率密度分布的,即各风险指标与最终评价结果之间存在着线性关系[2]。然而,这种关系的存在是否科学至今也没有得到准确的答复,同时这些方法在实施时虽然给出了定量计算的算法,但操作较为繁琐,难以达到快速识别的要求。目前应用较广泛的BP神经网络评价算法存在着网络参数难确定、收敛速度较慢且易陷入极小值等问题。为了解决上述问题,本文应用鱼群算法对BP神经网络进行了改进,结合信息安全评价实例进行了测试,并将测试数据与标准BP神经网络进行了比较与分析,取得了理想的结果。

 

一、信息安全的概念

 

所谓的信息安全评估指的是通过分析信息系统所包含的资产总值、识别系统本身的防御机制以及所受到的危险性系数,利用数学模型综合判断出系统当前的风险值。信息安全风险评估主要包括三方面的内容,分别是资产总值识别、外部威胁识别以及脆弱性识别。资产总值识别是为了识别出系统所涉及的资产总值,外部威胁识别指的是识别当前状态下系统受攻击或威胁的程度,而脆弱性识别指的是系统自身的脆弱性程度。其中综合考虑外部威胁以及内部脆弱性可以得出发生风险事件的危害性,而自然总值识别再加上脆弱性识别就可以得到系统的易损性,基于上述过程可以得到信息安全系统的风险值。

 

二、基本BP神经网络算法

 

BP神经网络算法是一种采用误差反向传播的多层前馈感知器。其特点是具有分布式的信息存储方式,能进行大规模并行处理,并具有较强的自学习及自适应能力。BP网络由输入层(感知单元)、计算层(隐藏层)、输出层三部分组成。输入层神经元首先将输入信息向前传递至隐含层节点,经过激活函数预处理后,隐层节点再将输出信息传送至输出层得到结果输出。输入层与输出层节点的个数取决于输入、输出向量的维数,隐含层节点个数目前并没有统一的标准进行参考,需通过反复试错来确定。根据Kolmogorov定理,具有一个隐层的三层BP神经网络能在闭集上以任意精度逼近任意非线性连续函数,所以本文选择单隐层的BP神经网络。

 

三、人工鱼群算法

 

3.1基本原理

 

通过对鱼类觅食的观察可知,鱼类一般能自行或者尾随其他同伴找到食物数量相对充足的地方。因此,一般鱼类数量较多的地区即为食物相对充足的区域。人工鱼群算法是指通过长期对鱼类觅食行为的观察,构造人工鱼来模拟鱼类的觅食、群聚、尾随以及随机行为,从而完成全局最优值的寻找。算法所包含的基本过程如下:

 

觅食行为:鱼类会利用视觉或嗅觉来感知水中食物浓度的高低,以此来选择觅食的路线。

 

聚群行为:鱼类一般会以群体形式进行觅食,以此来躲避天敌的伤害并以最大概率获得准确的觅食路线。

 

尾随行为:当群体中的某条鱼或几条鱼寻找到食物后,其附近的其他同伴会立刻尾随而来,其他更远处的鱼也会相继游过来。

 

随机行为:鱼在水中的活动是不受外界支配的,基本上处于随机状态,这种随机性有利于鱼类更大范围的寻找食物及同伴。

 

3.2 鱼群算法优化BP神经网络的原理

 

BP神经网络在求解最优化问题时容易陷入局部极值,并且网络的收敛速度较慢。鱼群算法通过设定人工鱼个体,模拟鱼群在水中的觅食、尾随和群聚行为,通过个体的局部寻优,最终实

 

现全局寻优。人工鱼在不断感知周围环境状况及

 

同伴状态后,集结在几个局部最优点处,而值较大的最优点附近一般会汇集较多的人工鱼,这有

 

助于判断并实现全局最优值的获取。因此用人工鱼群算法来优化BP神经网络是一种合理的尝试。

 

3.3 具体工作步骤

 

人工鱼群算法用于优化神经网络时的具体步骤如下:

 

①设定BP神经网络结构,确定隐层节点数目;

 

②设定人工鱼参数,主要包括个体间距离、有效视线范围以及移动步长等;

 

③人工鱼进行觅食、群聚及尾随行为来优化BP神经网络;

 

④通过设定的状态参量,判断是否达到目标精度;

 

⑤若达到精度要求则输出网络优化权值,并执行网络循环,否则继续改化参数进行优化;

 

⑥输出最终优化参数并进行计算机网络安全评价。

 

四、仿真实验

 

将信息安全风险评估常用的3项评价指标的分值作为BP神经网络的输入,网络的期望输出只有一项,即安全综合评价分值。目前用于信息安全风险评价的数据还很少,本文采用文献[3]所列的15组典型信息安全单项指标评价数据,其中1-10项作为训练,11-15项用于仿真。通过实际实验分析,本文将权值调整参数α=0.1,阈值调整参数β=0.1,隐层神经元数目为6,学习精度ε=0.0001。网络经过2000次训练,收敛于所要求的误差,人工鱼群算法的相关参数: 种群大小为39;可视域为0.8;最大移动步长为0.6;拥挤度因子为3.782。然后对检验样本及专家评价样本进行仿真,结果如表1所示。可以看出,鱼群神经网络得到的仿真结果与期望值之间的平均误差为0.001,而标准BP神经网络为0.0052,所以鱼群神经网络的得到的仿真精度较高,取得了理想的实验结果。

 

五、结论

 

本文将鱼群算法和神经网络结合起来对信息安全评价进行了研究,得到了如下几个结论:

 

(1) 基于鱼群算法优化后的BP神经网络具有收敛速度快、拟合精度高等优点,克服了标准BP神经网络收敛速度慢、容易陷入局部极小值的缺点。同时,优化算法编码过程简单,并具有较强的鲁棒性。

 

(2) 本文采用的实验数据仅有15个,基于鱼群算法优化后的BP神经网络精度有明显提高,避免了由于样本数量少造成的拟合精度低等缺点。

 

(3) 通过将标准BP神经网络算法与鱼群神经网络算法进行对比发现,后者的收敛速度明显加快并且自组织能力也有一定提高,在实际的工程建设中可以将其代替传统的BP神经网络算法来进行信息安全的风险评估。

篇2

[关键词]BP神经网络农业工程农业管理农业决策

一、引言

采用神经网络算法的信息处理技术,以其较强的计算性和学习性,现如今已经在各工程领域内得到了广泛应用。随着科技不断的发展和研究的不断深入,农业系统中采用的传统分析和管理的方法已经不能满足农业工程领域快速发展的需要。在农业系统中采用神经网络技术可在一定程度上可弥补传统方法的不足,现已成为实现农业现代化的一个重要途径。神经网络现已在农业生产的各个环节得到广泛的应用,从作物营养控制、作物疾病诊断、产量预测到产品分级,显示了巨大的潜力,并正以很快的速度与生产实际相结合。目前应用比较多的BP神经网络,可通过学习以任意精度逼近任何连续映射,在农业生产与科研中展示出了广阔的应用前景。

BP人工神经网络方法。人工神经网络是对生物神经网络的简化和模拟的一种信息处理系统,具有很强的信息存贮能力和计算能力,属于一种非经典的数值算法。通常可分为前向神经网络、反馈神经网络和自组织映射神经网络。BP神经网络(Backpropugation Neura1 Network)是一种单向传播的多层前向神经网络,可通过连续不断的在相对于误差函数斜率下降的方向上计算网络权值以及偏差的变化而逐渐逼近目标值,每一次数字和偏差的变化都与网络误差的影响成正比,并以反向传播的方式传递到每一层,从而实现了神经网络的学习过程。BP人工神经网络的结构如图所示,BP神经网络可分为输入层、中间层(隐含层)和输出层,其中输入和输出都只有一层,中间层可有一层或多层。同层的网络结点之间没有连接。每个网络结点表示一个神经元,其传递函数通常采用Sigmoid型函数。BP神经网络相当于从输入到输出的高度非线性映射,对于样本输入和输出,可以认为存在某一映射函数g,使得y0=g(xi),i=1,2,3,…,m,其中m为样本数,xi为输入样本,yo为输出结果。

BP神经网络的一个显著优点就是其可进行自学习,能够通过训练得到预期的效果。其学习过程由正向传播和反向传播组成,神经网络的输入值经过非线性变换从输入层经隐含层神经元的逐层处理传向输出层,此为正向传播过程。每一层神经元的状态将影响到下一层神经元状态。如果输出层得到的数值与期望输出有一定的偏差,则转入反向传播过程。神经网络通过对输入值和希望的输出值(教师值)进行比较,根据两者之间的差的函数来调整神经网络的各层的连接权值和各个神经元的阈值,最终使误差函数达到最小。其调整的过程是由后向前进行的,称为误差反向传播BP算法。具体学习过程如下:

(1)随机给各个权值赋一个初始权值,要求各个权值互不相等,且均为较小的非零数。

(2)输入样本集中每一个样本值,确定相应的网络实际输出值。

(3)计算实际的输出值与相应的样本集中的相应输出值的差值。

(4)按极小误差方式调整权值矩阵。

(5)判断网络误差是否小于训练前人为设定的一个较小的值,若小于,则跳出运算,此时的结果为神经网络的最终训练结果;若大于,则继续计算。

(6)判断最大迭代次数是否大于预先设定的数,若小于,返回(2);若大于,则中止运算,其结果为神经网络的最终训练结果。

上述的计算过程循环进行,直到完成给定的训练次数或达到设定的误差终止值。

二、BP神经网络在农业工程领域中的应用

1.在农业生产管理与农业决策中的应用

农业生产管理受地域、环境、季节等影响较大,用产生式规则完整描述实际系统,可能会因组合规则过多而无法实现。神经网络的一个显著的优点就是其具有较强的自学习、自适应、自组织能力,通过对有代表性的样本的学习可以掌握学习对象的内在规律,从而可以在一定程度上克服上述信息量大的问题。神经网络在农业生产管理方面可用于农作物生长过程中对农作物生长需求进行预测,从而通过对养分、水分、温度、以及PH值的优化控制达到最优的生长状况。采用神经网络预测算法的主要思想可描述为:(1)收集一定规模的样本集,采用BP算法进行训练,使网络收敛到预定的精度;(2)将网络权值矩阵保存到一存储介质中,例如文本文件或数据库中;(3)对于待预测数据的输入部分,从存储介质中读出网络连接权值矩阵,然后通过BP神经网络的前向传播算法计算网络输出,输出结果既是预测出来的数值向量。如霍再林等针对油葵不同阶段的相对土壤含盐浓度对其产量的影响有一定的规律的现象,以油葵的6个成长阶段的土壤溶液含盐的相对浓度为输入样本,相对产量为输出样本,通过比较发现,训练后的神经网络能较好预测油葵产量,采用此方法可补充传统模型的不足,为今后进一步的研究开辟了新路。

在农业决策方面,主要将农业专家面对各种问题时所采取的方法的经验,作为神经网络的学习样本,从而采用神经网络建立的专家系统将从一定程度上弥补了传统方法的不足,将农业决策智能化。如何勇、宋海燕针对传统专家系统自学习能力差的缺点,利用神经网络可自我训练的优点,将神经网络引入专家系统中。将小麦缺素时的田间宏观表现,叶部、茎部、果实症状及引起缺素的原因这五个方面的可信度值作为神经网络的输入量,将农业专家诊断的结论作为输出量,将这些数据作为神经网络的训练数据。实际应用表明此系统自动诊断的结果与专家现场诊断的结果基本一致,从而采用该系统能够取代专家,实现作物的自我诊断,为农业管理方面提供了极大的帮助。如马成林等针对于传统施肥决策方法中非线性关系描述不足的问题,基于数据包分析和BP神经网络,建立了施肥决策模型,应用表明,在有限的范围内,模型预测结果较为合理,可以反映玉米的需肥特性。刘铖等人提出采用神经网络应用在农业生产决策中,以莜麦播种方式决策为例,通过对产生式规则的分析导出神经网络输入、输出单元数,并通过多次试验确定隐层单元数,用MATLAB方针结果表明,采用神经网络作为农业生产决策的方法,取得了较好的效果。谭宗琨提出将基于互联网环境下的神经网络应用在玉米智能农业专家系统中,根据农作物发育进程分成若干个发育期,分别对各个发育期建立管理模型,依照作物各发育期进程时间间隔,由计算机系统自动选取相应的模型进行决策。应用分析的结果表明采用神经网络的玉米智能专家系统已初步接近农业生产的实际。

2.在农产品外观分析和品质评判

农产品的外观,如形状、大小、色泽等在生产过程中是不断变化的,并且受人为和自然等复杂因素的影响较大。农产品的外观直接影响到农产品的销售,研究出农作物外观受人为和自然的影响因素,通过神经网络进行生产预测,可解决农产品由于不良外观而造成的损失。如Murase 等针对西红柿表皮破裂的现象,西红柿表皮应力的增长与西红柿果肉靠近表皮部分水分的增加有关,当表皮应力超过最大表皮强度时,将导致表皮破裂。用人工神经网络系统,预测在环境温度下的表皮应力,可通过控制环境变量来减少西红柿表皮破裂所造成的损失。

在农业科研和生产中,农产品的品质评判大多是依赖于对农产品外观的辨识。例如对果形尺寸和颜色等外观判别果实的成熟度,作物与杂草的辨别,种子的外观质量检测。由于农业环境的复杂性和生物的多样性,农产品的外观不具有较确定的规律性和可描述性,单一采用图像处理技术辨识农产品的外观时不宜过多采取失真处理和变换,否则则增加图像处理的复杂性,特征判别也相对困难。人工神经网络由于其具有自学习、自组织的能力,比较适宜解决农业领域中许多难以用常规数学方法表达的复杂问题,与图像处理技术相结合后,可根据图像特征进行选择性判别。采用此方法可以部分替代人工识别的工作,提高了生产效率,也有利于实现农业现代化。如Liao等将玉米籽粒图像用34个特征参数作为神经网络的输入变量,将输出的种粒形态分为5类,经过学习的神经网络对完整籽粒分类的准确率达到93%,破籽粒分类的准确率达91%。

3.蔬菜、果实、谷物等农产品的分级和鉴定

在农业生产中,蔬菜、果实、谷物等农产品的分级和鉴定是通过对农产品外观的辨识进行的。传统的农产品外观的辨识方法费时费力、预测可靠度很低,而且多采用人工操作,评价受到操作者主观因素的影响,评判的精度难以保证。利用人工神经网络技术结合图像处理技术可部分代替以往这些主要依靠人工识别的工作,从而大大提高生产效率,实现农业生产与管理的自动化和智能化。

利用BP神经网络技术对农产品果形尺寸和颜色等外观评判,目前国内外已有不少成果用于实际生产中。何东健等以计算机视觉技术进行果实颜色自动分级为目的,研究了用人工神经网络进行颜色分级的方法。分别用120个着色不同的红星和红富士苹果作为训练样本集对网络进行离线训练。两个品种的苹果先由人工依据标准按着色度分成4级,对每一个品种分别求出7个模式特征值作为BP网络的输入,用训练好的神经网络进行分级。结果表明红富士和红星果实的平均分级一致率分别为94.2%和94.4%。刘禾等用对称特征、长宽特征、宽度特征、比值特征等一系列特征值来描述果形。采用BP网络与人工智能相结合,建立果形判别人工神经网络专家系统。试验水果品种为富士和国光。试验表明系统对富士学习率为80%,对非学习样本的富士苹果的果形判别推确率为75%,系统对国光学习率为89%,对非学习样本的国光苹果果形判别系统的难确率为82%。

三、未来的发展方向

人工神经网络的信息处理技术现已在农业工程领域内得到了迅速的应用,采用人工神经网络算法的农业系统能够从一定程度上改善控制效果,但此技术在农业范围内还不够成熟,有待于进一步的研究。今后科研的方向大体上可以从以下几方面着手:

1.人工神经网络算法的改进

人工神经网络算法由于本身具有一定的缺点,从而采用人工神经网络的算法的信息处理技术在应用过程中具有一定的局限性。在今后的研究中,可以从人工神经网络方向着手,改进人工神经网络算法,从而实现其在农业领域内更好的应用。近年来随着模糊算法、蚁群算法等算法的相继出现,将神经网络与其他算法结合在一起已经成为了研究的热门话题,也是未来算法研究的主要方向之一。

2.应用领域的扩展

人工神经网络算法在农业工程方面现已得到了迅速的发展,扩展其在农业工程领域的应用范围是未来的一个主要研究方向。人工神经网络由于其具有自学习能力,可对农业系统的非线形特性进行较好的描述,采用人工神经网络可解决传统方法的不足,从而实现农业现代化。如何将神经网络较好地引入到农业系统,解决农业工程中的部分问题,已是今后农业科研中的一个方向。

四、结束语

神经网络作为一种人工智能范畴的计算方法,具有良好的自学习与数学计算的能力,可通过计算机程序进行模拟运算,现已广泛用于模式识别、管理决策等方面。随着计算机硬件和软件的不断发展与农业工程方面的研究的不断深入,神经网络将在农业管理、农业决策、农作物外观分类、品质评判等方面充分发挥其自学习能力强,计算能力强的优势,通过对样本数据的学习,神经网络可较好地解决农作物生长过程中的作物分类、预测等非线形的问题。在农业工程领域内,神经网络拥有广阔的科研前景。

参考文献:

[1]余英林李海洲:神经网络与信号分析[M]. 广州: 华南理工大学出版社,1996:45

[2]霍再林史海滨孔东等: 基于人工神经网络的作物水―盐响应初步研究[J].内蒙古农业大学学报,2003,24(3):66~70

[3]何勇宋海燕:基于神经网络的作物营养诊断专家系统[J]. 农业工程学报,2005,21(1):110~113

[4]马成林吴才聪张书慧等:基与数据包络分析和人工神经网络的变量施肥决策方法研究[J].农业工程学报,2006,20(2):152~155

[5]刘铖杨盘洪: 莜麦播种方式决策的BP神经网络模型[J]. 太原理工大学学报,2006,37(5):119~121

[6]谭宗琨: BP人工神经网络在玉米智能农业专家系统中的应用[J].农业网络信息,2004(10):9~1

[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92~3579

篇3

关键词 BP神经网络 数据挖掘 最速下降法 函数逼近 模式识别

中图分类号:TP391 文献标识码:A

1研究背景

BP神经网络是一种多层的前馈网络而且它的学习算法是一种误差逆向传播算法。BP神经网络是目前研究最为成熟、应用最为广泛的人工神经网络模型之一。由于其结构简单、可操作性强、具有较好的自学习能力、能够有效地解决非线性目标函数的逼近问题等优点,因此被广泛应用于自动控制、模式识别、图像识别、信号处理、预测、函数拟合、系统仿真等学科和领域中。

2 BP神经网络原理

2.1概述

BP神经网络是一种反向传播误差算法然后训练的一个多层前馈网络,简称为BP算法,它应用在已被开发出来的神经网络中,到目前为止是应用最为广泛的网络模型之一。BP神经网络可以学习并且存储非常多的输入模式与输出模式之间的映射关系,却无需在学习和存储前事先揭示并描述输入输出间的映射关系的一种数学方程。它使用最速下降法,通过对输出误差的反向传播,获得不断调整网络连接权系数和阈值的信息,最终使神经网络的平方误差最小,达到期望要求。

2.2 BP神经网络结构

BP神经网络模型是一个三层网络,它的拓扑结构可被划分为:输入层、输出层、隐含层。其中输入层与输出层具有更重要的意义,因此它也可以为两层网络结构(把隐含层划入输入层或者把隐含层去掉)。每层都由许多简单的能够执行并行运算的神经元组成,这些神经元与生物系统中的那些神经元非常类似,但其并行性并没有生物神经元的并行性高。BP神经网络是一个前馈网络,因此它具有前馈网络所具有的特性:相邻两层之间的全部神经元进行互相连接,而处于同一层的神经元不能进行联接。

2.3 BP算法原理

BP神经网络的基本原理是把一个输入矢量经过隐含层的一系列变换,然后得到一个输出矢量,从而实现输入数据与输出数据间的一个映射关系。输入信息的正向传播,以及输出误差的反向传播,构成了 BP网络的信息循环。BP算法根据输出误差来修改各神经元连接的连接权系数,其目的是使输出误差达到预计范围内。BP网络需要实际输出与期望输出之间的误差来确定是否要修改神经元连接的连接权系数。其中,期望输出便是该网络意义上的“导师”。BP网络具有对称性的网络结构,在输出端的每一个处理单元基本上都具有一个相同的激励函数。

BP算法由正向传播和反向传播两部分组成。在正向传播过程中,输入信息从输入层经隐层单元处理后,传至输出层。每一层神经元的状态只影响下一层神经元的状态。如果在输出层得不到期望输出,就转为反向传播,即:把误差信号沿连接路径返回,并通过修改各层神经元之间的连接权值,使误差信号最小。

具体的算法步骤可概括如下:

第一步,选取初始权值、阈值。

第二步,重复下述过程直至满足性能要求为止:

(1)对于学习样本P=1到N

①计算每层各节点j的输出yj,netj和的值(正向过程);

②对各层从M层到第二层,对每层各节点反向计算%]j(反向过程);

(2)修改权值

具体推导过程见参考文献4。

3基于BP神经网络设计的实例

3.1函数逼近

我们设计一个简单的BP网络,实现对非线性函数的逼近。通过改变该函数的参数以及BP网络隐层神经元的数目,来观察训练时间以及训练误差的变化时间。将要逼近的非线性函数设为正弦函数,其频率参数k可以调节。假设频率参数k=2,绘制此函数的曲线。如图1。

(1)网络建立:用MATLAB编程建立BP网络结构,为二层BP神经网络。隐层神经元数目n 可以改变,暂时设为n=10,输出层有一个神经元。网络训练采用Levenberg-Marquardt算法trainlm。

分析:因为建立网络时,权值和阈值的初始化是随机的,所以网络输出结果很差,根本达不到函数逼近的目的,并且每次运行的结果也有所不同。

(2)网络训练:在MATLAB里应用train()函数对网络进行训练之前,需要预先设置训练参数。将训练时间设置为50,训练精度设置为0.01,其余参数用默认值。

(3)网络测试:对于训练好的网络进行仿真,绘制网络输出曲线,并与原始非线性函数曲线相比较,结果如下图2。

由此可看出,得到的曲线和原始的非线性函数曲线很接近。这说明经过训练后,BP网络对非线性函数的逼近效果非常好。

(4)讨论分析:改变非线性函数的频率和BP网络隐层神经元的数目,对于函数逼近的效果有一定的影响。网络非线性程度越高,对BP网络的要求越高,则相同的网络逼近效果要差一些;隐性神经元的数目对于网络逼近效果也有一定的影响,一般来说隐形神经元数目越多,则BP网络逼近非线性函数的能力越强,同时网络训练所用的时间相对来说也要长一些。

参考文献

[1] 闫志忠.BP神经网络模型的改进及其应用研究[D].吉林大学,2003.

[2] 李友坤.BP神经网络的研究分析及改进应用[D].安徽理工大学,2012.

[3] 吴昌友.神经网络的研究及应用[D].东北农业大学, 2007.

篇4

摘要:针对电子政务绩效评估不完善及BP神经网络的收敛速度慢,需要较长的训练时间的缺陷,本文在前人研究的基础上建立了基于平衡计分卡的指标体系,针对BP神经网络的缺陷,将粒子群优化算法应用到模型中,改进了BP神经网络模型,提出了基于粒子群优化的BP神经网络原理及求解方法,并通过实际的例子对建立的模型进行了训练和验证。通过本文的研究,为相关部门开展电子政务绩效的评估提供了一定的参考依据,对电子政务的发展起到了一定的积极作用。

关键词 :电子政务;绩效评价;平衡计分卡;神经网络;粒子群算法

引言

20世纪60年代中后期,一些欧美的发达国家对政府进行改革,并强调政府行政的效率,为了衡量政府行政好坏,绩效评价成为了一项快速发展起来的政治活动。1992年美国政府为了进一步完善电子政务绩效的评价体系,颁布了相关的法律法规,通过立法进一步明确了电子政务绩效评价的概念和制度,而亚欧一些国家政府也效仿美国,迅速引进了相关的评价制度和工具。电子政务绩效评价指引了电子政务发展的方向,为政府开展电子政务提供了信息来源的平台,为了能够保证电子政务顺利的开展,我们就需要建立一个有效的、全面的、较为完善的电子政务绩效评价体系。本文在前人研究的基础上建立了基于平衡计分卡的指标体系,针对BP神经网络的收敛速度慢,需要较长的训练时间的缺陷,将粒子群优化算法应用到模型中,改进了BP神经网络模型,提出了基于粒子群优化的BP神经网络原理及求解方法,并通过实际的例子对建立的模型进行了训练和验证。

1、基于平衡计分卡的电子政务绩效评价指标体系的设计

结合定量分析和定性分析的方法来建立基于平衡计分卡的电子政务绩效评价指标体系,并不断的修正平衡计分卡的机构关系,不断的革新指标内容,从而建立电子政务绩效评价框架,修正后的电子政务绩效评价BSC框架主要从成本效益、服务对象、内部运营及学习与发展四个维度提出了相应的问题,如图1所示。

根据前面的分析,基于BSC的电子政务绩效评价指标体系见表1,指标数据的获取和计算方法见表1。

3、基于PSO-BP神经网络的电子政务绩效评价模型

3.1 数据的预处理

由于数据的获取难度较大,因此本文借用了相关文章的数据[4],选取了湖南省十一个省市的数据作为研究的样本,为了确保输入数据(包括训练以及将来要预测的数据)在比较接近的范围里,我们需要对数据进行归一化处理。本文的数据主要包括输入数据和期望输出数据,输入数据主要是湖南省十一个市的电子政务指标数据,包括16个输入维度,输出的是对电子政务系统的评价结果,主要包括:好、较好、一般、较差、差五个结果。利用下面的线性函数转换方法完成数据的归一化:

公式中的P为归一化处理后的数据,P1为原始数据,P1min为原始数据中的最小值,P1max为原始数据中的最大值。

通常情况下,用于测试的输入数据所对应的输出数据不是量化数据,比如本文中所提到的好、较好、一般、较差、差五个结果。因此本文的输出数据主要使用的是专家评价得出的分数,来对电子政务绩效做出评价,分数评价结果的对应关系为:1-3为差,3-5为较差,5-7为一般,7-9为较好,9以上为好。经过归一化处理过的指标数据和通过专家评价得出的评价结果如表2所示。

3.2 输入层、输出层及隐层节点的设计

由于一个三层的前向网络具有以任意精度逼近任意一个非线性函数的能力,因此,只需构造一个输入层、一个隐层和一个输出层的3层神经网络。本文中的电子政务绩效评价指标体系共包括成本效益、服务对象、内部运营及学习与发展四个指标维度,然后又将其细分成16项三级指标,也就是说神经网络输入层的维度为16,即输入层神经元个数Pn=16。输出层输出的结果是我们对电子政务系统的评价,而我们把评价结果好、较好、一般、较差、差作为网络的唯一输出,因此,输出层神经元个数为r=1。

1988年Cybenko[11]大量的研究表明在三层神经网络中一个隐藏层就可以实现任意分类的问题,以任何精度来实现任意非线性的输入和输出的映射。本文将隐藏层设置为一层。隐藏层节点的选择也是一个复杂的问题,如果隐层节点数比较少的话,则有可能导致网络训练者性能很差;如果选择较多的隐层节点数,虽然能够降低系统误差,但是会使网络训练的时间增加,而且也极易使训练陷入局部极小点而得不到最优点,最终会导致训练出现“过拟合”的现象。本文采用的计算公式为:

其中n为输入层节点数, m为输出层节点数,a 为1 ~ 10 之间的常数。

3.3 基于BP神经网络的电子政务绩效评价模型的设计

利用BP神经网络对电子政务绩效进行评价的主要步骤有:

第一步:根据电子政务发展过程中的相关影响因素,选取合适的电子政务绩效评价的指标数据,利用相关的算法对指标数据进行标准化处理[5],将处理后的指标数据x1,x2,x3,……,xn作为输入BP神经网络的输入值。

第二步:在输入层输入数据以后,数据会在神经网络中正向传播,数据在隐藏层进行一层一层的处理,然后会把处理后的数据传向输出层,输出层得到的数据就是实际的输出值Y。

第三步:当输出层得到实际的输出值以后,会和期望值进行比较,如果输出值和期望值不相等,那么会根据相关的公式计算出误差,然后把误差信号按照原来的路径进行反向的传播,通过不断的循环的传播来调整隐藏层神经元的权重,从而使误差越来越小。

第四步: 不断的重复前面的第二步和第三步,一直到误差可以小到某个阈值,然后停止训练和学习,只有选择的样本足够多时,神经网络的训练才更精确,输入的样本数据不同,得到的输出向量也会不同,当所有的数据样本的数据值和期望值误差最小的时候,综合评价结果更为接近,神经网络的权重值Wij就是BP神经网络通过训练和自适应的学习得到的一个内部的表示。

对选取的样本进行训练以后,我们就可以利用BP神经网络的训练模型对电子政务绩效进行评价,而且可以对大规模的电子政务进行绩效评价,因为神经网络具有一定鲁棒性[6],那么会导致出现主观综合评价值在一定的程度会与实际值存在少量偏差,但是这个偏差不会影响评价结果。

3.4 应用粒子群算法优化BP神经网络模型

1995年两位美国学者对鸟群的群体迁徙和觅食的过程进行了模拟,从而提出了一种智能的优化算法-粒子群优化算法[7](Particle Swarm Optimization,PSO),随着近年来粒子群算法的不断应用,已经逐渐成为一种新的优化算法。

PSO算法的速度和位置迭代公式为:

其中w为惯性权值,粒子群算法通过引入惯性全职可以实现对全局和局部寻优的能力的调整。合适的惯性权值可以避免陷入局部最优和远离全局最优。这里的惯性权值随迭代次数线性递减以保证收敛,计算公式为:

其中wmax为初始设置的一个最大的惯性权重值,将其设置成0.95;wmin为初始设置的最小惯性权重值,这里设为0.25;tmax为种群最大的迭代次数,这里将其设置成200次,ti为1:200的循环迭代。

粒子相继两次位置的改变取决于粒子当前位置相对于其历史最佳位置和群体历史最佳位置的变化。因此,若把网络的权值看作是PSO算法中粒子的位置,则在网络训练过程中,相继两次权值的改变可视作粒子的位置的改变。因而类比公式3,网络的权值改变量计算公式为:

其中式中,wkj(b)和wji(b)个体最优的网络权值;wkj(g)和wji(g)为群体最优的网络权值。

4、实例分析

首先利用基本的BP神经网络对选取的样本进行训练,这里选取了长沙、株洲、娄底、岳阳、永州、郴州、怀化、湘西等八个城市作为训练样本,训练之前要对训练参数进行基本设置,由于输入层和输出层节点数分别为16和1,那么隐藏层节点数可以选择5-14个,利用MATLAB经过多次实验,最终将隐藏层节点数确定为12个最为合适,误差相对较小。

利用PSO优化过的BP神经网络对十一个市的样本进行训练和测试,为了保证测试结果的一致性,这里我们依然选取以下八个城市作为训练的样本:长沙、株洲、娄底、岳阳、永州、郴州、怀化、湘西,然后利用剩余的城市作为测试样本。训练过程如图3所示,得到的实际输出和期望输出如表4所示。

优化后的数值更加接近期望值,而且误差会比PSO优化前的BP神经网络的训练更小,优化前后的测试的结果对比如表5所示。

本文在结合了BP神经网络和粒子群优化算法建立了PSOBP电子政务绩效评价模型,取得了较为满意的结果,然而本课题依然遇到了诸多的困难和问题,比如:数据获取困难;另外本文算法中的许多参数都是用了默认值,没有考虑到优化前后初始权值和阈值的不一致性是否会影响结果,这也同样成为了后续的研究重点。

参考文献:

[1] 曹振飞.基于绩效棱柱的电子政务绩效评估研究[D].北京:北京交通大学,2010

[2] 王杰华.海关电子政务绩效评估体系构建[D].上海:复旦大学,2010

[3] 彭赓,陈杰.基于相关者理论的电子政务绩效评估体系[J].管理现代化,2008,15(1):37-39

[4] 侯卫真.电子政务[M].北京:电子工业出版社,2013[5] Duncan Aldrich, John Carlo Berrot, Charles R. McClure.E-Government: initiatives, developments and issues [J].Government Information Quarterly. 2002,(19): 349-355

[6] 丛爽.面向MATLAB工具箱的神经网络理论与应用[M].北京:中国科学技术大学出版社,2003

[7] 范娜,云庆夏. 粒子群优化算法及其应用[J].信息技术,2006,2(1):53-57

[8] 吕培超.电子政务绩效评估研究[D].厦门:厦门大学,2009

[9] 徐强.电子政务流程再造绩效评估理论与实证研究[D].南京:南京大学,2010

[10] 张泽旭.神经网络与MATLALB仿真[D].哈尔滨:哈尔滨工业大学,2011

篇5

关键词:学生综合素质评价;BP神经网络;算法设计

中图分类号:TP311文献标识码:A文章编号:1009-3044(2009)24-6786-03

BP neural Network Based on the Overall Quality of the Student Evaluation of Algorithm Design

ZHANG Wen-sheng

(Xiamen Gongshang Lvyou Xuexiao, Xiamen 3610012,China)

Abstract: In this paper, the overall quality of the students a variety of evaluation methods carried out in-depth analysis to explore the use of BP neural network theory to evaluate the feasibility of the overall quality, and BP neural network based on the overall quality of the student evaluation of algorithm design.

Key words: evaluation of the overall quality of students; BP neural network; algorithm design

学校德育教育是提高学生综合素质的重要一环,在学校工作中占有举足轻重的地位。德育涉及大量定性和定量的数据处理,为了体现其科学性和公平性,采用先进的计算机技术进行学生综合素质量化评估势在必行。

1 问题的提出

据调查,目前在学校里对学生素质评价的方法,主要有以下几种:

1) 定性描述法

在学期或学年结束时,班主任根据学生在班级、学校和社会活动中的行为表现,运用文字对学生的综合素质进行描述,作为对学生的评价。这种方法在评价学生综合素质时起过一定的作用,但是,由于教师对学生综合素质评价的内容不明确,要求不统一,带有一定的主观片面性和模糊性。

2) 等级划分法

班主任根据平时对学生的观察和了解,对学生的综合素质行为划分出优、良、中、差四个等级。它只能说明每个学生综合素质发展的程度,在班集体中所处的地位,但缺乏具体内容,学生对于自己或他人的优点和缺点、以及个人今后的努力方向都不明确。

3) 自我总结法

这种方法是以学生为主,在教师的指导下总结自己的收获,存在的问题、以及今后的努力方向,并写成书面材料,然后写在操行表的自我总结栏内。这种方法是以学生的自我评价为主,它对于提高学生的自我评价能力,具有一定的促进作用。但是,由于没有老师和同学们参加评价,其评价结果缺乏客观性。

4) 小组评议法

是以班级小组评议为主。通过开评议会的形式,对全组成员分别进行评议,肯定成绩,提出缺点,最后把大家的意见集中起来,作为对学生的评价结果。它具有一定的客观性,可是,没有教师参加评议,影响了评价结果的可信度。

上述各种方法的都有一定的长处,也有一定的缺点。例如,对学生的综合素质的结构,没有明确统一的规定和具体要求;不能同时吸收各方面的意见参加评价;没有制定较为符合需要的综合素质量表和采用科学的测量手段等等。所以,评价的结果往往带有主观片面性,评语内容的不确定性,以及处在同一等级的同学之间存在差异的模糊性。于是最近又提出了对学生综合素质定量进行测量和评价。

5) 定量分数法

将构成学生综合素质的各种因素数量化,并制定出综合素质量表。在具体的进行测量和评价时,把学生综合素质所含每种因素的发展程度分为优、良、中、差四个等级,每个等级分别对应一定的标准值。对不同因素确定不同的权重大小,再综合学生每个因素所取得的标准值,最后得出学生的综合素质分。

用定量的方法对学生的综合素质发展程度进行评价时,不同因素需要确定不同的权重大小。权重的大小对评估结果十分重要,它反映了各指标的相对重要性。由于对不同的因素的权重是人为给定的,而学生综合素质的各项因素对学生的整体素质存在不可确定的影响程度,因些在对学生的测量和评定过程中必然受到主观因素及模糊随机性的影响。并且这种方法需要消耗大量的人力和时间。

为了探讨这个问题,我们根据BP神经网络的基本概念和原理,用神经网络自我学习的方法,对中学生综合素质进行测量和评价。BP神经网络能利用经验样本对神经网络的训练,达到神经网络的自我学习,在网络中自动建立一个多输入变量与输出变量间的非线性映射过程,无需建立具体的数学模型和规则,可以处理那些难以用模型或规则描述的过程或系统。神经网络具有自组织、自学习、自适应的特点,能通过连接权重的不断调整,克服权重确定的困难,弱化人为因素,自动适应信息、学习新知识,最终通过学习训练对实际学习样本提出合理的求解规则,对学生的综合素质的整体评定具有十分重要的意义。首先我们来了解BP神经网络的基本原理。

2BP神经网络的基本原理

1) 神经元网络基本概念

神经网络是单个并行处理元素的集合,从生物学神经系统得到启发。在自然界,网络功能主要由神经节决定,可以通过改变连接点的权重来训练神经网络完成特定的功能。如图1所示。这里,网络将根据输出和目标的比较而进行调整,直到网络输出和目标匹配。

2) 神经元网络结构

图2所示为一个单标量输入且无偏置的神经元。

神经元输出计算公式为:a=f(wp+b)。神经元中的w和b都是可调整的标量参数。可以选择特定的传输函数,通过调整权重 和偏置参量 训练神经网络做一定的工作,或者神经网络自己调整参数以得到想要的结果。

3) BP结构及算法描述

在实际应用中,神经网络用得最广泛的是反向传播网络(BP网络),典型的BP网络是三层网络,包括输入层、隐含层和输出层,各层之间实行全连接。

BP网络是采用Widrow-Hoff学习算法和非线性可微传输函数的多层网络。网络的学习过程由正向和反向传播两部分组成。在正向传播过程中,每一层神经元的状态只影响到下一层神经元网络,如果输出层不能得到期望输出,就是实际输出值与期望输出值之间有误差,那么转入反向传播过程,将误差信号沿原来的连接通路返回,通过修改各层神经元的权值,逐次地向输入层传播去进行计算,再经过正向传播过程,这两个过程的反复运用,使得误差信号最小。实际上,误差达到人们所希望的要求时,网络的学习过程就结束了。

4) 反向传播算法

反向传播学习算法最简单的应用是沿着性能函数最速增加的方向一梯度的负方向更新权重和偏置。这种递归算法可以写成:

xk+1=xk-ak*gk

这里xk是当前权重和偏置向量,gk是当前梯度,ak是学习速率。在神经元中,学习速度又称为“学习速率”,它决定每一次循环训练中所产生的权值变化量(即该值的存在是神经元网络的一个必须的参数)。大的学习速度可能导致系统的不稳定,但小的学习速度将会导致训练较长,收敛速度很慢,通常情况下取值在0-01~0,8之间。

3 基于BP神经网络的学生综合素质量化评估模型

从上述对神经元网络基本概念的研究,我们可以看出BP神经网络主要根据所提供的数据,通过学习和训练,找出输入与输出之间的内在联系,从而求取问题的解,而不是完全依据对问题的经验知识和规则,因而具有自适应功能,这对于弱化权重确定中的人为因素是十分有益的;其次能够处理那些有噪声或不完全的数据,具有泛化功能和很强的容错能力;由于实际对学生量化评估往往是非常复杂的,各个因素之间相互影响,呈现出复杂的非线性关系,人工神经网络为处理这类非线性问题提供了强有力的工具。因此与其它评定方法相比,基于神经网络的评价方法越来越显示出它的优越性。结合学校对学生进行综合素质评估考核的具体问题,我们提出以下设计。

3.1量化评估内容的确定

1) 确定学生的综合素质结构

学生的综合素质结构,主要是根据一定历史阶段的社会要求、学校对学生的传统要求,以及各个不同年龄阶段学生心理和生理发展的特征来确定的,它具有一定的社会性、科学性、可行性。以教育部提出的职业学校学生发展目标为依据,评定内容包括:道德品质与公民素养、学习能力、交流与合作能力、运动与健康、审美与表现、职业技能等6个层次。每个层次又包括各种因素,各层次和因素之间又是相互联系和相互促进的,它既反映了社会的、学校的具体要求,又符合学生综合素质发展和形成的规律。当然,在实际评价学生中,可以根据学校的实际特点进一步确定各要素,进一步构成学生综合素质评价的综合评价指标体系。

2) 学生综合素质评价的结构设计

用BP神经网络进行学生综合素质评价结构的设计如图3所示。对学生的综合素质进行量化评估时,从输入层输入评价学生综合素质的n个评价指标因素信息,经隐含层处理后传入输入层,其输出值y即为学生评估结果。这n个评价指标因素的设置,要考虑到能符合学生综合素质发展和形成的规律,能全面评价学生的综合素质状况。

网络结构的参数选择十分重要,由于输入层与隐含层神经元个数的增加会增加网络的表达能力,不仅会降低系统的性能,同时也会影响其收敛速度和增加噪声干扰。所以首先必须确定输入层神经元的数目。为使模型即有理论价值又有可操作性,本例对应于对学生综合素质考核结构的六个因素,本文采用6个输入神经元,分别为道德品质与公民素养、学习能力、交流与合作能力、运动与健康、审美与表现、职业技能等评价指标。由于目前隐单元数尚无一般的指导原则,为了兼顾网络的学习能力和学习速度,隐含层神经元的个数选择采用试算法,在网络训练过程中进行调整。笔者首先选定15,用训练样本来学习,然后减少隐含层单元数后再进行学习,通过观察训练误差变化的大小来调整隐单元数。其原则是:若在减少隐单元数进行训练时过程平衡(即逐步收敛并达到较小的误差)且误差无显著增加,则说明减少隐单元数是合适的;否则表明隐单元数不宜减少,而应增加隐单元数直到满意为止。选择一个输入神经元为学生综合素质最终评价结果,分别以0、0,5、1对应于学生评议等级的优、良、中三种不同的评价结果。经过多次实验,最后得到适宜的网络模型为6-4-1网络模式。

3.2 量化评估模型

1) 指标体系的规范化处理

根据神经网络计算规则,为了保证输出在线性部分,不到两端去,应保证输入输出在0-1之间,反传达时也一样,输出应在0~1之间。因此要将原始数据归一预处理,变换为[0,1]区间的数值,得到规范化数据,作为输入输出节点的样本数据。原始数据采用我校高一年一个班级的50名学生的学生综合素质各项指标因素样本数据,将实际数据分为两组:前40名学生的各项指标因素成绩样本数据作为学习样本,后10名学生的成绩数据作为测试样本。

2) 学习算法

本模型采用6-4-1BP神经网络结构,其中输入层为6个指标值和一个阈值。模型初始化时对所有的连接权赋予(0,1)上分布的随机数,阈值取1。权值的修正依据带惯性因子的delta规则。根据多次试验的结果,其中,惯性因子α=0.075,学习率η=0.85,将样本数据40组为一次循环,每次循环记录40组样本中最大的学习误差。经过多次的学习,最后观察网络输入与期望输出的相对误差,当误差小于0.005时,学习结束。可以得到如果增大样本的个数,精度还会进一步提高。

本文探讨了神经网络在学生综合素质评价上的应用方法,可取得较为理想的结果,它可以解决用传统统计方法不能或不易解决的问题。但是由于它是一种黑盒方法,无法表达和分析评估系统的输入与输出间的关系,因此也难于对所得结果作任何解释,对求得的结果作统计检验;再者,采用神经网络作评价系统时,由没有一个便于选定最合适的神经网络结构的标准方法,只能花大量时间采用凑试法,从许多次实验中找出“最合适”的一种;还有样本数据需要足够的多,才能得到较为理想的结果。

参考文献:

[1] 高长梅,赵承志,白昆荣.学校德育工作全书(上)[M].北京:人民日报出版社,2005.

[2] 闻新,周露,李翔,张宝伟.MATLAB神经网络仿真与应用[M].北京:科学出版社,2008.

[3] J.P.Marques de sa,Pattern Recognition―Concepts,Methods and Applications[M].北京:清华大学出版社,2006.

篇6

(中国蚌埠汽车士官学校装备技术系,安徽 蚌埠 233000)

【摘 要】神经网络具有并行处理能力、自学习能力,自适应能力和可以逼近任意的非线性函数等特点,是解决非线性、多变量、不确定的复杂诊断问题的一条有效的途径,神经网络的这些特点使得它在故障谚断领域应用越来越广泛。本文利用LM改进学习算法训练所建立的BP神经网络,然后利用训练好的神经网络进行柴油机故障诊断,得出诊断结果,使故障诊断具有人工智能化。

关键词 BP神经网络;优化;故障诊断;仿真

1 BP神经网络

BP神经网络是多层前馈神经网络,它的名字源于网络权值的调整规则,采用的是后向传播学习算法,既BP算法。BP网络是目前应用最广的神经网络之一,BP网络是由一个输人层,一个或多个隐层以及一个输出层组成,如图1所示,上下层之间实现全连接,而每层神经元之间无连接。网络的学习过程包括正向传播和反向传播。在正向传播进程中,输入信息从输入层经隐层加权处理传向输出层,经功能函数运算后得到的输出值与期望值进行比较,若有误差,则误差反向传播,沿原先的连接通道返回,通过逐层修改各层的权重系数,减小误差。随着这种误差逆向传播修正的不断进行,网络对输入模式响应的正确率也不断上升。

研究表明,带有两个隐层的BP网络能形成任何形状的决策区域。当BP网用作非线性映射时,允许网络实现输入到输出之间的任意映射关系,即可建立故障征兆空间与故障空间的某种映射关系,每当给出一个实测的故障征兆矢量,网络即能通过状态演化(前传和联想)收敛到与其最相近的模式,从而诊断其故障原因。典型的基于神经网络模式识别的故障诊断系统结构如图2所示。

2 BP神经网络的不足

BP神经网络模型虽然在各方面都具有重要意义,而且应用也很广泛,但它也存在一些不足。从数学上看,它是一个非线性优化问题,不可避免的存在局部极小点,学习算法的收敛速度慢,网络隐层单元数选取带有很大的盲目性和经验性,新加入的样本要影响已学完的样本等。

具体来说,BP算法对样本进行逐个学习时,常会发生“学了新的,忘了旧的”的遗忘现象。故此值得对样本不断循环重复,这样一来其学习时间必然延长。为了克服这个缺点,将逐个学习改为批量学习,即对所有样本都进行学习后将其误差相加,然后用这个误差之和来对网络的权系数进行调整。但是这样一来,在误差求和时,这些误差有可能互相抵消,这就降低了算法的调整能力,也就是延长了学习的时间。所以,按批量学习其收敛速度也会很慢。同时,批量学习方法还有可能产生新的局部极小点。比如各误差不为零,但其总和为零,这种情况发生后算法就稳定在这个状态上,造成新的局部极小点。

3 BP神经网络学习算法的优化

为了提高神经网络算法的学习效率及稳定性,在反向传播(BP)算法中可以引入基于非线性最小二乘法的Levenberg-Marquart(LM)最优算法,替代原BP算法中的梯度下降法寻找最佳网络连接权值。

LM算法是一种优良的非线性最小二乘优化方法,这种方法的一般模型为:

LM算法是二阶收敛的Newton算法的变形,又称变尺度法。牛顿法的权值调整算法如下:

在Gauss-Newton法中,我们要求A是满秩的。遗憾的是在实际情况中,A为奇异的情况经常发生,使得算法常常收敛到非驻点。这样造成的结果是线性搜索得不到进一步下降,从而无法找到最优点。LM算法通过引入一个可变因子μ,将一个对角阵μI加到ATA上去,改变了原矩阵的特征值结构使其变成满秩正定矩阵,从而确保线性搜索的方向为下降的方向。其权值调整规则为:

我们可以利用μ来控制迭代,μ可以在一较大的范围内进行调整。μ较小时即为Gauss-Newton法;μ较大时即为最速下降法。μ参数的引入,以及在迭代过程中μ参数的可调节性,极大地改善了算法收敛的稳定性。

采用LM最优化算法训练神经网络,替代原BP算法中的梯度下降法寻找最佳网络连接权值。仿真试验证明,这种学习算法提高了BP网络算法的学习效率及稳定性,并提高了网络的收敛速度,更好的实现了对柴油机燃油压力信号的故障诊断。

4 基于优化的BP神经网络柴油机燃料系故障诊断

4.1 确定故障特征信息

柴油机燃油系统的状态信息主要体现在高压油管的压力波形中,当某处发生故障时,必然使原有供油状态发生变化,燃油流动的压力和流速等参数会有相应的改变,反映在压力波形上将导致波形形态和波形参数值的变化。因此利用压力传感器测取高压油管的燃油压力波形,并对波形进行分析、提取出故障特征,再利用人工神经网络模型对特征值进行模式识别就可达到故障诊断的目的。图3、图4分别为100%和25%供油量喷油压力波形图。

4.2 提取特征参数

特征参数的提取是模式识别过程中的重要环节,它关系到模式识别效果的准确性。由于燃油压力波形是一种规则波形,任一压力波形都标志着柴油机燃油系统的一种工作状态。压力波形的状态信息主要体现在波形的结构形态上,可以直接从其时域波形上提取波形的结构特征,并表示为便于计算的特征空间。根据分析和试验,对于燃油压力波形来说,最大压力、起喷压力、落座压力、次最大压力、波形幅度、上升沿宽度、波形宽度、最大余波宽度等特征最能表现出柴油机运行时的状况。为了获得最佳诊断效果,我们选用这八种参数构成特征向量空间,如图5所示。

4.3 BP神经网络的建立及故障诊断过程

4.3.1 数据样本采集

柴油机燃料系故障主要是供油量不足,主要表现为针阀卡死、针阀泄漏、出油阀失效等。在发动机800r/min时,用传感器分别采集正常油量、针阀卡死、针阀泄漏、出油阀失效四种状态的燃油压力数据,绘制出不同状态下的燃油压力波形,对每个波形手动提取出最大压力、启喷压力、落座压力、次最大压力、波形幅度、上升沿宽度、波形宽度、最大余波宽度这8个特征值。一般情况下,每个状态至少采集提取5个实际样本,每个样本都包括以上8个特征值,用来建立网络,训练网络,并进行故障诊断。

4.3.2 BP神经网络的建立和训练

新建BP神经网络NewNet,如图6所示,网络设计采用三层BP网络,网络的输入层个数为8个,输出层的个数为4个,隐含层的个数并不是固定的,经过实际训练的检验和不断的调整,确定隐含层的个数近似遵循下列关系n2=2n1+1。其中n1为输入层个数,n2为隐含层个数,因此隐含层个数为17个。

四种故障模式可以用如下形式表示输出:

正常油量(1,0,0,0);针阀卡死(0,1,0,0);针阀泄漏(0,0,1,0);出油阀失效(0,0,0,1)。

输入层至隐层的连接权Wij、隐层至输出层的连接权Vjt、隐层各单元的输出阈值θj、输出层各单元的输出阈值γj ,都选取为(-1~1)之间的随机数,然后按照BP网络的学习步骤进行学习。网络输入层的传递函数采用双曲正切S型传递函数Tansig,第二层传递函数采用S型对数函数Logsig,利用基于非线性最小二乘法的LM最优算法,替代原BP算法中的梯度下降法训练神经网络,求出最佳网络连接权值和阈值。

利用所采集数据样本,作为网络训练的原始样本,确定初始连接值和阈值后利用Matlab编程,训练的速度为0.1,训练误差精度为0.01,对网络训练9000次,得出最终的各个连接权值和阈值,训练结束。

4.3.3 故障诊断过程及结果

网络训练结束后,将表1中的测试数据输入训练好地BP网络。

经过运算后,网络输出层得出如下的诊断结果:

从测试结果可以看出,诊断结果与实测值具有良好的一致性,诊断误差分别为0.0043、0.0005、0.0035和0.0380可见诊断误差非常小,因此可以判定,该BP神经网络完全可以满足柴油机燃油系常见故障的诊断要求。

5 结束语

仿真试验表明,基于优化的BP神经网络的故障诊断结果与实测值具有良好的一致性,只要选择足够典型的原始故障样本训练BP神经网络,网络的容错性和稳定性就较好。针对设备运行的复杂性,仅选用单一的诊断参数往往会做出错误的判断,而基于神经网络的故障模式识别方法能充分利用信息特征,实现输人与输出之间的映射关系,得出准确的诊断结果。(下转第188页)

参考文献

[1]黄丽.BP神经网络算法改进及应用研究[D].重庆师范大学,2008:6-15.

[2]孙即祥.现代模式识别[M].国防科技大学出版社,2001,5.

[3]李国勇.智能控制及其MATLAB实现[M].电子工业出版社,2005,5.

[4]李焕良,等.基于BP神经网络的电气系统故障诊断[J].起重运输机械,2005,6:55-56.

[5]王俊生.柴油发动机燃油系统的故障分析研究[J].山西建筑,2003,4:250.

[6]董学刚.燃油压力波检测在机车柴油机故障判断上的应用[J].内燃机车,2002,7:25-27.

篇7

关键词:功率放大器; 预失真技术; 神经网络; 单入双出; 互调失真

中图分类号:TP18 文献标识码:A

文章编号:1004-373X(2010)09-0107-05

Research of Self-adaptive Digital Predistortion Technology Based on SIDO-neural Network

QIU Wei, LIU Yu-peng, ZHANG Lei-lei

(The base of China Ocean Measure, Jiangyin 214431, China)

Abstract: Because of inherent nonlinearity of high-power amplifier, which may cause bad influence on communication systems, it is necessary to make a linearization processing to overcome or weaken it. The math analysis of nonlinear distortion for the high-power amplifier(HPA) is performed. The basic principle of digital predistortion and the foundamental knowledge of neural network are described. A self-adaptive digital predistortion technology based on SIDO-neural network is proposed according to the amplifying amplitude and the distortion characteristic of phase, which can be improved by the technology. Taking a double-sound signal and 16QAM signal as an example, the Matlab simulation is carried out, The result proves that this technology is superior.

Keywords: power amplifier; predistortion technology; neural network; SIDO; intermodulation distortion

0 引 言

无线通信技术迅猛发展,人们对通信系统的容量要求也越来越大。为了追求更高的数据速率和频谱效率,现代通信系统都普遍采用线性调制方式,如16QAM和QPSK方式,以及多载波配置[1]。

但这些技术产生的信号峰均比都较大,均要求功率放大器具有良好的线性特性,否则就会出现较大的互调失真,同时会导致频谱扩展,造成临道干扰,使误码率恶化,从而降低系统性能。

预失真技术是一项简单易行的功放线性化技术,具有电路形式简单,调整方便,效率高,造价低等优点[2]。其中,基带预失真还能采用现代的数字信号处理技术,是最为看好的一项功放线性化技术。这里利用一种简单的单入双出三层前向神经网络来进行自适应预失真处理,同时补偿由高功率放大器非线性特性引起的幅度失真和相位失真,从而实现其线性化。

文中分析了基于这种结构的自适应算法,并做了相应的仿真。仿真结果表明,该方法能有效克服功放的非线性失真,且收敛速度比一般多项式预失真更快,具有一定的优势。

1 高功率放大器非线性分析

高功率放大器一般都是非线性器件,特别是当输入信号幅度变化较大时,放大器的工作区将在饱和区、截止区、放大区之间来回转换,非线性失真严重,会产生高次谐波和互调失真分量。由于理论上任何函数都可以分解为多项式的形式,故放大器的输入和输出关系表示为:

Vo=a1Vi+a2V2i+a3V3i+…+anVni(1)

假设输入的双音信号为:

Vi=V1cos(ω1t)+V2cos(ω2t)(2)

把式(2)代入式(1),得到输出电压为:

Vo=a22(V21+V22)+a1V1+a334V31+32V1V22+…cos(ω1t)+a2V2+a334V32+32V2V21+…cos(ω2t)+12a2V21+…cos(2ω1t)+12a2V22+…cos(2ω2t)+14a3V31+…cos(3ω1t)+14a3V32+…cos(3ω2t)+a2V1V2[cos(ω1+ω2)t+cos(ω1-ω2)t]+34a3V21V2[cos(2ω1+ω2)t+cos(2ω1-ω2)t]+

34a3V22V1[cos(2ω2+ω1)t+cos(2ω2-ω1)t]+58a5V31V22cos(3ω2-2ω1)t+58a5V21V32cos(3ω1-2ω2)t+…

从上式可以看出,输出信号中不仅包含了2个基频ω1,ω2,还产生了零频,2次及高次谐波以及互调分量。通常2ω1-ω2,2ω2-ω1,3ω1-2ω2和2ω1-3ω2会落在通频带内,一般无法滤除,是对通信影响最大的非线性失真分量,即所谓的三阶互调和五阶互调。放大器线性化的目标就是在保证一定效率的前提下最大地减小┤阶和┪褰谆サ鞣至俊

2 预失真基本原理及其自适应

预失真就是在信号通过放大器之前通过预失真器对信号做一个与放大器失真特性相反的失真,然后与放大器级联,从而保证输出信号相对输入信号是线性变化。预失真器产生一个非线性的转移特性,这个转移特性在相位上与放大器转移特性相反,实质上就是一个非线性发生器。其原理图如图1所示。

图1 预失真基本原理

预失真器的实现通常有查询表法和非线性函数两种方式[2]。由于查表法结构简单,易于实现,早期的预失真多采用此方法,但它对性能的改善程度取决于表项的大小,性能改善越大,需要的表项越大,所需要的存储空间也越大,每次查找遍历表项的每个数据和更新表项所需要的时间和计算时间也越长,因此在高速信息传输的今天已经不可取。非线性函数法是用一个非线性工作函数来拟合放大器输出信号采样值及其输入信号的工作曲线,然后根据预失真器特性与放大器特性相反,求出预失真器的非线性特性函数,从而对发送信号进行预失真处理。这种方法只需要更新非线性函数的几个系数,而不需要大的存储空间,因此是近年来研究的热点。

假设预失真器传输函数为F(x),放大器传输函数为G(x),F和G均为复函数。若输入信号为x(t),则经过预失真器之后的信号为u(t)=F[x(t)],放大器输出函数为y(t)=G[u(t)]=G{F[x(t)]},预失真的目的就是使x(t)通过预失真器和放大器级联后输出y(t)=ax(t),a为放大器增益。通过一定的方法可以找到合适的F,使实际输出和期望输出的误差最小。

由于温度、电器特性、使用环境等因素的不断变化,放大器的传输特性也会发生变化,从而预失真器传输函数F(x)的各参数也会随之而变化,因此现代数字预失真技术一般都要采用自适应技术以跟踪调整参数的变化。目前常用的两种自适应预失真结构如图2、图3所示。

图2 自适应预失真系统结构图

图3 复制粘帖式自适应预失真系统结构图

图2是一般的通用自适应结构,结构简单,思路明确,但一些经典的自适应算法由于多了放大器求导项而不能直接应用,且需要辨识放大器的传输特性,而图3的复制粘帖式结构(非直接学习)则不存在这些问题,关于这种结构的优缺点比较和具体性能分析见文献[3]。本文将采用后一种自适应结构。

3 基于一种单入双出式神经网络的自适应预失真技术

3.1 神经网络

神经网络是基于生物学神经元网络的基本原理而建立的。它是由许多称为神经元的简单处理单元组成的一类自适应系统,所有神经元通过前向或回馈的方式相互关联、相互作用。由Minsky和Papert提出的多层前向神经元网络是目前最为常用的网络结构,已广泛应用到模式分类和函数逼近中,且已证明含有任意多个隐层神经元的多层前向神经元网络可以逼近任意的连续函数[4]。本文利用神经网络的这种功能来拟合预失真器的特性曲线,并且用改进的反向传播算法来自适应更新系数。

多层前向神经元网络由输入层、一个或多个隐层和输出层并以前向方式连接而成,其每一层又由许多人工神经元组成,前一层的输出作为下一层神经元的输入数据。三层前向神经元网络示意图如图4所示,其中输入层有M个人工神经元,隐层有K个神经元,输出层有N个神经元。关于人工神经元的具体介绍参考文献[5-6]。

图4 三层前向神经元网络

3.2 基于单入双出式神经网络的自适应预失真系统模型

对于图5所示的单入双出式三层前向神经网络,假设隐层包含K个神经元。输入数据经过一系列权系数{w11,w12,…w1K}加权后到达隐层的各个神经元。隐层中的神经元将输入进来的数据通过一个激励函数(核函数),将其各神经元的输出经过一系列权系数{w21,w22,…,w2K}和{w31,w32,…,w3K}加权并求和后分别作为输入层第一个神经元和第二个神经元的输入,然后各神经元的输入通过激励函数得到两个输出。

将图5代替图3中的函数发生器,即得到本文中所提到的基于单入双出式前向神经网络的预失真器结构图,如图6所示。

神经网络的三组系数向量开始都随机初始化。设输入序列为xi(i=1,2,…),通过幅度提取和相位提取后得到信号的幅度序列和相位序列。若神经网络的输入为原始输入序列的幅度序列ri(i=1,2,…),则隐层各单元输入I1k=w1kri-θ1k。经过核函数后,隐层各单元的输出为J1k=f(I1k),其中f(x)=11+e-x为核函数,输出层的静输入为z1=∑Kk=1w2k*J1k-θ1,z2=∑Kk=1w3k*J1k-θ2,输出层神经元1的输出,即预失真器幅度预失真分量为U1=f(z1)。

图5 单入双出三层前向神经元网络

图6 单入双出式前向神经网络预失真器结构图

由于相位失真分量的输出范围没有限制在0和1之间,因此不能用核函数加以限制,这里设定输出层神经元2的输出等于其输入,即预失真器相位预失真分量为U2=z2,最后预失真后的幅度和相位和的指数相乘得到送入功放的复信号。功率放大器的输出信号设为yi(i=1,2,…),其幅度和相偏分别为yai(i=1,2,…)和ypi(i=1,2,…)。最后整个系统的幅度绝对误差为ea(i)=Gri-ya(i),相位绝对误差为ep(i)=U2(i)+yp(i),整个系统的绝对误差和为e(i)=ea(i)+ep(i),然而直接把此误差运用到反向传播算法(BP算法)中会导致算法出现局部收敛且收敛速度极慢。因此本文对误差信号做了改进,即把误差信号改为:

e(i)=12[λ(ea(i)]2+(1-λ)φ[ea(i)]+

λ[ep(i)]2+(1-λ)φ[ep(i)]

其中:φ(x)=In[cos(βx)]/β,加入的调整因子λ和辅助项φ,能把算法从局部收敛点拉出来,且收敛速度得到一定的提高。最后根据反向传播算法,得到训练神经网络的权系数更新式如下(下标2为隐层到输出层权系数,下标1为输入层到隐层权系数):

δ2a(i)=ca(i)*[1+U1(i)]*[1-U1(i)](3)

δ2p(i)=cp(i)(4)

w2(i)=α*δ2a(i)*J1+η*w2(i-1)(5)

θ2(i)=α*δ2a(i)+η*θ2(i-1)(6)

w3(i)=-α*δ2p(i)*J1+η*w3(i-1)(7)

θ3(i)=-α*δ2p(i)+η*θ2(i-1)(8)

δ1(i)=(δ2a(i)*w2-δ2p(i)*w3)*

J1(i)*[1-J1(i)](9)

w1(i)=β*δ1(i)*ri+η*w1(i-1)(10)

θ1(i)=β*δ1(i)+η*θ1(i)(11)

式中:ca(i)=λea(i)-1-λ2tan[β*ea(i)];cp(i)=λ*ep(i)-1-λ2tan[β*ep(i)]。

预失真权系数可分为训练和跟踪两个阶段。根据上面的迭代公式,得到一组训练神经网络的权系数,用当前的权系数替代预失真器神经网络中原来的权系数,得到一组新的预失真系数,之后重新计算误差,继续上面的过程循环迭代运算,直到误差小于规定的范围,即整个系统收敛,则预失真器训练完成,此时为训练阶段。之后随着温度、输入的调制信号不同,以及环境等变化可能引起功放特性的变化,可以设置一个误差门限值,一旦发现误差超过此门限,立即重新启动上面的循环迭代,重新训练,直到满足条件,此时为跟踪阶段。这种改进型BP算法的收敛速度快,能满足实时运算的要求。同时在硬件实现上,只要做一个核函数发生器,其他都是乘累加运算,硬件实现要简单得多,因此具有一定的实用性。

4 性能仿真

文中使用双音信号进行了仿真分析,双音信号为:

xs=0.5[sin(2π×10×t)+sin(2π×8×t)]

放大器模型采用经典salef[9]模型,神经网络的隐层数设为15。图7为双音信号原始频谱。

图8是为双音信号直接通过放大器和通过文中所提的预失真网络后再通过放大器的频谱图对比。由此可见,双音信号直接通过放大器后产生了较大的失真,其中的三阶互调达到了-16 dB,五阶互调也有-29 dB。通过对文中所提神经网络预失真系统进行处理后,即信号通过预失真器再通过放大器后,三阶互调被抑制到-42 dB,五阶互调也被抑制到-48 dB以下,此时三阶互调改善26 dB,五阶互调改善19 dB,使放大器的非线性失真得到较大的抑制。

图7 原始信号归一化频谱图

图8 预失真前后信号归一化频谱图

下面以16QAM信号为例,说明这种预失真技术对功放非线性特性的改善,如图9所示。

图9(a)为16QAM信号规则星座图,调制信号均匀地分布在正方形的16个点上;图9(b)为16QAM信号经过功率放大器后解调的星座图。由图可见,信号经过放大器后,幅度受到压缩,相位发生偏移,并且输入信号幅度越大,输出信号幅度压缩越大,相位偏移越严重,最后出现严重的“云团效应”,使得接收端不能正确解调信号。图9(c)是经过本节所提出的单入双出式神经网络预失真器处理后解调信号的星座图。由图可见,经过预失真处理后,由于放大器非线性引起的幅度压缩和相位旋转都得到较好的纠正,“云团效应”明显减弱,最后各个点基本都在理想点上,与┩9(a)对比,基本消除了失真。

5 结 语

针对放大器固有的非线性特性问题,从数学上分析了放大器的非线性失真,介绍了基于预失真基本原理和神经网络基本概念,提出了一种单入双出式神经网络自适应预失真技术。仿真结果表明,该技术能对三阶互调能抑制29 dB左右,对五阶互调能抑制19 dB左右,对QAM调制信号由于放大器非线性引起的幅度压缩和相位旋转都得到较好的纠正,在很大程度上克服了放大器非线性特性,改善了通信系统的性能。

图9 16QAM信号星座图失真及改善对比

参考文献

[1]赵慧,漆兰芬.射频放大器的工作函数预失真线性化[J].无线电工程,2001,31(12):58-61.

[2]贾建华,刘战胜.关于自适应预失真射频功率放大器线性化研究[J].微波学报,2005,21(3):48-50.

[3]钱业青.一种高效的用于RF功率放大器线性化的自适应预失真结构[J].通信学报,2006,27(5):35-40,46.

[4]CYBENKO G. Approximations by superpositions of a sigmoidal function[J]. Mathematics of Control, Signals and Systems, 1989(2): 183-192.

[5]刘宝碇,赵瑞清,王纲.不确定规划及应用[M].北京:清华大学出版社,2003.

[6]朱剑英.只能系统非经典数学方法[M].武汉:华中科技大学出版社,2001.

[7]WU Shan-yin, SIMON H S F, WONG Y M. The use of nonlinear curvefitting in digital predistortion for linearizing RF power amplifiers[J]. IEEE ICICS, 2005, 3: 960-963.

[8]GLENTIS G O, BERBERDIS K, THEODORIDID S. Efficient least sqares adaptive algorithms for FIR transversal filtering[J].IEEE Signal Processing Magazine,1999,16(4):13-41.

篇8

从建设工程造价指数的内涵和编制过程来看,其在建设工程中得到了广泛应用,具体表现在以下几个方面:

(1)建设工程造价指数在工程决策阶段得到了重要应用。在工程决策阶段,建设工程造价指数的运用,为投资方提供了工程总体造价的参考,保证了建设工程项目总体造价能够有一个大致的范围作为依据,满足建设工程造价管理需要,为满足投资方需求提供了有力支持。因此,对于建设工程而言,建设工程造价指数在工程决策阶段得到了重要应用。保证了建设工程的正常进行。

(2)建设工程造价指数在工程施工阶段得到了重要应用建设工程项目的实际施工来看,工程造价管理是贯穿于整个工程项目的重要管理手段,对建设工程而言意义重大。结合当前建设工程造价管理实际,在工程施工阶段中,工程造价指数为施工方法提供了具体的造价依据,便于施工方合理控制总体投资,在满足工程建设需要的同时,有效节约资金,保证工程造价管理能够在施工阶段取得积极效果。

(3)建设工程造价指数在工程结算阶段得到了重要应用。在建设工程的竣工结算阶段,其结算依据主要依靠工程前期制定的造价来确定,这不但是工程造价管理的重要内容,同时也是工程造价管理的有效延伸。在这一过程中,工程造价指数得到了具体应用,为工程竣工结算提供了具体依据,保证了工程竣工结算的准确性和实效性,满足了建设工程竣工结算的实际需要。

2建设工程造价指数及其造价预测的实证研究

2.1信息采集

本文以住宅建筑工程造价指数为例进行预测实证分析。为某市2011年一季度~2013年三季度小高层住宅的建筑工程造价指数。拟以2011年一季度~2013年一季度的建筑工程造价指数为建模数据集,以2013年二季度和2013年三季度的建筑工程造价指数作为测试数据进行预测实证分析。

2.2模型建立

首先利用2011年一季度~2013年一季度9个季度的造价指数预测2013年二季度的造价指数,则原始序列对Y进行加速平移变换和加权平均处理得序列即2013年二季度造价指数的最终预测值为123.3。接下来将该预测值与前9个季度的实际值作为原始序列,对2013年三季度的造价指数进行预测,得最终预测结果为126.2。

2.3预测结果分析

几种模型预测结果精度对比如表2,模型拟合曲线对比。通过对比5种模型的预测结果和拟合效果可以发现,随机振荡GM(1,1)模型的预测精度和拟合效果要好于传统GM(1,1)模型,蚁群改进BP神经网络模型的预测精度和拟合效果要好于BP神经网络模型,而随机振荡GM(1,1)与蚁群改进BP神经网络组合循环模型的预测精度和拟合效果最好。这主要是因为随机振荡GM(1,1)与蚁群改进BP神经网络组合循环模型在改进传统GM(1,1)模型与BP神经网络模型的基础上,能更好地将灰色系统模型弱化数据随机性和波动性的优点与人工神经网络非线性、自适应能力强的特点相融合,不仅提高了模型的稳定性,拓宽了模型的适用性,也大大提高了模型的预测精度。因此可以将其作为建设工程造价指数的预测模型。

3结束语

篇9

关键词:图像采集和处理;图像检测;Gabor纹理滤波;神经网络

DoI:10.15938/j.jhust.2016.06.009

中图分类号:TPl83;TP391.4

文献标志码:A

文章编号:1007-2683(2016)06-0044-06

0.引言

钢铁企业为了提高竞争力,对带钢的生产提出了新的要求,也对带钢表面检测系统提出了更高的要求,既要有更高的检测速度还要有更加准确的检测精度,而与此同时,跟随机器视觉技术的发展,带钢表面检测系统也得到了广泛的研究与应用,主要研究包括:①光源技术,由于带钢检测对光源要求频度高、体积小,这限制了传统光源在其应用,激光具有方向性好、亮度高、体积小等优点,被广泛应用于带钢检测应用中,国内的徐科等提出热轧钢检测中用绿光作为激光光源,但激光照明需解决均匀性问题.②扫描技术,由于电荷耦合元件(charge-coupled device,CCD)能够实现实时检测,成为目前研究和应用的主流技术,但是,CCD电荷耦合器需在同步时钟的控制下,以行为单位一位一位地输出信息,速度较慢,而互补金属氧化物半导体(complementary metal oxide semiconductor,CMOS)光电传感器采集光信号的同时就可以取出电信号,还能同时处理各单元的图像信息,速度比CCD电荷耦合器快很多,③图像处理算法,受限于带钢加工过程的特性,带钢表面呈现出随机纹理的特点,对于随机纹理图像的处理分析,目前常用的方法有共生矩阵法、频域滤波法、分形法等,作为频域滤波法的代表,二维Gabor滤波器有着与生物视觉系统相近的特点,广泛应用于纹理图像的处理分析,但是,CPU很难满足现在的带钢检测的实时要求,④分类算法,特征选择的主流算法是主成分分析和信息增益,主成分分析存在特征向量方向不一致的问题,而且如何确定主成分存在主观性,信息增益可以衡量特征的劣,利用它可对特征进行排序,方便后面的特征选择,但信息增益适用于离散特征,信息增益率既适用于离散特征也适用于连续特征,被广泛应用于特征选择的过程中,图像分类算法主流算法包括支持向量机和BP神经网络,支持向量机不适用于大样本的分类问题,BP神经网络方法具有能够解决非线性分类问题,对噪声不敏感等优点,被广泛应用于带钢检测中,如王成明等提出的基于BP神经网络的带钢表面质量检测方法等,但是BP神经网络的超参的设定往往具有随机性,这严重影响了分类效果。

本文首先介绍了带钢表面缺陷高速高分辨率成像系统的设计,针对光源的不均匀性、图像处理速度慢等问题,提出改进方法,然后介绍了分类器的构建,针对样本划分的随机性、特征选择的随机性以及BP神经网络超参设定的随机性问题,做出改进,最后介绍试验结果。

1.带钢表面缺陷高速高分辨率的成像系统的设计

1)大功率半导体均匀发光激光器技术,激光能够保证带钢表面缺陷的检出率,本系统选用808mm半导体激光器作为照明源,出光功率可达30w,亮度可达1500流明,激光照明需解决均匀性的问题,本文采用了基于鲍威尔棱镜的激光线发生办法,解决了激光照明的均匀性问题,其光路如图1所示。

该方法首先在激光聚焦位置放置圆形球面透镜,负责将发散的激光束汇聚成准平行光,同时控制光柱的粗细,然后,利用鲍威尔棱镜的扩散效果对圆柱的一个方向进行扩束,最终形成激光线,为保证亮度及宽度的适应性,激光器出光口距离圆透镜、鲍威尔棱镜的距离可以精密调整,为了降低反射亮度损失,在透镜表面镀上808±5nm的T≥99%的增透膜。

GPU的算法分为两个流程:训练过程主要针对无缺陷图像进行,通过训练完成纹理图像的背景建模,一方面消除背景变化带来的干扰,另一方面形成有效的Gabor卷积参数,以便在检测过程中得到最优的检出效果.检测过程对实际拍摄的缺陷图像进行分析,首先按照GPU的核心数和缓存大小对图像进行分解,本文所有GPU的核心数为1024,显存2G,因此将原始图像分解为1000块,分别加载到1000个核心中,同时并发运行卷积运算.最后将各个窗口的卷积结果合并到一起,得到完成的滤波结果,最后借助于背景模式,将背景的干扰消除,得到干净的缺陷区域。

3)成像系统,根据缺陷检测的精度要求(1800m/min的检测速度,0.25mm的精度),带钢的规格要求(1900 mm规格),对带钢进行成像系统设计,基于互补金属氧化物半导体(CMOS)的成像芯片具有速度快,用电低等优势,选用两个4K线扫描CMOS相机作为成像核心器件,选用Camera Link Full接口作为数据输出,两个4K扫描中间重叠100mm作为图像拼接区,两组线激光光源与线扫描组成系统的主要成像模块,成像系统结构如图3所示。

2.构建分类器

检测缺陷类别及其特征描述如表1所示:

1)训练集和样本集划分.主要缺陷类别有5个,每个类别收集样本7000,共计35000个样本,为了避免训练集和样本集划分的盲目性,采用10一折交叉验证的方式划分训练集和测试集,即将样本集分成10份,从中选1份为测试集,剩下的为训练集,如图4所示,究竟选择哪一份作为测试集,需在后面的嵌套循环中实现。

2)特征选择,缺陷区域的长度、宽度、面积、区域对比度等共计138个特征形成初始特征集合,利用信息增益率来对各个特征排序。

上述各循环组合在一起就是一个嵌套循环,其N-S盒图如图5所示,最外层是测试集和训练集的10折交叉验证,第1层是确定最优的特征数,第3层是确定最优的隐含层节点数,第4、5层是确定最优的输入层和隐含层、隐含层和输出层的初始权值。

经以上循环,确定D3作为测试集,最优特征数为23个,最优的隐含层节点数是46个,同时也确定了最优的初始权值,对应的3层BP神经网络的网络模型如图6所示。

3.实验结果

1)鲍威尔棱镜与柱透镜进行对比在实际工作距离1.5m处,采用0.1m为间隔使用光功率计测试光源功率,如图7所示,横轴为测试点,纵轴为测试点的光功率。实验表明,鲍威尔棱镜均匀性优于柱透镜。

2)Gabor滤波方法与其他方法比较将动态阈值法+Blob分析法(方法A)和灰度共生矩阵纹理背景消除法(方法B)两种方法与Gabor滤波方法进行比较,如图8所示.由于缺陷与背景灰度相近(图(a)),致使方法A缺陷丢失(图(b)),由于缺陷与背景纹理相近(图(d)),致使方法B产生噪声(图(e)),Gabor方法取得了不错的效果(图(e)、(图(f)))。

3)GPU与CPU比较以4096×4096的图像为例,选10幅有代表性图像,利用CPU(最新的inteli7-2600处理器,4核8线程,2.6GHz,内存8G)和GPU(nVidiaGTX970,4G存显卡)进行Ga-bor运算,计算时间如表2所示,GPU计算效率明显优于CPU,其中CPU的平均耗时为290.4ms,而GPU的平均耗时为31.7ms。

4)检测效果在产线速度为1775m/min,最小检测缺陷的尺寸为0.25mm的检测系统中,对带钢的主要4种类型缺陷进行检测统计,检测结果如表3所示。

可计算出整体检出率99.9%,检测准确率99.4%。

篇10

关键词能源需求预测,粒子群算法,BP神经网络,主成分分析法

中图分类号F201 文献标识码A

Construction of Energy Demand Forecasting

Model and Empirical Analysis of Guangdong Province

YE Yiyong

(College of Economics & Management Wuyi University Jiangmen, Guangdong 529020,China)

AbstractIn order to make accurate forecast for energy demand of Guangdong province, this paper analyzed the various factors which impact on energy demand of Guangdong province, and constructed the predict index system. On this basis, according to the nonlinear characteristics of the energy system, combined with the advantages of particle swarm optimization algorithm and BP neural network, a prediction model was constructed based on PSOBP neural network. And the method of principal component analysis was used to reduce the dimensions of the prediction index system in order to reduce the size and complexity of the neural network. Then, this paper simulated the energy demand data of Guangdong province from 1985 to 2013, and carried on the forecast energy demand of Guangdong province during 2014 to 2018. The theoretical analysis and empirical study show that this method can reflect the characteristics of energy demand of Guangdong province, and the predicted result is more accurate and reasonable.

Key words forecasting of energy demand, PSO, BP neural network, PCA

1引言

随着社会经济的快速发展,各行业对能源的需求大幅度增加.据统计,广东省2000年的能源消耗量是7 983万吨标准煤,2013年的能源消耗量上升到25 645万吨标准煤,是2000年消耗量的3.2倍,其中一次能源消费90%依赖省外,二次能源消费中的电力消费有10%也是依赖省外,据估算,未来10年这个比例将达到30%左右.经济快速发展所带来的巨大能源需求与供给不足之间的矛盾越来越严重,能源短缺已成为制约广东省经济持续发展的关键问题,如果不采取有效的措施,将会延缓广东省产业结构的转型升级优化,乃至影响全省经济的稳步增长.系统地分析广东省能源需求的影响因素,准确地预测广东省未来能源需求的数量,进而制定科学合理的能源发展战略,确保广东省经济可持续发展,具有非常重要的现实意义.

2文献综述

能源系统是一个复杂的非线性系统,其需求量受到众多因素的影响.当前很多学者已经对能源需求问题进行了深入的研究,使用的预测方法包括趋势外推法、消费弹性法、主要消耗部门预测法、回归分析法预测等[1-3],取得了一定的效果.但在预测精度方面还存在一定的差距,一方面是由于能源系统本身的复杂性、非线性、非确定性的特征导致的,另一方面是因为预测方法本身还存在一些不足之处,不足以完全准确反映预测目标和指标体系之间的数量关系.要解决上述问题,除了需要构建科学的预测指标体系,更关键的就是要寻找更加科学有效的预测方法.

鉴于此,部分学者开始研究能源系统的非线性和不确定性等系统特征,如自组织特征、分形特征、混沌特征和模糊性等,并在此基础上引进非线性方法对能源需求进行预测,如非线性/混沌时间序列方法、遗传算法、灰色理论、人工神经网络方法等[4-8],这些方法可以弥补线性模型在预测复杂能源需求时的不足.其中具有代表性的方法是人工神经网络,它是由大量神经元通过极其丰富和完善的连接而构成的自适应、非线性动态系统,它从结构、实现机理和功能上模拟生物神经网络,通过并行分布式的处理方法,克服了传统的基于逻辑符号的人工智能在处理直觉、非结构化信息方面的缺陷,具有自适应、自组织和实时学习的特点[9].它在解决非线性及高维模式识别问题中表现出许多特别的优势,受到学者的青睐.当前,已有众多学者将神经网络及其扩展模型应用于时间序列预测方面,并取得了很好的效果[10-15].

通过对文献的综合分析发现,神经网络及其相关的模型已经被广泛应用到金融、工业、交通等领域,但是在能源需求预测领域的应用较少.针对广东省能源需求系统具有非线性和影响因素众多等特征,建立了基于改进的PSOBP神经网络的预测模型,给出了方法的基本原理和具体实现步骤,然后通过对广东省1985―2013年能源需求历史数据的建模和仿真,验证了方法的有效性,最后对广东省未来5年的能源需求进行预测,为能源管理者提供决策参考的依据.

3广东省能源需求影响因素分析

能源需求受到多方面因素的影响,本文结合其他学者的研究成果[16-18],遵循可获得性、可比性、实际性、综合性的原则,从以下几个方面对影响能源需求的因素进行分析.

①经济增长.经济增长是影响能源需求的主要因素,随着广东省社会经济的快速发展和产业结构的持续优化,对能源的需求量将在很长一段时间内保持较高的水平.衡量经济增长的指标本文采用国内生产总值(GDP).

②产业结构调整.三大产业中,工业的发展对经济增长的贡献最大,对能源的需求也最大,第一、第三产业对能源的需求相对较少.工业的快速发展所带来的负面影响是显而易见的.近年来,广东省在产业结构优化和转型升级方面出台了一系列的政策措施,随着我省产业结构的调整,对能源需求数量的必将产生很大的影响.

③能源消费结构.该项指标反映了各种消费能源在消费总量中所占的比例关系,广东省的能源消费以煤为主,据统计,超过50%的能源来自煤炭燃烧.煤炭为不可再生能源,利用率较低,容易污染环境,政府在大力推行开发可再生能源和清洁能源,改善能源消费结构,降低能耗指数.

④技术进步.首先是通过先进技术的应用,改善生产工艺和流程,提高能源的利用率,节约能源消费;其次是将技术应用于新能源开发,从而改变能源消费结构,进而影响能源消费总量.由于技术进步难以量化,本文使用单位GDP的能耗来表示.

⑤人口和城市化.能源是人类生存和发展的物质前提,人类的衣食住行与能源息息相关,人口基数越大,对能源的需求量就越大,随着工业化、城镇化进程的加快,人民生活水平稳步提升,对能源需求的影响更加明显.

⑥居民生活消费水平.居民生活水平的提高,以及消费观念和消费行为的变化,会直接导致产业结构的变动,进而影响能源消费的数量,特别是增加对电力、液体和气体燃料等优质能源的需求.

综上所述,影响能源需求的主要因素有经济的增长(广东省GDP)、产业结构(工业在国民经济中的比重)、能源消费结构(煤炭的消费比重)、技术进步(单位GDP的能耗)、人口(广东省人口数量)、城市化(全省城镇人口所占的比重)、居民人均消费水平,预测对象为广东省每年的能源消费数量.

4PSOBP能源需求预测模型构建

4.1BP神经网络模型

BP神经网络是一种多层前馈神经网络,该网络的主要特点是信号向前传递,误差反向传播.在前向传递中,输入信号从输入层经过隐含层逐层处理,直至输出层.每一层的神经元状态只影响下一层神经元状态.如果输出层得不到期望输出,则转入反向传播,根据预测误差调整网络权值和阈值,从而使BP神经网络预测输出不断逼近期望输出[19].BP神经网络的拓扑结构如图1所示,BP算法如下.

1)各层权值及阈值的初始化.

2)输入训练样本,并利用训练样本对网络进行训练,计算各层输出.

3)求出并记录各层的反向传输误差.

4)按照权值以及阈值修正公式修正各层的权值和阈值.

5)按照新的权值重复2)和3).

6)若误差符合预设要求或者达到最大学习次数,则终止学习.

7)使用训练好的模型对预测样本进行预测.

4.2标准粒子群优化算法

粒子群优化算法(Particle Swarm Optimization)源于对鸟类捕食行为的研究,鸟类捕食时,每只鸟找到食物最简单有效的方法就是搜寻当前距离食物最近的鸟的周围区域.PSO算法就是从这种生物种群行为特征中得到启发并用于求解优化问题的.算法中每个粒子代表问题的一个潜在解,每个粒子对应一个由适应度函数决定的适应度值.粒子的速度决定了粒子移动的方向和距离,速度随自身及其他粒子的移动经验进行动态调整,从而实现个体在可解空间的寻优[19].

假设粒子群的种群规模为Z,搜索空间为Y维,第i个粒子的位置表示为

Xi={xi1,xi2,…,xiY},i=1,2,…,Z,第i个粒子的速度表示为Vi={vi1,vi2,…,viY,第i个粒子的个体极值表示为Pi={pi1,pi2,…,piY,当前的全局极值表示为Pg={pg1,pg2,…,pgY.因此,粒子的速度与位置按下式更新:

Vi(k+1)=ωVi(k)+c1r1(Pi(k)-Xi(k))+

c2r2(Pg(k)-Xi(k)),

Xi(k+1)=Xi(k)+Vi(k+1),

vij(k+1)=vmax,vij(k)>vmax,

-vmax,vij(k)

其中,ω为惯性权重,是平衡粒子的全局搜索能力和局部搜索能力的参数;c1和c2为加速因子,是调整粒子自身经验和群体经验对粒子运动轨迹的影响的参数;r1和r2是在[0,1]区间内均匀分布的两个随机数;vmax为粒子的最大速度,是用来限制粒子的速度的参数,vij为第i个粒子在第j维的速度.

4.3改进的粒子群优化算法

标准的粒子群算法虽然具有收敛速度快、通用性强等优点,但由于算法实现过程仅利用了个体最优和全局最优的信息,因此导致种群的多样性消失过快,出现早熟收敛、后期迭代效率不高、容易陷入局部最优等缺点,增加了寻找全局最优解的难度.要解决上述问题,可以从以下两方面进行改进.

4.3.1动态调整惯性权重

惯性权重ω用来控制粒子之前的速度对当前速度的影响,它将影响粒子的全局和局部搜索能力.较大的ω值有利于全局搜索,较小ω值有利于局部搜索,但在标准的PSO算法中,ω的值是固定的,在算法运行过程中,根据实际情况给ω赋予动态变化的值,使得算法能够平衡全局和局部搜索能力,这样可以以最少的迭代次数找到最优解.经验参数是将ω初始值设定为0.9,并使其随迭代次数的增加线性递减至0.3,以达到上述期望的优化目的.通过线性转换来完成上述参数值变化的过程.

ω=ωmax-ωmax-ωminnN. (2)

其中ωmax,ωmin分别是ω的最大值和最小值,n和N是当前迭代次数和最大迭代次数,在迭代开始时设ω=ωmax,ω在迭代过程中逐渐减小,直到ω=ωmin.

这样设置使PSO算法能够更好的控制探索与开发的关系,在开始优化时搜索较大的解空间,找到合适的粒子,然后在后期逐渐收缩到较小的区域进行更精细的搜索以加快收敛速度.

4.3.2增加粒子的多样性

在此借鉴遗传算法中变异的思想,对部分符合条件的粒子以一定的概率重新初始化,目的是通过变异操作来保持种群的多样性,拓展种群的搜索空间,使得粒子能够跳出当前局部最优的位置,在更大的空间继续搜索全局最优值.引入线性动态变异算子:

Fn=Fmin-nN(Fmin-Fmax).(3)

式中,Fn为当前的变异概率;n为当前的迭代次数;N为最大的迭代次数;Fmax,Fmin为最大的变异概率和最小的变异概率.

刚开始迭代时,种群以一个极小的概率发生变异,至迭代后期,变异概率迅速扩大,粒子可以迅速跳出当前的搜索区域,在更大的区域内寻找最优解.

4.4改进的PSOBP神经网络模型

BP神经网络的学习过程主要是权值和阈值的更新过程,采用的学习算法是以梯度下降为基础的,但梯度下降法的训练效果过于依赖初始权值的选择,且存在训练时间长、易陷入局部极小等问题.而粒子群算法可以避免梯度下降法中要求函数可微、对函数求导的过程,也避免了遗传算法中的选择、交叉等操作,具有收敛速度快、记忆性强和全局搜索能力较强等特点[20],可以将两种算法结合起来,利用PSO算法中粒子的位置来对应神经网络网络中的连接权值和阈值,以神经网络的输出误差作为PSO算法的适应函数,通过PSO算法的优化搜索来训练神经网络的权值和阈值,可以弥补BP网络在学习能力和收敛速度上的不足,既充分发挥了神经网络的非线性映射能力,还可以缩短神经网络的训练时间,提高预测的精度.

PSO优化BP神经网络的主要步骤如下.

1)初始化.根据BP神经网络的输入样本,建立BP神经网络的拓扑结构,输入层节点数,隐含层节点数,输出层节点数;初始化粒子的位置和速度,以及粒子数、最大迭代次数、惯性权重、学习因子等参数.

2)通过网络训练,计算粒子的适应度值,得到粒子的个体最优值与全局最优值.将粒子适应度值与个体最优值和全局最优值相比较,记录当前粒子所经历的最好位置.

3)考察每一个粒子的适应度值.若该值优于个体最优,则将当前值置为个体最优,并更新该粒子的个体最优;若粒子中的个体最优优于当前的全局最优,则将个体最优置为全局最优,并更新全局最优值.

4)将经过PSO优化的权值和阈值作为BP神经网络的初始权值和阈值代入BP网络,训练至满足网络的性能指标,即均方误差小于预先设定的误差要求或达到最大迭代次数时,停止迭代,输出结果,否则转到2,继续迭代直至算法收敛.

5)由训练和测试样本完成神经网络的训练和测试,输出预测值.如图2所示.

5.2数据预处理

为了消除各指标不同量纲的影响,需要对数据进行标准化处理,以解决指标之间的可比性.本文使用离差标准化的方法,对原始数据进行线性变换,使变换后的值映射到[0,1]之间,并保持原本的数量关系,变换公式如(4)式所示.

Yi=(Xi-min)/(max-min).(4)

其中,Yi是样本i归一化的值,Xi是样本i的值,min为样本最小值,max为样本最大值.但这个方法有个缺点,当有新的样本数据加入时,数据的最大值和最小值可能会发生变化,需要重新计算Yi值.

在预测或者评价完成后,再使用反归一化的方法对数据进行还原处理,得出其真实值,具体的数据处理过程可以直接调用Matlab工具箱里的Mapminmax函数来完成.

5.3数据降维

就神经网络的结构而言,预测指标体系越庞大,指标数量越多,模型就越复杂,预测结果的不确定性就越大,相应地,模型的泛化能力会降低,同时也会增加运算的时间.因此有必要对前面确定的影响能源需求的指标进行定量化的分析,在尽量减少信息丢失的前提下减少指标的个数,即完成样本指标的降维.

主成分分析法就是通过线性变换的方法,把原始变量组合成少数几个具有代表意义的指标,使得变换后的指标能够更加集中地反映研究对象特征的一种统计方法[21].对样本的原始数据进行主成分分析,得到各个主成分的特征值和方差贡献率,如表2所示.

从表2的数据可知,当抽取的主成分为Y1,Y2时,主成分的累计方差贡献率已达到93.22%,基本覆盖了原来7个指标所包含的信息.因此可以把Y1,Y2这2个主成分的数据作为模型的输入,这样就大幅度减少了神经网络的输入节点数,降低了模型的复杂程度,同时也有利于前期样本数据的获取.

根据主成分分析法得出前2个主成分的系数如表3所示.

从表达式(5)可以看出,第一主成分Y1与x1、x2、x5、x6、x7均保持了较强的正相关,而与x3,x4呈现出负相关,这个数量关系说明了第一主成分基本反映了上述指标的信息.由于x1、x2、x5、x6、x7是从不同的方面反映了社会经济发展的水平,而x3和x4反映了能源消费的状况,因此,第一主成分Y1是综合反映了经济发展状况和能源需求之间的密切关系.

从表达式(6)可以看出,第二主成分Y2与x1、x2、x3、x4相关性较强,其中与x3(能源结构)是高度相关的,说明第二主成分基本反映了这个指标的信息.

5.4模型参数设置

神经网络的结构一般由样本的输入和输出指标数量确定,由于使用PCA做数据降维后,样本数据的维数为2,输出数据维数为1,所以确定模型的输入节点数为2,输出节点数为1.本文选用的是三层的BP神经网络模型,关于隐含层数目的确定,目前没有一个通用的方法,只能根据经验或者多次试验来决定.由于隐含层的数量会影响到模型的学习时间、拟合效果以及泛化能力,因此必须确定一个最佳的隐含层单元数,根据相关学者的研究结论,隐含层的数量与问题的要求、输入、输出指标的个数都有关系,且其数量关系符合以下的计算公式[21]:

R=S1+S2+a.(7)

其中R为隐含层单元数,S1、S2分别为输入层和输出层的数量,a为[1,10]之间的常数.经过循环比较算法,得出R的值为4时,模型具有较好的学习效果和泛化能力,因此本文确定神经网络模型的结构为2-4-1,隐层使用sigmoid函数,输出层使用pureline函数,神经网络的学习效率取0.1,训练次数为150,输出目标值为0.001.粒子群规模为50,迭代次数为100,学习因子c1=1.7,c2=1.5,惯性权重ωmax=0.9,ωmin=0.3,粒子速度最大值为5,最小值为-5.

5.5模型训练

本文选取前24个样本数据作为训练数据,用于确定模型的相关参数,剩余5个样本作为测试数据,用于检验模型的效果.

将训练数据代入模型进行计算,得到的适应度曲线变化如图3所示,训练值与实际值比较如图4所示,可以看出PSOBP模型对历史数据的学习情况非常理想,大部分样本的训练值与实际值基本吻合,个别样本有一定的偏差,但在合理的误差范围之内,说明该模型的构建是行之有效的.

5.6模型测试

将训练后的模型对5个预测样本数据进行预测,并把预测值与实际值进行比较,结果如表4所示,预测结果如图5所示,样本误差如图6所示.可以看到,2009-2013年的预测准确度非常高,平均误差为2.3%,以2009年为例,预测偏差为2.87%,换算成实际的偏差数量就是552.95万吨标准煤,准确的预测结果将为能源规划与实施提供有力的依据.

由表5可知,PSOBP模型的预测平均误差为2.3%,BP模型的平均预测误差为4.8%,说明经过粒子群算法优化神经网络参数后,不仅使得模型的收敛速度加快,运算时间减少,同时在预测精度方面也有了很大的提升.

5.7不同方法预测结果比较

为了体现PSOBP神经网络模型的优势,本文同时使用未经优化的BP神经网络对数据进行训练和预测,并将两种预测结果进行比较,具体数据见表5所示,比较效果如图9和图10所示.

5.8未来5年能源需求预测

根据上述预测模型和流程,对广东省未来5年的能源需求进行预测,这里假设未来5年各项样本指标均保持当前的增长速度,得出的结果见表6.

从表6可知,未来5年,广东省的能源需求将持续增长,平均保持5.7%的增长率,并且增长的速度逐步加快,2018年的需求量将达到33 842.34万吨标准煤.因此,如何针对快速增长的能源需求,采取有效的措施来解决供需不平衡的矛盾,将是决策者需要考虑的问题.根据广东省发改委2013年底公布的《广东省能源发展十二五规划》,在保证全省能源供应能力的前提下,将进一步加快能源消费结构的调整,构建与科学发展要求相适应的安全、稳定、经济、清洁的现代能源供应保障体系,具体措施是进一步优化能源结构和布局,提升能源利用效率,逐步降低单位GDP能耗,并且争取在新能源的利用开发方面取得突破性进展,从而为全省经济社会发展提供强有力的能源保障.

6结论

对广东省的能源需求问题进行了深入的研究,在结合定性和定量分析的基础上,确定了影响能源需求的主要因素,构建了PSO-BP神经网络的能源需求预测模型,并对广东省2014-2018年的能源需求进行了预测.理论分析和实证研究表明,该方法能够很好的反映广东省能源需求的特征,预测结果较为准确合理.但就本文所考虑的预测指标体系而言,以定量的指标为主,如何在模型中把政策法规、环境保护等难以定量的影响因素包含进来,构建更为完善的预测指标体系,以及当样本数量较少的时候,如何保证模型的学习能力和泛化能力,这些问题需要继续完善解决.

参考文献

[1]林伯强.中国能源需求的经济计量分析[J].统计研究, 2001(10):34-39.

[2]韩君.中国能源需求的建模与实证分析[D].兰州商学院, 2007.

[3]魏一鸣等.中国能源需求报告(2006):战略与政策研究[M].北京:科学出版社, 2006.

[4]A S WEIGEND . Time series analysis and predicationusing gated experts with application to energy demandforecast[J]. Applied Articial Intelligence, 1996(6):583-624.

[5]V GEVORGIAN , M KAISER . Fuel distribution andconsumption simulation in the republic of Armenia[J]. Simulation, 1998(3):154-167.

[6]张玉春,郭宁,任剑翔.基于组合模型的甘肃省能源需求预测研究[J].生产力研究, 2012(11):31-34.

[7]冯亚娟,刘晓恺,张波.基于QGALSSVM的能源需求预测[J].科技与经济,2014(3):56-61.

[8]芦森.基于组合模型的中国能源需求预测[D].成都:成都理工大学, 2010.

[9]李琳娜.基于核主成分分析(KPCA)和神经网络的单目红外图像深度估计[D].上海:东华大学, 2013.

[10]张均东,刘澄,孙彬.基于人工神经网络算法的黄金价格预测问题研究[J].经济问题, 2010(1):45-48.

[11]熊志斌.ARIMA融合神经网络的人民币汇率预测模型研究[J].数量经济技术经济研究, 2011(6):75-81.

[12]龙文,梁昔明,龙祖强,等.基于混合进化算法的RBF神经网络时间序列预测[J].控制与决策, 2012(8):20-25.

[13]王庆荣,张秋余.基于随机灰色蚁群神经网络的近期公交客流预测[J].计算机应用研究, 2012(6):32-37.

[14]张大斌,李红燕,刘肖,等.非线性时间序列的小波-模糊神经网络集成预测方法[J].中国管理科学, 2013(2):81-86.

[15]高玉明,张仁津.基于遗传算法和BP神经网络的房价预测分析[J].计算机工程, 2014(4):187-191.

[16]伍秀君.广东省能源需求预测分析及能源发展对策研究[D].广州:暨南大学,2007.

[17]薛黎明.中国能源需求影响因素分析[D].徐州:中国矿业大学,2010.

[18]秦国真.云南能源需求影响因素分析及预测[D].昆明:云南财经大学,2012.

[19]来建波.基于神经网络的路段行程时间预测研究[D].昆明:云南大学, 2011.