神经网络的实现过程范文

时间:2024-04-16 17:23:41

导语:如何才能写好一篇神经网络的实现过程,这就需要搜集整理更多的资料和文献,欢迎阅读由公务员之家整理的十篇范文,供你借鉴。

神经网络的实现过程

篇1

【关键词】人工神经网络 路径规划 移动机器人

1 引言

在移动机器人导航技术应用过程中,路径规划是一种必不可少的算法,路径规划要求机器人可以自己判定障碍物,以便自主决定路径,能够避开障碍物,自主路径规划可以自动的要求移动机器人能够安全实现智能化移动的标志,通常而言,机器人选择的路径包括很多个,因此,在路径最短、使用时间最短、消耗的能量最少等预定的准则下,能够选择一条最优化的路径,成为许多计算机学者研究的热点和难点。

2 背景知识

神经网络模拟生物进化思维,具有独特的结构神经元反馈机制,其具有分布式信息存储、自适应学习、并行计算和容错能力较强的特点,以其独特的结构和信息处理方法,在自动化控制、组合优化领域得到了广泛的应用,尤其是大规模网络数据分析和态势预测中,神经网络能够建立一个良好的分类学习模型,并且在学习过程中优化每一层的神经元和神经元连接的每一个节点。1993年,Banta等将神经网络应用于移动机器人路径规划过程中,近年来,得到了广泛的研究和发展,morcaso等人构建利用一个能够实现自组织的神经网络实现机器人导航的功能,并且可以通过传感器训练网络,取得更好的发展,确定系统的最佳路径。神经网络拓扑结构模型可以分为:

2.1 前向网络

网络中各个神经元接受前一级的输入,并输出到下一级,网络中没有反馈,可以用一个有向无环路图表示。这种网络实现信号从输入空间到输出空间的变换,它的信息处理能力来自于简单非线性函数的多次复合。网络结构简单,易于实现。反传网络是一种典型的前向网络。

2.2 反馈网络

网络内神经元间有反馈,可以用一个无向的完备图表示。这种神经网络的信息处理是状态的变换,可以用动力学系统理论处理。系统的稳定性与联想记忆功能有密切关系。Hopfield网络、波耳兹曼机均属于这种类型。

3 基于人工神经网络的移动机器人路径规划算法

神经网络解决移动机器人路径规划的思路是:使用神经网络算法能够描述机器人移动环境的各种约束,计算碰撞函数,该算法能够将迭代路径点集作为碰撞能量函数和距离函数的和当做算法需要优化的目标函数,通过求解优化函数,能够确定点集,实现路径最优规划。神经网络算法在移动机器人路径规划过程中的算法如下:

(1)神将网络算法能够初始化神经网络中的所有神经元为零,确定目标点位置的神经元活性值,并且能够神经网络每层的神经元连接将神经元的值传播到出发点;

(2)动态优化神经网络,根据神经网络的目标节点和障碍物的具置信息,在神经网络拓扑结构中的映射中产生神经元的外部输入;

(3)确定目标值附件的神经元活性值,并且使用局部侧的各个神经元之间,连接整个神经网络,并且在各个神经元中进行传播。

(4)利用爬山法搜索当前邻域内活性值最大的神经元,如果邻域内的神经元活性值都不大于当前神经元的活性值,则机器人保持在原处不动;否则下一个位置的神经元为邻域内具有最大活性值的神经元。

(5)如果机器人到达目标点则路径规划过程结束,否则转步骤(2)。

4 基于人工神经网络的移动机器人路径规划技术展望

未来时间内,人工神经在机器人路径规划过程中的应用主要发展方向包括以下几个方面:

4.1 与信息论相融合,确定神经网络的最优化化目标解

在神经网络应用过程中,由于经验值较为难以确定,因此在神经网络的应用过程中,将神经网络看做是一个贝叶斯网络,根据贝叶斯网络含有的信息熵,确定神经网络的目标函数的最优解,以便更好的判断机器人移动的最佳路径。

4.2 与遗传算法想结合,确定全局最优解

将神经网络和遗传算法结合起来,其可以将机器人的移动环境设置为一个二维的环境,障碍物的数目、位置和形状是任意的,路径规划可以由二维工作空间一系列的基本点构成,神经网络决定机器人的运动控制规则,利用相关的神经元的传感器作用获未知环境的情况,将障碍信息和目标点之间的距离作为神经网络的输入信息,使用遗传算法完成神经网络的权值训练,神经网络的输出作为移动机器人的运动作用力,实现一个可以在未知环境中进行的机器人运动路径规划。

4.3 与蚁群算法相结合,降低搜索空间,提高路径规划准确性

为了提高神经网络的搜索准确性和提高效率,可以将蚁群算法与神经网络相互结合,蚁群算法的路径规划方法首先采用栅格法对机器人工作环境进行建模,然后将机器人出发点作为蚁巢位置,路径规划最终目标点作为蚁群食物源,通过蚂蚁间相互协作找到一条避开障碍物的最优机器人移动路径。

5 结语

随着移动机器人技术的发展,路径规划作为最重要的一个组成部分,其得到了许多的应用和发展,其在导航过程中,也引入了许多先进的算法,比如神经网络,更加优化了移动的路径。未来时间内,随着神经网络技术的改进,可以引入遗传算法、信息论、蚁群算法等,将这些算法优势结合,将会是路径规划更加准确和精确。

参考文献

[1]朱大奇,颜明重,滕蓉. 移动机器人路径规划技术综述[J].控制与决策,2010,25(7): 961-967.

[2]刘毅.移动机器人路径规划中的仿真研究[J].计算机仿真,2011,28(6): 227-230.

[3]熊开封,张华.基于改进型 FNN 的移动机器人未知环境路径规划[J].制造业自动化,2013,35(22): 1-4.

[4]柳长安,鄢小虎,刘春阳.基于改进蚁群算法的移动机器人动态路径规划方法[J].电子学报,2011,39(5).

[5]范浩锋,刘俊.基于 BP 神经网络的红外目标识别技术[J].计算机与数字工程,2013,41(4): 559-560.

篇2

建筑工程的系统性和复杂性提升了工程造价估算的难度,基于神经网络的工程造价估算方法能够提升工程造价估算的准确性。本文从传统的工程造价估算方法入手,对基于神经网络的工程造价估算方法及其Excel实现进行研究。

【关键词】神经网络 工程造价 估算方法 Excel实现

在建筑行业不断发展的背景中,建筑企业面临的竞争压力越来越大。对于建筑企业而言,通过建筑工程成本的有效控制,实现所获经济效益的提升能够对自身市场竞争力的提升产生相应的促进作用。选择合理的工程造价估算方法具有一定的必要性。

1 传统的工程造价估算方法

应用传统工程造价估算方法进行估算,要求建筑工程的成本函数是一个具有确定性特点的数学形式,并且这个成本函数应该是对可利用历史数据的最佳拟合。这些要求对传统工程造价估算方法的精确度产生了不良影响,进而对该方法的实际应用产生相应的限制。

2 基于神经网络的工程造价控制估算方法及其Excel实现

2.1 神经网络的优点和应用

神经网络是由一定数量的并行处理单元组成的系统,不同处理单元的实际处理方式和连接强度是影响神经网络功能的主要因素。在神经网络中,不同神元之间的相互作用可以实现处理信息的目的。神经网络具有时间连续性、高度非线性以及规模大的特点,神经网络包含优化计算、处理知识以及联想记忆等多种功能。神经网络在电子科技领域中的应用主要集中在图像和信号处理以及模式识别中。以某个500字符的代码段为例,该代码段可能是Python、Java或者C++。当需要通过程序的构造对该代码段进行识别编写时,构造神经网络的方法更加有效。

2.2 基于神经网络工程造价控制估算方法的合理性

神经网络的优势在于,它可以近似实现任意空间的数学映射。神经网络的这种特点使得它在需要辨识数据模式的困难任务中得到了广泛应用。神经网络可以分别对实时数据和历史资料进行训练,这种特点为神经网络在工程造价估算中的应用提供了可能。

2.3 神经网络电子表格模拟程序

神经网络电子表格模拟程序主要包括以下几个步骤:

2.3.1 输入输出信息模块

在该模型中,主要包含基础基础类型、结构类型、建造年份、工期、建址、层高、层数、内、外装修门窗共9个输入单元,还包含每平方米造价这一输出单元,以及4个测试样本和6个训练样本。为了将输入单元、输出单元的数据更好地展示出来,可以在Excel中建立一个表格。

2.3.2 输入数据初始化

当表格构建完成之后,可以将相关数据输入进行,为了便于神经网络对数据进行合理处理,需要将表格中第一个模块中的输入数据调整至[-1,1]范围中。当第一个模块构造完成之后,为了简化第二个模块的构造时间和步骤,可以利用线性公式对第一个模块的参数值进行合理调整,这个过程中使用的线性公式如下所示。

2.3.3 构建权重模块I

就输出节点、输入节点以及隐层节点之间的数目关系而言,输出节点与输入节点数量之和的一般是隐层节点的实际设置数目。在权重模块中,需要将所有的数值初始化为1.0。

2.3.4 当权重模块I构建完成之后

需要考虑隐层节点的输出模块。这个步骤主要需要根据神经网络的操作模型进行。

2.3.5 构建权重模块II

该模块的构建步骤与第三步中的做法相同,但在这个模块中,需要在单一的输出节点和隐层节点之间建立连接。

2.3.6 神经网络的最终输出

这个步骤与第四步类似。

2.3.7 对神经网络的输出值进行反调整,并对误差进行有效计算

神经网络输出值的反调整范围集中在初始赋值范围中。

2.4 神经网络的训练过程

当神经网络电子表格模拟完成之后,需要对神经网络进行训练,也可以将这个过程看成是权值的优化过程。由于权值优化过程具有一定的复杂性特点,因此可以将Excel中的Solver程序应用到这种预测方法中,与其他算法相比,这种算法的优势表现为可以直接在表格中运行,简化了操作步骤,实现该预测方法掌握难度的有效降低。运用这种预测方法进行操作可以发现,网络运行结果满意,应用这种预测方法的预测误差小于0.4%。

2.5 分析参数变化对模型预测结果的敏感性

用户通常无法确定能够对特定工程进行精确描述的特征因素是什么,因此,为了保证模型的实用性,需要对参数变化对模型预测结果的敏感性进行有效测定。测定参数变化对模型预测结果敏感性的较为复杂,首先,用户需要将工程中无法肯定的某一特征因素或几个特征因素的组合选择出来,然后使用户选取的参数在初始值周围逐渐变动,并将参数变动范围控制在25%之内,为了更好地对参数对模型预测结果的敏感性进行分析,需要对样本资料的数量进行合理控制。分析参数对模型预测结果名感性的界面如图1所示。在实际分析过程中,需要将第一个模块公式变为分别对多个分析资料进行计算,结合计算结果得出计算结果的标准差和平均值,并将估计成本与标准差和平均值进行比较。就平均值而言,在选定参数发生变化的情况下,可以通过敏感性分析对模块中输入参数的实际重要性进行有效判断,通过不同参数的分别变化,分别对其进行敏感性分析,将所得标准差和平均值与最初估计进行比较,进而得出模块中输入参数的实际重要性判断结果。

3 结论

随着建筑企业面临竞争压力的不断增大,建筑企业对建筑工程成本控制越来越重视。有效工程造价估算方法的使用可以帮助建筑企业获得更多的经济效益,传统的工程造价估算方法精确度较低,基于神经网络的工程造价估算方法可以保证工程造价估算结果的准确性。

参考文献

[1]孙金丽,郑立群,张世英.基于神经网络的工程造价估算方法及其Excel实现[J].基建优化,2003(01):38-40.

[2]吴子燕.基于人工神经网络的高校建筑工程造价预测系统的研究与应用[D].西安:西北工业大学,2006.

[3]赵欣.基于BP神经网络的地铁土建工程造价估算方法研究[D].北京:北京交通大学,2008.

篇3

关键词:人工神经网络;Hopfield神经网络;联想记忆

DOIDOI:10.11907/rjdk.161853

中图分类号:TP391

文献标识码:A文章编号文章编号:16727800(2016)009014603

基金项目基金项目:

作者简介作者简介:余洋(1994-),男,湖北随州人,四川理工学院自动化电子信息学院硕士研究生,研究方向为智能控制;傅成华(1958-),男,四川富顺人,四川理工学院自动化与电子信息学院教授、硕士生导师,研究方向为先进控制与系统优化、神经网络与非线性信息处理。

0引言

Hopfield于1982年提出了一种新型的神经网络――Hopfield网络模型。它采用了与层次型人工神经网络完全不一样的结构特征和学习方法来模拟生物神经网络的记忆机理,首次使用“能量函数”的概念,并且说明了此神经网络与动力学之间的关系,使得判断神经网络在工作过程中的稳定性有了非常简便和可靠的依据。该神经网络非常利于人们理解学习,也可以比较方便地在集成电路中实现。Hopfield神经网络根据网络输入输出的不同分为两种形式:离散型Hopfield神经网络和连续型Hopfield神经网络,两种形式的神经网络应用领域也各不相同。本文使用离散型Hopfield神经网络实现联想存储器设计。

1离散型Hopfield神经网络

离散型Hopfield神经网络是由n个神经元相互连接而成的二值神经网络[12],并且各神经元之间的连接是双向的,连接强度用权值表示。网络的全互联结构如图1所示。神经元的输出为离散值0(或-1)和1,分别代表神经元的抑制和激活状态。由于神经网络的时间离散特性,因而其被称为离散型Hopfield神经网络[3]。

这种连接方式使得离散型Hopfield神经网络中每个神经元的输出均通过神经元之间的连接权值反馈到同一层次的其它神经元,并作为该神经元的输入,从而使各神经元之间相互制约,保证离散型Hopfield神经网络在没有外部输入的情况下也能进入稳定状态。

两个互联神经元之间的连接权值相同(wij=wji),每个神经元到其自身的连接权值为0,即wii =0。

1.1处理单元模型

离散型Hopfield神经网络的单个神经元结构如图2所示,单个神经元采用M-P模型进行信息处理,假设神经网络有n个神经元,以xj表示神经元j的输出(也称为神经元的状态),wij表示神经元i与神经元j之间的连接权值,θj表示神经元j的阈值。

神经元j的净输入sj=∑ni=1xiwij-θj(1)

神经元j的输出 xj=f(sj)=sgn(sj)=1sj>0-1sj≤0(2)

1.2网络状态及运行规则

离散型Hopfield神经网络的状态由网络所有(n个)神经元的状态集合构成,在任意一个给定的时刻t,离散型Hopfield神经网络的状态表示为:

X(t)=(x1 ,x2 ,…,xn )(3)

离散型Hopfield神经网络是全互联反馈式的连接结构,每个神经元都会接收到全部神经元的反馈信息,故当网络中的各神经元状态改变时,整个网络状态也随之变化。当网络中各神经元的输出状态都不再改变时就表示网络达到稳定状态(即xj (t+1)=xj (t)=f(sj (t)))。神经网络要达到稳定状态需要经过反复更新,学习训练。

离散型Hopfield神经网络的工作过程就是网络状态的动态演化过程,即从网络初始状态沿能量递减的方向不断演化的过程,直到达到网络的稳定状态,这时网络的稳定状态就是网络的输出。离散型Hopfield神经网络工作时有以下运行步骤:①对网络进行初始化;②从网络中随机选取一个神经元i;③按照式(1)计算神经元i在t时刻的净输入si (t);④按照式(2)计算神经元i在t+1时刻的输入xi(t+1),此时网络中除i以外的其它神经元j的输出保持不变,即xj(t+1)=xj(t)其中i ≠j;⑤按照式xj(t+1)=xj(t)=f(sj(t))判断网络是否达到了稳定状态,如果未达到稳定状态就转到②继续进行,如果网络达到稳定状态则网络的工作过程终止。

1.3离散型Hopfield神经网络的能量函数

Hopfield神经网络的一大特点就是引入了“能量函数”,它表明了神经网络与动力学之间的关系。上文也提到,网络运行时在网络状态不断变化过程中,网络的能量值不断递减,直到达到稳定状态。这说明网络的能量值与网络的稳定状态有着十分密切的关系。能量函数定义为:

E=-12∑ni=1∑nj=1wijxixj+∑ni=1θixi(4)

Hopfield神经网络实际上是一个非线性动力系统,网络按动力学方式运行,网络状态的变化过程实际上是使能量极小化的过程:每次神经元状态改变时,整个网络的能量应单调递减,即能量与以前相同或下降。证明如下:

设任一神经元j由式(4)得神经元j的能量为:

Ej=-12∑ni=1wijxixj+θjxj(5)

该式可变换为:

Ej=-12xj∑ni=1wijxi+θjxj(6)

由t时刻到t+1时刻神经元j的能量变化为:ΔEj=Ej(t+1)-Ej(t)= -Δxj(∑ni=1wijxi-θj)+12Δxj∑ni=1wijxi(7)

由于在t+1时刻只有神经元j调整状态,并且各神经元不存在自反馈,式(7)可简化为:

ΔEj= -Δxj(∑ni=1wijxi-θj)(8)

在t+1时刻共有以下3种可能情况来分析ΔEj的大小从而论证网络能量值的改变方向:①如果神经元j的状态不发生变化,即xj (t+1)=xj (t),则Δxj=0,由式(8)可知ΔEj=0;②如果神经元j的状态发生变化,是从-1变为1,则Δxj=2,此时由式(1)和式(2)可知∑ni=1wijxi-θj>0,再由式(8)得ΔEj

综上可知,从t时刻到t+1时刻,无论神经元j的状态如何变化,其能量的改变量均为ΔEj≤0。由于神经元j是网络中任意一个神经元,而网络中的神经元又都是按照同一规则来更新状态的,因而整个网络的能量一直向减少的方向进行。网络变化的过程就是网络能量的极小化过程,因为能量函数是有界的,故网络一定会趋于稳定状态,该稳定状态就是网络的输出。离散型Hopfield神经网络能量函数的变化曲线如图3所示,能量函数的变化过程可以看作是下坡的过程,当网络的状态随时间改变时,整个网络的能量沿着下降最快的方向改变,最终停在整个网络能量的极小点[4]。这些极小点有全局极小点c,也有局部极小点a、b,最终落入哪种极小点取决于网络的初始状态。网络能量函数变化曲线如图3所示。

1.4关于离散型Hopfield神经网络联想记忆的连接权值设计

离散型Hopfield神经网络可以应用于联想记忆[5],其联想记忆的基本原理是利用能量函数的极值点,网络将记忆的样本信息存储在不同的能量极值点上,当网络输入某一种模式时,网络工作到稳定状态后能够“联想记忆”出与其相关的其它存储样本,从而实现联想记忆。并且神经网络都有很好的容错性能,即使是对一些不全的、破损的、变形的输入信息,网络也能够很好地将其恢复成比较完整的原型信息。记忆是联想的前提,必须先将信息存储起来,才能按照某种方式或规则再取出相关信息,能量极值点存储记忆模式,而网络的连接权值和阈值决定这些极值点的分布,因此网络联想记忆的关键就是根据能量极值点和需要被记忆的模式设计一组恰当的网络连接权值和阈值。

网络在没有记忆之前是空白状态,只有设计了恰当的连接权值和阈值才会使网络具有知识,连接权值的设计调整过程就是网络的学习过程。离散型Hopfield神经网络一般用Hebb规则的外积和法来设计权值。方法具体如下:

假设网络共有n个节点,W是网络的连接权矩阵,如果网络一共处理m个两两正交的模式样本,则网络的学习记忆集合为xk=(xk1,xk2,…,xkn)(k=1,2,…,m)。

(1)若m=1只有一个学习模式,学习记忆集合为X1,对于输入模式X1,如果网络达到稳定状态,有:

X1=sgn(XW),即x1j=sgn(∑ni=1wijx1i)j=1,2, …,n(9)

由sgn函数的特点可知,若满足x1j(∑ni=1wijx1i)>0,即若连接权值wij正比于x1jx1i,则式(9)成立。综合可得,网络的连接权值与输入模式向量的每个分量之间满足关系:

wij=αx1jx1iα为常数而且大于零(10)

(2)如果有多个学习模式,则可将式(10)进行推广有:

wij=α∑mk=1xkjxkiα为常数而且大于零(11)

由wii=0可将式(11)改写为:

W=α∑mk=1[(Xk)TXk-I]α为常数而且大于零,I为nxn的单位矩阵(12)

在设计好网络连接权矩阵后,网络就处于正常工作状态,加载输入模式向量时,网络可以进行模式的记忆及联想。

2联想记忆功能实现证明

联想记忆的过程分为两个阶段:第一阶段是记忆阶段(也称存储阶段、学习阶段),它是联想记忆的关键,其处理过程是将记忆模式作为网络的稳定状态,并通过设计或学习获得需要的网络连接权值;第二阶段是联想阶段(也称回忆阶段),此阶段是利用网络进行回忆,将给定的输入模式作为网络的初始状态,网络按照既定的运行规则不断演化,一直演化到网络的稳定状态,此时网络的稳定状态就是回忆出的记忆模式。下面举例证明离散型Hopfield神经网络是如何实现联想记忆功能。设有一个4神经元的离散型Hopfield神经网络,各神经元的阈值为0,其中存储了两个模式,模式一X1为(1,1,1,1),模式二X2为(-1,-1,-1,-1),每个存储模式由两部分组成:名称和颜色。前两神经元存储的是名称,后两个神经元存储的是对应的颜色。模式一表示“蓝色的天空”,前两个1表示天空,后两个1表示蓝色的;模式二表示“绿色的树”,前两个-1表示树,后两个-1表示绿色的,当网络上加载信息不全或错误地输入模式三X3=(1,1,-1,1)时,让网络联想记忆输出模式X1。若想让网络联想输出模式X1,必须首先设计网络的连接权值,让网络记忆模式一和模式二,然后让网络加载输入模式三运行到稳定状态。将网络要存储的模式一和模式二设计为网络的两个稳定状态,由此设计网络的连接权值。根据式(12),设α=1得网络的连接权矩阵为;

W=(X1)TX1+(X2)TX2-2I=0222202222022220

设计好连接权值后,将模式三加载至网络,然后按照网络运行规则让网络运行:

t=0:网络的初始状态X(0)=(1,1,-1,1);

t=1:选取节点1,节点1的状态为x1(1)=sgn[1×0+1×2+(-1)×2+1×2]=sgn[2]=1

网络状态X(1)=(1,1,-1,1);

t=2:选取节点2,节点2的状态为x2(2)=sgn[1×2+1×0+(-1)×2+1×2]=sgn[2]=1

网络状态X(2)=(1,1,-1,1);

t=3:选取节点3,节点3的状态为x3(3)=sgn[1×2+1×2+(-1)×0+1×2]=sgn[6]=1

网络状态X(3)=(1,1,1,1);

t=4:选取节点4,节点4的状态x4(4)=sgn[1×2+1×2+1×2+1×0]=sgn[6]=1

网络状态X(4)=(1,1,1,1);………

按此规则循环运行下去直到网络状态不再改变,网络处于稳定状态,网络的输出就是(1,1,1,1),也即网络存储的记忆模式一X1=(1,1,1,1)。同理,当网络加载模式四X4=(-1,-1,1,-1)时,网络也可联想记忆输出模式二。从而证明了离散型Hopfield神经网络具有联想记忆功能。

3结语

神经网络的联想记忆功能虽然很强,但是也存在一些缺陷。由于联想记忆能力受到了记忆容量和样本差异的制约,当记忆的模式较多且容易混淆时,网络不能够很好地辨别出正确模式,而且达到的稳定状态也往往不是记忆住的模式。并且,所有记忆模式不是以同样的记忆强度回想出来的。

参考文献参考文献:

[1]周非.基于RBF网络和逆模型的汽油机瞬态空燃比控制[D].成都:西华大学,2006.

[2]于乐斐.两类时滞细胞神经网络的稳定性分析[D].青岛:中国海洋大学,2008.

[3]夏松.Hopfield神经网络构造的联想记忆存储器实现与研究[D].合肥:安徽大学,2010.

篇4

关键词:BP神经网络;VHDL;模拟与仿真

一、人工神经理论基础

神经网络又被称为链接模型,其本身是模仿动物的神经网络,并根据其行为特征分布式进行算法数学模型处理。在计算机上,人们可以利用并行或者串行的模式模拟仿真,实现人们自身的神经网络模型算法。在特定应用情况下,进行神经网络研究的目标则是高性能专用的神经网络硬件。

神经元是人工神经网络的基本单元,具有一定的信息处理方面的能力。对于输入的内容,神经元可以简单进行处理,能根据学习规则做好加权求和,并根据权值来获取神经元的状态输出,以便对刺激进行处理。还可建立基于VHDL语言的神经网络元件库,它包括基本单元、控制单元两个部分。

二、 BP神经网络结构模型

BP神经网络由输入层、隐含层和输出层组成,相邻层之间的各个神经元实现全连接,每层各个神经元之间没有连接。

BP算法正向传播过程:输入信号从输入层输入,经过隐含层传向输出层。如果输出层的实际输出与期望输出一致,那么学习算法结束。基本控制单元用于建立隐含层和输出层的神经元,主要解决信号运算后权值存储问题,它主要包括加权乘法、神经元输入信号的累加、非线性激励函数的实现、权值存储等基本模块。

图1中xi代表第i个输入,wij代表输入i和神经元j之间的权值(weight),yj是第j个输出。如图1所示可以得到:

y1=f(x1.w11+x2.w21+x3.w31 ) 2-1

y2=f(x1.w11+x2.w22+x3.w32) 2-2

y3=f(x1.w11+x2.w23+x3.w33) 2-3

其中f( )是激化函数(如线性阈值的sigmoid函数等)。

三、神经网络模型与仿真

clk产生脉冲信号,输入端x1,x2,x3 分别置为011,100,101,权值初值设为0000,通过9个脉冲周期一次递增到1000,将权值与输入值进行运算,得出结果。在权值固定时,输出取决于输入,不同的输入得到不同的输出结果。而在权值变化时,输出就由输入和权值决定。

为了仿真的结果更直观,代码采用的每个神经元的3个输入信号以及权值的位宽都为4,且带有符号。权值共设了9个,采用9个时钟周期将权值移入值。模拟与仿真的结果如图2所示。

结果分析:模拟结果与结果一致,此仿真成功。

四、结语

基于VHDL编程实现简单神经网络的软件模拟与仿真,从算法的提出到模型的建立,完整地体现神经网络的可用性与优越性。文中所提的神经网络模型是对单个神经网络的模拟与仿真,以及基于二维数组的多个输入输出的大规模神经网络的模拟。由于VHDL语言编程的灵活性,可以将编程下载到芯片用硬件实现对神经网络的模拟,以提高系统运算的速度和可靠性。

参考文献:

篇5

关键词:计算机网络模型;神经网络算法;分析

中图分类号:TP393 文献标识码:A 文章编号:1009-3044(2016)35-0212-02

计算机网络是人们多年研究科技进步最重要的成果,其被广泛运用到教育、工作、科学等方面,也具有良好的成就。目前,基于服务器的集线式网络具有实现网络互连的功能,但也成为了网络进一步发展的阻碍。虽然大量的信息能够丰富网络中的内容,但是其中的多媒体技术发展却使网络运行力不从心,比如图像、声音等,全面优化计算机网络整体性能是其发展的必要途径。将神经网络算法与计算机网络相结合,能够有效解决大规模复杂性的问题。

1浅析神经网络算法

1.1神经网络算法内涵

思维界认为,人类大脑思维包括灵感思维、逻辑思维、形象思维三种方式,神经网络模拟的就是人类思维的形象思维,是一种非线性动力学系统。神经网络算法指的是逻辑性思维根据逻辑规则推理的过程。神经网络的内容目前被广泛研究,包括建立理论模型、生物原型研究、建立网络模型与算法研究、人工神经网络应用系统等。

优化网络的神经网络主要是Hopfield神经网络,是1982年由美国物理学家提出的,它能够模拟神经网络的记忆机理,是全连接的神经网络。Hopfield神经网络中的每个神经元都能够信号输出,还能够将信号通过其他神经元为自己反馈,那么其也称之为反馈性神经网络。

1.2神经网络优化的基础

Hopfield神经网络其实是一个分线性动力系统演变的过程,通过能量函数分析系统的稳定性,将能量函数看做需要优化的问题目标函数。将能量函数的初始状态转变为稳定点这一过程,就成为求解优化问题过程,这个过程也可以称为在计算机联想记忆基础上解决优化问题的过程。

1.3神经网络优化模型的算法

反馈网络的联想记忆和优化是相对的,通过优化计算得知W,其目的就是为了找出E的最小稳定状态;联想记忆的稳定状态是特定的,要通过一些过程才能够找到适合的W。这个过程中的关键就是将问题的目标函数通过二次型能量函数进行表达。如下式所述:

Hopfield神经网络比较常见的类型有DHNN(离散型)和CHNN(连续性)两种,他们的动态方程分e为:

DHNN(离散型)动态方程:ui=fi(v1,v2,...,vN)

Vi=g(ui),vi∈{0,1},i=1,2,...,N

式子中的gi表示为阶跃函数,vi=g(ui)[(1, ui>0)(0, ui

CHNN(连续性)动态方程:dui/dt=fi(v1,v2,...,vN)

Vi=gi(ui),i=1,2,...,N

式子中的gi表示为常用函数sigmoid,vi=gi(ui)=1/2[1+tanh(ui/u0)],u0表示的为可控函数的斜率,当u0=0的时候,gi就为阶跃函数。【1】

1.4神经网络算法的优化步骤

其一,通过合适的问题将方法表述出来,使神经网络的输出和这一问题的解相互对应;

其二,创建有效的能量函数,要求问题的最优解能够对应最小值;

其三,使用有利条件和能量函数创建网络参数;

其四,创建对应的动态方程和神经网络;

其五,使用有效的初值,要求网络根据动态方程进行验算,直到收敛。

2基于神经网络算法的网络流优化模型

网络流优化模型的关键就是最小切割、图的划分和最大流问题,下面一一描述:

最小切割:最小切割是指寻找使隔集容量达到最小的切割。图的切割是指划分一个N―n1Un2,一个隔集为一组弧(i,j),i∈n1,j∈n2,隔集弧的权值总和为它的容量。使N=(W,T)是T=0的网络,要求能量最小为N图的最小切割。

图的划分:图的划分指的是将图划分为K个部分,要求每个部分中的节点数都相等。

最大流问题。要求有向图G(v,e)中的开始点为S,结束点为Z,边容量为Cij。如果每条边都有非负数fij,并且每条边为fij≤Cij且除了S和Z之外具有∑fij=∑fki。当S和Z有∑fsi=∑fiz=W的时候,W的最大值≤任何切割的容量。【2】

3基于神经网络算法的动态路由选择模型

通信网中的物理网络的连接一般是点到点,其可以用无向图G=(v,e)来表示,将交换节点表示为顶点,通路表示为边,每一边都有最大容量,为了能够满足网络中点和点能够相互通信,还E能够根据网络业务的量和用户呼叫为基础进行路由安排。现在一般使用的都是静态方式,能够提供给动态路由一些可能性,其的优化模型是:

如果网络图是G=(v,e),而且对网络中的边进行编号,路径经过的边表示为1,路径不经过的边表示为0,L*M神经元表示为L需要这多个路由,将备选的路由数量表示为M,如果通信网中具有N个节点,那么目标函数就是E=E1+E2+E3。【3】

4结束语

基于神经网络算法的优化网络模型有着简单、稳定、快速、规范的优势,其与其他算法相结合,能够较大程度的提高计算机网络模型的整体性能。但是Hopfield神经网络算法中的优化网络模型并不严格,它有着核心策略下降的缺点,那么在使用过程中会出现网络收敛的最优解呈局面状态、网络收敛解不可行、网络参数的不正当选择会导致偏差等,所以在今后就要深入研究计算机网络模型中的神经网络算法,使其更加完善。

参考文献:

[1]丁建立.基于神经网络算法的计算机网络优化模型研究[J].洛阳师范学院学报,2003, 22(2):59-62.

篇6

(江苏建筑职业技术学院,徐州 221116)

摘要: 针对建筑工程特点,提出了基于RBF神经网络的建筑工程投标报价方法,建立建筑工程投标报价标高率数学模型。应用MATLAB计算软件,以实例验证了该模型的正确性及实用性。

关键词 : RBF神经网络;标高率;报价

中图分类号:TU723.3 文献标识码:A 文章编号:1006-4311(2015)26-0049-03

作者简介:陈红杰(1986-),女,河南睢县人,助教,硕士,研究方向为工程造价、市政工程;李高锋(1987-),男,河南杞县人,助教,硕士,研究方向为项目管理、工程造价。

0 引言

神经网络在建设工程领域应用越来越广泛,BP神经网络会出现局部最小化问题和“过拟合”现象,径向基函数(radial basis function,RBF)神经网络的逼近能力、分类能力、学习速度等方面都优于BP网络。所以,文章将径向基函数神经网络用于标高率决策模型的建立,较BP神经网络有一定的进步与提升。

1 径向基函数神经网络原理

1.1 径向基函数神经网络基本结构

径向基函数神经网络是径向基函数(radial basis function,RBF)与人工神经网络相结合形成的一种局部逼近网络,可以任意精度逼近任意连续函数。

RBF神经网络一般为三层结构,如图1,包含输入层、隐含层和输出层,每层都有其特定作用。

1.2 径向基函数神经网络训练过程

具体训练过程如图2。

1.3 径向基函数神经网络的实现

径向基函数神经网络一般采用MATLAB软件中的神经网络工具箱对其进行模拟。MATLAB软件的神经网络工具箱为RBF神经网络提供了很多工具箱函数,通过合理调用函数,能设计出符合要求的RBF神经网络。

RBF神经网络一般采用newrb函数作为设计函数,在创建过程中newrb函数可以特定方式完成权值和阈值的选取和修正。文章采用newrb函数创建径向基函数神经网络,训练过程如下:

①输入样本数据(不包括测试数据),建立newrb神经网络;

②找出均方差最大的一个样本数据;

③依据均方差最大的样本,网络自动增加一个径向基神经元,其权值等于该样本输入向量的转置;阈值b=[-log(0.5)]1/2/spread,spread为径向基函数的扩展系数,默认值为1.0;

④以输入样本数据和输入层及隐含层之间的权值的点积为径向基神经元输出,此点积作为线性网络层神经元的输入,重新设计线性网络层,使均方差最小;

⑤当均方误差未达到规定的误差性能指标,且神经元数目未达到规定的上限值时,重复以上步骤,直到满足上述任一条件为止。

newrb函数设计径向基函数神经网络的格式:

net1=newrb

[net1,tr]=newrb(P,T,goal,spread,MN,DF)

其中:

net1:更新了权值和阈值的神经网络;

tr:训练记录;

P:训练样本输入;

T:目标输出;

goal:径向基网络输出的总平均误差方差;

MN:最大神经数目;

DF:增加的神经元数目。

对神经网络仿真采用sim函数,格式如下:

Y=sim(net1,P_test)

其中:

P_test为网络的测试样本。

2 标高率模型的建立

标高金概念国外应用较早,包括报价中除直接成本以外的开办费、管理费、利润和不可预见费等。考虑到我国的实际情况,文章将标高金定义为投标企业的盈利部分,包括利润和不可预见费(风险费用)。

标高率决策模型仅用于确定标高金,工程成本部分采用其他方法确定。标高金的数额一般与工程规模相关,而采用标高率可以避免这一影响。基于此,文章应用径向基函数神经网络建立标高率预测模型,报价中的工程成本部分可以利用现有的工程定额系统和工程计价软件如广联达和神机妙算等来进行快速、准确的估算。

2.1 标高率影响因素分析

考虑到我国建设市场的特点及现状,文章从以下五个方面考虑标高率的影响因素,包括:项目因素,项目所在地社会因素,业主因素,承包商自身因素,竞争对手因素。项目因素包括工程复杂性、工程规模、合同条件、工期要求和质量要求五项因素;社会因素包括材料设备人员可得性、基础设施、政策环境和市场前景四项因素;业主因素包括管理能力、业主信誉、资金力量、招标规范性四项因素;自身因素包括类似工程经验、施工能力、任务饱满度三项因素;对手因素包括竞争对手数量、相对优势两项因素。

2.2 模型指标体系的建立

界定上述18项影响因素取值范围,如表1所示。以这18项影响因素作为输入变量,以标高率(%)作为唯一输出变量Y,构成模型的变量体系。

2.3 RBF神经网络构建

文章设计的径向基函数神经网络模型共有三层:输入层、隐含层和输出层。其中,输入层有18个神经元,与输入变量(X1,X2,…,X18)相对应。隐含层神经元个数文章设定上限为30个。输出层有唯一神经元,即标高率。通过该模型建立一个由(X1,X2,…X18)到Y的映射结构。

3 实例分析

文章选取某一建筑工程承包公司的26个以往中标项目的报价实例作为原始数据用于模型训练,其中X1—X18代表影响因素的取值,Y代表实际标高率。样本数据X2(建筑面积)和X17(竞争对手数量)进行归一化处理,计算公式为Xl=(Xl-Xmin)/(Xmax-Xmin),其变量取值如表2所示。

利用MATLAB7.8软件实现编程,建立投标报价RBF神经网络模型,前22个项目数据作为训练集,后四个项目作为测试集,利用newrb函数对网络进行创建和训练,即:

[net1,tr]=newrb(P,T,goal,spread,MN,DF)

令:

Goal=0.001

MN=30

DF=1

spread=0.991

所建立的径向基函数模型结构如表3所示。

经过模型训练,得出网络的训练误差曲线为图3。由图可知,经过20次训练后,模型输出结果的误差达到10-3,具有很高的精确度。测试集网络测试结果与实际评估结果比较如表4,平均误差为0.0153,满足工程实际需要。可见,径向基函数神经网络在标高率报价预测方面,具有很好的应用价值。

4 结语

文章分析了对投标报价决策有重要影响的众多因素,参考国内外的研究成果,确定了影响标高率的18个主要因素,与实际标高率一起组成标高率预测模型的指标体系。选取投标报价实例数据作为样本对模型进行训练和检验,通过MATLAB软件neural network toolbox,建立了用于投标报价标高率预测的径向基函数神经网络模型,文章通过实证研究,取得了良好的效果。

参考文献:

[1]任宏.神经网络在工程造价和主要工程量快速估算中的应用研究[J].土木工程学报,2005(8):135-138.

[2]乔姗姗.基于遗传算法优化的BP神经网络在建筑工程投标报价中应用的研究[D].扬州:扬州大学,2012.

篇7

关键词:模拟电路;故障诊断;BP神经网络;Elman神经网络

中图分类号:TP183文献标识码:A文章编号:1009-3044(2011)17-4170-03

Application of BP Neural Network and Elman Neural Network in Fault Diagnosis of Analog Circuit

YANG Chen, SHI Bao-jun

(Department of Electronics and Information Engineering,Lanzhou Jiaotong University, Lanzhou 730070, China)

Abstract: This article studies the method of fault diagnosis of analog circuit based on the neural network, by analyzing the basic structure and the algorithm of BP neural network and Elman neural network. Then it contrastive analysis the diagnosis ability of BP neural network andElman neural network through simulation. The results shows that BP neural network's convergence rate is relatively slow, and the training time is long; Elman neural network's parameter is simple to adjust, the training time is short, stable performance, and it is more suitable to solve the questions like tolerance, non-linear and so on in fault diagnosis of analog circuit.

Key words: analog circuit; fault diagnosis; BP neural network; elman neural network

由于模拟电路中广泛存在着容差、非线性等问题,导致模拟电路的故障诊断较为复杂。神经网络作为一种模式识别技术,拥有强大的自学习、自组织和自适应性[1],能够很好的满足模拟电路故障诊断的要求。而在神经网络的各种模型中,应用较为广泛的是BP神经网络和Elman神经网络。本文针对模拟电路中的软故障,建立基于BP神经网络和Elman神经网络的智能诊断模型,并通过仿真实例对两种神经网络的性能进行对比和评价。

1 BP神经网络和Elman神经网络基础理论

1.1 BP神经网络

BP神经网络是一种多层前馈神经网络,其网络结构的模型如图1所示。

由图1所示,BP神经网络是一种具有三层或三层以上神经元的神经网络,包括输入层、隐含层和输出层[2]。其中,输入节点为xi,隐含层输出节点为yj,输出节点为ok,wjk,vij分别为隐含层到输出层,输入层到隐含层的连接权值。f(・)为神经元的激活函数,网络的期望输出为dk,输出误差为E,网络的各层输出关系为:[3]

输出层: (1)

隐含层: (2)

输出误差: (3)

1.2 Elman神经网络

与BP神经网络不同,Elman神经网络是一种反馈神经网络,该神经网络的结构模型如图2所示。

Elman神经网络由4层结构组成,包括输入层、隐含层、承接层和输出层。其中输入层节点为ur,隐含层输出节点为xn,承接层输出节点为xc,输出层节点为ym,w3,w2,w1分别为隐含层到输出层、输入层到隐含层、承接层到隐含层的连接权值,g(・)为输出神经元的激活函数,f(・)为隐含层神经元的激活函数[4],网络的期望输出为dk,输出误差为E,在k时刻各层之间的输出关系为:[5]

输出层: (4)

隐含层: (5)

承接层: (6)

输出误差: (7)

2 神经网络在模拟电路故障诊断中的实现方法

采用神经网络进行模拟电路故障诊断的过程是把故障特征空间向量映射到故障模式空间,从而解决模拟电路故障的识别和分类问题。其诊断步骤如下:

1) 构造训练样本集:根据被测模拟电路的特点,选择合适的激励信号和测试点,利用PSpice仿真软件中的灵敏度分析找到对电路工作性能影响较大的元器件,并通过蒙特卡罗分析,针对这些元器件的正常状态和各种故障状态进行多次仿真,得出电路各测试点对应各种状态的输出数据,这些数据经过归一化等适当的处理后作为神经网络的训练样本集。

2) 神经网络的结构设计及训练:通过分析仿真得出的训练样本集数据及模拟电路的各种工作状态,设计出合适神经网络结构。其中网络中间层神经元个数的选择是决定网络性能好坏的关键,通常是根据以往的经验以及不断的训练调整,最终确定理想的中间层神经元个数。将处理过的训练样本集输入已经设计好的神经网络中,通过训练算法对其进行训练。

3) 神经网络的测试:对电路施加相同的激励信号,得到神经网络的测试样本。将其输入到训练好的神经网络中,进行相应的故障模式识别。并将实际输出的结果与期望诊断的结果进行对比,判断是否达到神经网络的性能要求。

3 实验仿真

待测电路如图3所示,实验针对电路中的单个电阻或电容发生的软故障进行诊断。使用PSpice9.2软件对该电路的正常和不同的故障情况分别进行仿真分析。各元器件标称值如图中所示,其中电阻和电容的容差分别5%和10%。通过灵敏度分析发现,元器件R1,R2,R3,R4,R6和C1的取值发生变化时,对电路输出Vout的波形影响最为显著。

3.1 训练样本集的构建

在电路输入端施加2V的正弦激励, 当电路发生故障时,选择其中几个最能反映输出响应波形曲线波动的采样点,从而构成各种故障模式的特征向量,此处选取的采样频率分别为60Hz ,120Hz ,150Hz ,180Hz,250 Hz,300Hz。其中Vout为输出测试点,实验假定电阻和电容在偏离其标称值的±50 %时发生软故障。结果将故障分成两类: R ,R 和C ,C ,加上电路的正常工作状态共计13种故障模式,并采用二进制编码表示。为了提高实验的精度,分别对上述13种工作状态进行30次的蒙特卡罗(MC)分析,得到电路的30个故障样本,其中20个作为样本集进行神经网络的训练,其余的10个作为神经网络的测试样本。部分训练样本经过归一化处理后如表1所示。

3.2 BP神经网络结构的确定与训练

1) BP神经网络结构的确定:通过分析待测电路各种故障模式的特征向量,实验建立一个具有三层网络结构的BP神经网络,其中隐含层神经元个数n2和输入层神经元个数n1之间有以下近似关系:

n2=2n1+1

由于神经网络的输入层神经元的个数为6个,输出层神经元的个数为4个,可得出隐含层的神经元个数近似为13个。隐含层的神经元个数不是固定的,需要经过多次训练进行调整,实验最终选取隐含层神经元个数为12比较理想。

2) BP神经网络训练:将20组的训练样本输入到BP神经网络,隐含层神经元的传递函数为S型正切函数tansig,输出层神经元传递函数采用S型对数函数logsig,误差为0.01,学习率为0.1,训练的误差变化曲线如图4所示,在经过135次训练后,神经网络的性能达到了要求。

3.3 Elman神经网络结构的确定与训练

1) Elman神经网络结构的确定:实验采用单隐层的Elman神经网络,其中由于输入故障特征向量的维数为6,则其输入层神经元的个数为6;而输出向量的维数为4,则输出层神经元的个数为4。为了使网络的诊断误差最小,经过多次训练检验,将隐含层神经元的个数设定为15,能够很好的满足网络的性能要求。

2) Elman神经网络训练:将20组的训练样本输入到BP神经网络,传递函数取tansig,误差为0.01。训练的误差变化曲线如图5所示,在经过75次训练后,网络的性能达到了要求。

3.4 BP神经网络和Elman神经网络的检测结果与对比分析

抽取3组测试样本对训练好的BP神经网络和Elman神经网络进行测试,测试结果如表2所示。

检测结果显示BP神经网络3次测试的误差分别为0.0382、0.0213和0.0676,Elman神经网络3次测试的误差分别为0.0871、0.0369和0.0846。对比两种神经网络的训练过程及检测结果,可以得出BP神经网络收敛速度相对较慢、训练时间长,而且有可能收敛于局部极小值;Elman神经网络的参数调整简单、训练时间短、与BP神经网络相比诊断误差要大一些,但这并不影响其检测的预期结果;另外,Elman神经网络的训练误差曲线要比BP神经网络平滑,性能更加稳定。因此,经过多次训练后,Elman神经网络更适合存在容差、非线性等问题的模拟电路故障诊断。

4 结论

模拟电路的故障诊断问题较为复杂,本文研究了基于BP神经网络和Elman神经网络的模拟电路故障诊断方法。并通过仿真实例对比验证了两种神经网络的训练过程及检测结果。最后分析得出相对于BP神经网络,Elman神经网络具有结构参数调整简单、训练时间短、性能稳定等优势,更适合存在容差、非线性等问题的模拟电路故障诊断。

参考文献:

[1] 韩力群.人工神经网络理论、设计及应用[M].北京:化学工业出版社,2007:18-19.

[2] 葛哲学,孙志强.神经网络理论与MATLABR2007实现[M].北京:电子工业出版社,2007:208-109.

[3] 施彦,韩力群,廉小亲.神经网络设计方法与实例分析[M].北京:北京邮电大学出版社,2009:23-24.

[4] 张良均,曹晶,蒋世忠.神经网络实用教程[M].北京:机械工业出版社,2008:53-54.

篇8

关键词:神经网络;计算机网络;安全管理;应用

中图分类号:TP393.08

进入到信息时代,便捷的计算机网络技术不仅给人们的生活带来了极大的便利,但同时也容易遭到蠕虫病毒、木马病毒等破坏性极强的程序病毒攻击留下便利的通道,使得计算机网络安全面临巨大的威胁。鉴于此,要对计算机网络安全所面临的风险进行科学、合理以及准确的分析、评估,同时要采取相应的措施对面临的风险有效的进行防范,尽可能的减少由于计算机网络安全管理问题所带来的损失。另外,计算机网络安全受到很多种因素的影响,主要有病毒的入侵以及系统漏洞,更重要的是这些因素之间有很强的关联性,这也就导致计算机网络安全管理的问题逐渐趋于复杂化,在这种情况下,就必须要求计算机网络系统的管理者以及使用者对网络的安全进行有效的管理,更要对网络的安全性有清楚的认识和了解,切实的掌握影响计算机网络安全的因素。为了更好的解决计算机网络安全管理问题,神经网络逐渐被应用到计算机网络安全管理之中,使得对计算机网络安全管理更加准确和有效。

1 计算机网络安全管理概述

一般而言,计算机网路安全管理指的是计算机在连接网络后进行信息的交换、浏览以及下载的过程中,对信息安全进行有效的管理,防止信息被他人窃取或者破坏。随着信息时代的到来,越来越多的人对计算机产生了很强的依赖,从儿童到老年人,计算机的影响无处不在,随着计算机的普及,人们在使用计算机的过程中对其安全性就有了顾忌。对于计算机网络,只要连接互联网,随时都存在被攻击的可能,相对而言,没有任何计算机是绝对的安全或者是不受到任何的攻击。运用计算机网络技术进行攻击或者盗取个人信息或者是企业信息的事件几乎每年都会发生,计算机网络存在严重的安全隐患。所以,要及时的认识以及了解计算机网络面临的安全隐患,积极的采取相应的措施加强对计算机网络安全的管理。

2 神经网络在计算机网络安全管理应用的现状

2.1 对神经网络在计算机安全管理运用中的重视程度不够

计算机网络安全是因特网发展的最基础的目的,但与此同时近乎所有的计算机网络在开创以及不断的发展过程中都趋向于实用以及便利,相反却在一定程度上没有重视对计算机的安全管理,更没有将神经网络技术运用到计算机的安全管理中,进而对计算机网络的安全管理留下了严重的隐患。另外,神经网络在计算机网络安全管理中主要是对计算机的网络安全进行评估,然而由于不重视对神经网络在计算机网络安全管理中的运用,使得没有建立良好的计算机网络安全评价标准体系。

2.2 对神经网络在计算机网络安全评价模型的设计和实际运用不够合理

一般来说,神经网络在计算机网络安全管理中主要是对计算机网络安全进行一定的评估,在对其进行评估的过程中,就需要设计一定的计算机网络安全评价模型,主要包含对输入层、输出层以及隐含层的设计;但是,目前神经网络在计算机网络安全管理中对于评价模型的设计还没有将这三方面有效的联系起来。除此之外,对神经网络在计算机网络安全管理的实际运用中,不能科学、合理的实现计算机网络安全管理评价模型运用,不注重对评价模型的学习以及不关注对评价模型进行有效的验证。

3 加强神经网络在计算机网络安全管理中的应用采取的措施

3.1 神经网络在计算机网络安全管理中要科学、合理的设计网络安全评价模型

神经网络在计算机网络安全管理中要科学、合理的设计网络安全评价模型,以便更好的实现计算机网络安全、高效的运行。为此,计算机网络安全评价模型需要进行一下设计:首先是对输入层的设计,一般来说,神经网络在计算机网络安全管理运用中,对于输入层考虑的是神经元的节点数以及评价指标的数量,尽可能的使这两者数量保持一致。其次是对隐含层的设计,对于隐含层的设计需要注意的是若某个连续函数在任意的闭区间中,可以通过在隐含层里的神经网络来靠近,大多数情况下,神经网络通常运用的是单隐含层。最后是输出层的设计,神经网络的输出层设计主要是获得计算机网络安全管理评价的最终结果,例如可以设置计算机网络安全管理评价的输出层节点数为2,那么相应的输出结果(1,1)指的是非常安全、(0,1)指的是较不安全、(1,0)指的是基本安全以及(0,0)指的是非常的不安全。

3.2 神经网络在计算机网络安全管理运用中要对评价模型进行有效的验证

需要注意的是,神经网络在计算机网络安全管理运用中要对评价模型进行有效的验证,一般体现在一下几方面:首先是要关注评价模型的实现,为了实现神经网络在计算机网络安全管理中的良好运用,就要依据客户满意的评价模型,运用计算机网络技术创建设置含有输入层、隐含层以及输出层的神经网络模型,然后再对网络安全进行检验。其次是要注意对评价模型的学习,在对计算机网络安全进行评价之前,需要对神经网络进行标准化的处理,才能尽可能的减少对计算机网络安全管理评价中的误差。最后要注意对评价模型进行验证,当神经网络经过标准化处理以及在计算机网络安全评价之后,就需要对输出的结果进行一定的验证,以便确定神经网络对计算机网络安全的评价输出结果是否与期望的评价结果相一致,进一步验证神经网络在计算机网络安全管理中安全评价模型的准确与否。

3.3 重视神经网络在计算机网络安全管理运用以及建立健全安全评价标准体系

神经网络在计算机网络安全管理运用中主要的任务是对计算机网络的安全进行一定的评价,并且将评价的结果准确、及时的反馈给用户,所以就应该对其在计算机网络安全管理中的应用引起高度的重视,为此就应该建立健全计算机网络安全管理的评价标准体系。一方面是评价指标的建立,计算机网络安全管理是复杂的过程,同时影响计算机网络安全的因素比较多。因此,建立科学、合理以及有效的计算机网络安全管理评价标准,对于神经网络高效的开展评价工作有很大的关联。另一方面是对评价标准的准确化,影响计算机网络安全管理的因素非常的多,就应该对各种评价标准进行细化,以达到评价的准确。

4 结束语

综上所述,通过神经网络对计算机网络安全的评价,可以有效的对计算机网络安全进行管理。运用神经网络技术手段,提高了计算机网络安全管理的效率,并且在运用神经网络的过程中建立健全安全评价标准体系、注重对评价模型进行有效的验证以及加强对计算机网络安全评价模型的设计,切实的提升计算机网络安全管理水平。

参考文献:

[1]毛志勇.BP神经网络在计算机网络安全评价中的应用[J].信息技术,2008(06).

[2]周忠.神经网络技术在网络安全中的应用[J].科技致富向导,2010(32).

[3]赵冬梅,刘海峰,刘晨光.基于BP神经网络的信息安全风险评估[J].计算机工程与应用,2007(01).

[4]楼文高,姜丽,孟祥辉.计算机网络安全综合评价的神经网络模型[J].计算机工程与应用,2007(32).

[5]沈宗庆,刘西林.基于BP神经网络的分销商绩效指标评价及应用[J].华东交通大学学报,2007(04).

篇9

关键词 BP神经网络 数据挖掘 最速下降法 函数逼近 模式识别

中图分类号:TP391 文献标识码:A

1研究背景

BP神经网络是一种多层的前馈网络而且它的学习算法是一种误差逆向传播算法。BP神经网络是目前研究最为成熟、应用最为广泛的人工神经网络模型之一。由于其结构简单、可操作性强、具有较好的自学习能力、能够有效地解决非线性目标函数的逼近问题等优点,因此被广泛应用于自动控制、模式识别、图像识别、信号处理、预测、函数拟合、系统仿真等学科和领域中。

2 BP神经网络原理

2.1概述

BP神经网络是一种反向传播误差算法然后训练的一个多层前馈网络,简称为BP算法,它应用在已被开发出来的神经网络中,到目前为止是应用最为广泛的网络模型之一。BP神经网络可以学习并且存储非常多的输入模式与输出模式之间的映射关系,却无需在学习和存储前事先揭示并描述输入输出间的映射关系的一种数学方程。它使用最速下降法,通过对输出误差的反向传播,获得不断调整网络连接权系数和阈值的信息,最终使神经网络的平方误差最小,达到期望要求。

2.2 BP神经网络结构

BP神经网络模型是一个三层网络,它的拓扑结构可被划分为:输入层、输出层、隐含层。其中输入层与输出层具有更重要的意义,因此它也可以为两层网络结构(把隐含层划入输入层或者把隐含层去掉)。每层都由许多简单的能够执行并行运算的神经元组成,这些神经元与生物系统中的那些神经元非常类似,但其并行性并没有生物神经元的并行性高。BP神经网络是一个前馈网络,因此它具有前馈网络所具有的特性:相邻两层之间的全部神经元进行互相连接,而处于同一层的神经元不能进行联接。

2.3 BP算法原理

BP神经网络的基本原理是把一个输入矢量经过隐含层的一系列变换,然后得到一个输出矢量,从而实现输入数据与输出数据间的一个映射关系。输入信息的正向传播,以及输出误差的反向传播,构成了 BP网络的信息循环。BP算法根据输出误差来修改各神经元连接的连接权系数,其目的是使输出误差达到预计范围内。BP网络需要实际输出与期望输出之间的误差来确定是否要修改神经元连接的连接权系数。其中,期望输出便是该网络意义上的“导师”。BP网络具有对称性的网络结构,在输出端的每一个处理单元基本上都具有一个相同的激励函数。

BP算法由正向传播和反向传播两部分组成。在正向传播过程中,输入信息从输入层经隐层单元处理后,传至输出层。每一层神经元的状态只影响下一层神经元的状态。如果在输出层得不到期望输出,就转为反向传播,即:把误差信号沿连接路径返回,并通过修改各层神经元之间的连接权值,使误差信号最小。

具体的算法步骤可概括如下:

第一步,选取初始权值、阈值。

第二步,重复下述过程直至满足性能要求为止:

(1)对于学习样本P=1到N

①计算每层各节点j的输出yj,netj和的值(正向过程);

②对各层从M层到第二层,对每层各节点反向计算%]j(反向过程);

(2)修改权值

具体推导过程见参考文献4。

3基于BP神经网络设计的实例

3.1函数逼近

我们设计一个简单的BP网络,实现对非线性函数的逼近。通过改变该函数的参数以及BP网络隐层神经元的数目,来观察训练时间以及训练误差的变化时间。将要逼近的非线性函数设为正弦函数,其频率参数k可以调节。假设频率参数k=2,绘制此函数的曲线。如图1。

(1)网络建立:用MATLAB编程建立BP网络结构,为二层BP神经网络。隐层神经元数目n 可以改变,暂时设为n=10,输出层有一个神经元。网络训练采用Levenberg-Marquardt算法trainlm。

分析:因为建立网络时,权值和阈值的初始化是随机的,所以网络输出结果很差,根本达不到函数逼近的目的,并且每次运行的结果也有所不同。

(2)网络训练:在MATLAB里应用train()函数对网络进行训练之前,需要预先设置训练参数。将训练时间设置为50,训练精度设置为0.01,其余参数用默认值。

(3)网络测试:对于训练好的网络进行仿真,绘制网络输出曲线,并与原始非线性函数曲线相比较,结果如下图2。

由此可看出,得到的曲线和原始的非线性函数曲线很接近。这说明经过训练后,BP网络对非线性函数的逼近效果非常好。

(4)讨论分析:改变非线性函数的频率和BP网络隐层神经元的数目,对于函数逼近的效果有一定的影响。网络非线性程度越高,对BP网络的要求越高,则相同的网络逼近效果要差一些;隐性神经元的数目对于网络逼近效果也有一定的影响,一般来说隐形神经元数目越多,则BP网络逼近非线性函数的能力越强,同时网络训练所用的时间相对来说也要长一些。

参考文献

[1] 闫志忠.BP神经网络模型的改进及其应用研究[D].吉林大学,2003.

[2] 李友坤.BP神经网络的研究分析及改进应用[D].安徽理工大学,2012.

[3] 吴昌友.神经网络的研究及应用[D].东北农业大学, 2007.

篇10

【关键词】小波神经网络;建筑工程项目工期风险;预测

0.引言

在工程项目的施工过程中,工期是三大控制中重要的控制目标之一,工期的拖延或者压缩,都会直接影响到成本和质量[1]。如果项目工期得不到有效控制,必然导致人力、物力、财力的浪费,甚至会影响到工程的质量、安全乃至项目总体目标的实现。工程项目工期风险管理已成为工程项目管理的核心问题。工程项目的不确定因素处于动态变化之中,由于信息的滞后性,作好工期风险管理需要对工期计划中未来可能发生的风险作出准确的识别和预测,因此,对工期风险进行预测具有重要意义。

目前,对于工程项目工期风险预测的研究较少,已应用的方法主要有专家打分法、模糊综合评价法、层次分析法、灰色关联法等。但这些方法人为主观因素多,手工计算复杂繁琐,且研究尚不够深入。人工神经网络凭借其强大的样本自学习、自适应能力,已被逐渐应用到工程项目风险分析与预测领域,它可以充分利用专家经验和有限的历史数据,能够大大提高工程项目风险预测的客观性和精确性[2]。1986 年D.E.Runelhart 和J.L.McCelland 及其研究小组提出的误差反向传播算法(BP 算法),已成为至今影响最大、引用最广的一种网络学习算法[3]。结合BP 神经网络的特点和我国工程项目风险预测的需要,国内一些学者开始将BP 神经网络应用到工程项目的风险评价之中,但却尚未应用于工期风险的预测领域。

1.小波神经网络模型

小波神经网络(Wavelet Neural Networks,缩写WNN), 是近几年国际上新兴的一种数学建模分析方法,是结合最近发展的小波变换良好的时频局域化性质与传统人工神经网络的自学习功能力而形成的。最早是由法国著名的信息科学研究机构IR ISA 的Q inghua Zhang 等于1992 年提出的, Y C Pat i等对离散仿射小波神经网络进行了研究.小波神经网络是通过小波分解进行平移和伸缩变化后而得到的级数,具有小波分解的一般逼近函数的性质与分类特征。并且由于它引入了两个新的参变量,即伸缩因子和平移因子,所以小波神经网络具有比小波分解更多自由度,从而使其具有更灵活有效的函数逼近能力,更强的模式识别能力和容错能力。由于其建模算法不同于普通神经网络的BP算法,故可有效地克服普通人工神经网络模型所固有的缺陷。

小波神经网络是基于小波分析而构成的一类新型前馈网络,也可以看作是以小波函数为基底的一种新型函数连接神经网络,其信号的表达式通过将所选取得小波基叠加来实现的等。在信号分类中,子波空间可作为模式识别的特征空间,通过将小波基与信号向量的内积进行加权和来实现信号的特征提取,然后将这些特征输入到分类器中,它结合了小波变换良好的时频局域化性质及神经网络的自学习功能,因而具有良好的逼近与容错能力[4]。

2.基于小波神经网络的建筑建筑工程项目工期风险预测

2.1数据的选取

本文引用文献[6]中的15 组数据作为样本数据,将其中12 组数据作为训练样本,3 组数据作为检测样本。样本数据如表1 所示,表中数据为由20位有经验的现场管理人员对各工程项目的风险因素进行评价得出的风险因素值。

表1 样本数据

2.2小波神经网络(WNN)预测模型预测结果

确定BP 网络输入样本的维数为4,因此将管理、公共关系、技术、社会风险4 个风险指标作为BP 网络的输入节点;将预测得出的工程项目工期风险分数作为网络的输出,即设置1 个输出节点;隐层单元数取12(经验证,当隐层节点数为12 时网络预测的相对误差最低),构建三层BP 神经网络。在设计网络时采用三层网络模型,这样比采用四层网络不易陷入局部极小值。采用此结构对上面归一化的中房指数数据进行预测。并将整个过程运用Matlab进行编程实现将数据分为两组,前一组用于训练网络,后一组用作检验。用小波神经网络(WNN)预测模型进行预测,并将结果与BP神经网络预测结果进行比较,结果如表2所示。

表2 小波神经网络预测结果比较

3.实例分析

选取绍兴市某拟建工程项目,运用本模型对其工期风险进行预测,以便在该项目决策前期准确地预测出工期风险大小,为项目管理人员提供可靠依据,更加科学合理地对工期风险进行应对,有效控制项目工期。针对该工程项目,首先邀请10 位相关领域专家对该工程项目的主成分风险指标进行打分,对专家的打分结果按照本文前述方法进行处理并整理得到表4。

表4 实例数据

工期风险预测模型对该项目的工期风险进行预测,计算出该工程项目的工期风险分数为0.3200,说明该工程项目存在的工期风险属中等风险。项目管理人员应根据项目实际情况,合理安排人力、物力、财力,不能盲目缩短工期,也不可疏于控制致使工期拖延。应从项目宏观角度出发,统筹考虑质量、费用和工期之间的关系,制定合理的工期风险应对计划,以较高的效率保证项目总体目标的实现。

4.小结

小波神经网络是结合最近发展的小波变换良好的时频局域化性质与传统人工神经网络的自学习功能而形成的,具有深厚的数学基底,被广泛应用于各个领域。本文在介绍小波神经网络的同时,建立起了一种小波神经网络预测模型,并将其应用于建筑工程工期风险的预测当中。

【参考文献】

[1]赵冬梅,王晓强,侯丽娜.工程项目工期延误的关键风险研究[J].技术经济与管理研究,2009(5):48-51.

[2]张俊玲,陈立文,尹志军等.工程项目投资风险评价模型研究[J].基建优化,2004,25(1):11-14.

[3]JU Q,YU Z B,HAO Z C,et al.Division-basedrainfall-runoff simulations with BP neural networks and Xinanjiang model[J].Neuro computing,2009,72(13):2873-2883.

[4]Dutta R K,S Paul,Chattopadhyay.Applicability ofmodified back propagation algorithm in tool condition monitoring for faster convergence[J].Mater ProcessTechnol,2000,98(3):299-309.