人工神经网络发展范文

时间:2024-04-08 18:04:50

导语:如何才能写好一篇人工神经网络发展,这就需要搜集整理更多的资料和文献,欢迎阅读由公务员之家整理的十篇范文,供你借鉴。

人工神经网络发展

篇1

关键词:神经网络;VC维;数据挖掘

中图分类号:TP183文献标识码:A文章编号:1009-3044(2008)30-0710-02

A Review of the Research and Development of the Artificial Neural Nets

WANG Hui

(Xinjiang Petroleum Institute,Urumqi 830000,China)

Abstract: This paper reviews the history and the current situation of the theory of neural nets. It discusses two aspects: the Vapnik-Chervonenkis dimension calculation and the data mining in neural nets. It also touches upon such research areas as calculation theory, methods and application of neural nets.

Key words: neural nets;Vapnik-Chervonenkis dimension;Data Mining

1 引言

本世纪初,科学家们就一直探究大脑构筑函数和思维运行机理。特别是近二十年来。对大脑有关的感觉器官的仿生做了不少工作,人脑含有数亿个神经元,并以特殊的复杂形式组成在一起,它能够在计算某些问题(如难以用数学描述或非确定性问题等)时,比目前最快的计算机还要快许多倍。大脑的信号传导速度要比电子元件的信号传导要慢百万倍,然而,大脑的信息处理速度比电子元件的处理速度快许多倍,因此科学家推测大脑的信息处理方式和思维方式是非常复杂的,是一个复杂并行信息处理系统。1943年McCulloch和Pitts结合了神经生理学和数理逻辑的研究描述了一个神经网络的逻辑演算。他们的神经元模型假定遵循一种所谓“有或无”(all-or-none)规则。如果如此简单的神经元数目足够多和适当设置突触连接并且同步操作,McCulloch和Pitts证明这样构成的网络原则上可以计算任何可计算的函数,这标志着神经网络学科的诞生。

2 发展历史及现状

2.1 人工神经网络理论的形成

早在40年代初,神经解剖学、神经生理学、心理学以及人脑神经元的电生理的研究等都富有成果。其中,神经生物学家McCulloch提倡数字化具有特别意义。他与青年数学家Pitts合作[1],从人脑信息处理观点出发,采用数理模型的方法研究了脑细胞的动作和结构及其生物神经元的一些基本生理特性,他们提出了第一个神经计算模型,即神经元的阈值元件模型,简称MP模型,他们主要贡献在于结点的并行计算能力很强,为计算神经行为的某此方面提供了可能性,从而开创了神经网络的研究。50年代初,神经网络理论具备了初步模拟实验的条件。Rochester,Holland与IBM公司的研究人员合作,他们通过网络吸取经验来调节强度,以这种方式模拟Hebb的学习规则,在IBM701计算机上运行,取得了成功,几乎有大脑的处理风格。但最大规模的模拟神经网络也只有1000个神经元,而每个神经元又只有16个结合点。再往下做试验,便受到计算机的限制。人工智能的另一个主要创始人Minsky于1954年对神经系统如何能够学习进行了研究,并把这种想法写入他的博士论文中,后来他对Rosenblatt建立的感知器(Perceptron)的学习模型作了深入分析。

2.2 第一阶段的研究与发展

1958年计算机科学家Rosenblatt基于MP模型,增加了学习机制,推广了MP模型。他证明了两层感知器能够将输入分为两类,假如这两种类型是线性并可分,也就是一个超平面能将输入空间分割,其感知器收敛定理:输入和输出层之间的权重的调节正比于计算输出值与期望输出之差。他提出的感知器模型,首次把神经网络理论付诸工程实现。1960年Widrow和Hoff提出了自适应线性元件ADACINE网络模型,是一种连续取值的线性网络,主要用于自适应系统。他们研究了一定条件下输入为线性可分问题,期望响应与计算响应的误差可能搜索到全局最小值,网络经过训练抵消通信中的回波和噪声,它还可应用在天气预报方面。这是第一个对实际问题起作用的神经网络。可以说,他们对分段线性网络的训练有一定作用,是自适应控制的理论基础。Widrow等人在70年代,以此为基础扩充了ADALINE的学习能力,80年代他们得到了一种多层学习算法。

Holland于1960年在基因遗传算法及选择问题的数学方法分析和基本理论的研究中,建立了遗传算法理论。遗传算法是一种借鉴生物界自然选择和自然遗传机制的高度并行、随机、自适应搜索算法,从而开拓了神经网络理论的一个新的研究方向。1976年Grossberg提出自适应共振理论(ART),这是感知器较完善的模型,即superrised学习方式。本质上说,仍是一种unsuperrised学习方式。随后,他与Carpenter一起研究ART网络,它有两种结构ART1和ART2,能够识别或分类任意多个复杂的二元输入图像,其学习过程有自组织和自稳定的特征,一般认为它是一种先进的学习模型。另外还有Werbos提出的BP理论以及提出的反向传播原理;Fukushima 提出了视觉图象识别的Neocognitron模型这些研究成果坚定的神经网络理论的继续研究。

2.3 第二次研究的阶段

Hopfield于1982年至1986年提出了神经网络集体运算功能的理论框架,随后,引起许多学者研究Hopfield 网络的热潮,对它作改进、提高、补充、变形等,至今仍在进行,推动了神经网络的发展。1983年Kirkpatrick等人先认识到模拟退火算法可应用于NP完全组合优化问题的求解。这种思想最早是由Metropolis等人在1953年提出的,即固体热平衡问题,通过模拟高温物体退火过程的方法,来找全局最优或近似全局最优,并给出了算法的接受准则。这是一种很有效的近似算法。1984年Hinton等人提出了Boltzmann机模型,借用统计物理学中的概念和方法,引入了模拟退火方法,可用于设计分类和学习算法方面,并首次表明多层网络是可训练的。Sejnowski于1986年对它进行了改进,提出了高阶Boltzmann机和快速退火等。

1986年Rumelhart和McClelland 合著的Parallel Distributed Processing: Exploratio n in the Microstructures of Cognition两卷书出版,对神经网络的进展起了极大的推动作用。它展示了PDP研究集团的最高水平,包括了物理学、数学、分子生物学、神经科学、心理学和计算机科学等许多相关学科的著名学者从不同研究方向或领域取得的成果。他们建立了并行分布处理理论,主要致力于认知的微观研究。尤其是,Rumelhart提出了多层网络Back-Propagation法或称Error Propagation法,这就是后来著名的BP算法。

2.4 新发展阶段

90年代以来,人们较多地关注非线性系统的控制问题,通过神经网络方法来解决这类问题已取得了突出的成果,它是一个重要的研究领域。1990年Narendra和Parthasarathy提出了一种推广的动态神经网络系统及其连接权的学习算法,它可表示非线性特性,增强了鲁棒性。他们给出了一种新的辨识与控制方案,以multilayer网络与recarrent网络统一的模型描述非线性动态系统,并提出了动态BP 参数在线调节方法。尤其是进化计算的概念在1992年形成,促进了这一理论的发展。1993年诞生了国际性杂志Evolutionary Computation。近几年它成为一个热点研究领域。1993年Yip和Pao提出了一种带区域指引的进化模拟退火算法,他们将进化策略引入区域指引,它经过选优过程,最终达到求解问题的目的。

从上述各个阶段发展轨迹来看,神经网络理论有更强的数学性质和生物学特征,尤其是神经科学、心理学和认识科学等方面提出一些重大问题,是向神经网络理论研究的新挑战,因而也是它发展的最大机会。90年代神经网络理论日益变得更加外向,注视着自身与科学技术之间的相互作用,不断产生具有重要意义的概念和方法,并形成良好的工具。

3 神经网络的发展趋势

3.1 神经网络VC维计算

神经计算技术已经在很多领域得到了成功的应用,但由于缺少一个统一的理论框架,经验性成分相当高。最近十年里,很多研究者都力图在一个统一的框架下来考虑学习与泛化的问题 。PAC(Probably Approximately Correct)学习模型就是这样一个框架。作为PAC学习的核心以及学习系统学习能力的度量,VC维(Vapnik-Chervonenkis dimension)在确定神经网络的容量(capacity)、泛化能力(generalization)、训练集规模等的关系上有重要作用。如果可以计算出神经网络的VC维,则我们可以估计出要训练该网络所需的训练集规模;反之,在给定一个训练集以及最大近似误差时,可以确定所需要的网络结构。

Anthony将VC维定义为:设F为一个从n维向量集X到{0, 1}的函数族,则F的VC维为X的子集E的最大元素数,其中E满足:对于任意S?哿E,总存在函数fs ∈F,使得当x ∈ S时fs(x) =1,x?埸S但x∈E时fs(x) =0。

VC维可作为函数族F复杂度的度量,它是一个自然数,其值有可能为无穷大,它表示无论以何种组合方式出现均可被函数族F正确划分为两类的向量个数的最大值。对于实函数族,可定义相应的指示函数族,该指示函数族的VC维即为原实函数族的VC维。

3.2 基于神经网络的数据挖掘

1996年,Fayyad、Piatetsky-Shapiro和Smyth对KDD(Knowledge Discovery from Databases)和数据挖掘的关系进行了阐述。但是,随着该领域研究的发展,研究者们目前趋向于认为KDD和数据挖掘具有相同的含义,即认为数据挖掘就是从大型数据库的数据中提取人们感兴趣的知识。

数据挖掘的困难主要存在于三个方面:首先,巨量数据集的性质往往非常复杂,非线性、时序性与噪音普遍存在;其次,数据分析的目标具有多样性,而复杂目标无论在表述还是在处理上均与领域知识有关;第三,在复杂目标下,对巨量数据集的分析,目前还没有现成的且满足可计算条件的一般性理论与方法。在早期工作中,研究者们主要是将符号型机器学习方法与数据库技术相结合,但由于真实世界的数据关系相当复杂,非线性程度相当高,而且普遍存在着噪音数据,因此这些方法在很多场合都不适用。如果能将神经计算技术用于数据挖掘,将可望借助神经网络的非线性处理能力和容噪能力,较好地解决这一问题。

4 结束语

经过半个多世纪的研究,神经计算目前已成为一门日趋成熟,应用面日趋广泛的学科。本文对神经计算的研究现状和发展趋势进行了综述,主要介绍了神经网络VC维计算、基于神经网络的数据挖掘领域的相关研究成果。需要指出的是,除了上述内容之外,神经计算中还有很多值得深入研究的重要领域,例如:与符号学习相结合的混合学习方法的研究;脉冲神经网络(Pulsed Neural Networks)的研究;循环神经网络(Recurrent Neural Networks)的研究等;神经网络与遗传算法、人工生命的结合;支持向量机(Support Vector Machine)的研究;神经网络的并行、硬件实现;容错神经网络的研究。

参考文献:

[1] McCulloch W S, Pitts W. A Logical Calculus of the Ideas Immanent in Nervous Activity, Bulletin of Mathematical Biophysics, 1943.

[2] N.维纳著,郝季仁译,控制论,科学出版,1985.

[3] Von Neumann J. The General and Logical Theory of Automata, Cerebral Mechanisms in Behavior; The Hixon Sympsium, 1951.

[4] Hebb D O. The Organization of Behavior, New York:Wiley, 1949.

[5] 陈世福,陈兆乾. 人工智能与知识工程[M]. 南京: 南京大学出版社,1998.

[6] Simon Haykin.神经网络原理[M].机械工业出版社(第二版),2004.

篇2

【关键词】人工神经网络 BP神经网络 图像识别 识别技术

通常而言,所谓图像处理与识别,便是对实际图像进行转换与变换,进而达到识别的目的。图像往往具有相当庞大的信息量,在进行处理图像的时候要进行降维、 数字化、滤波等程序,以往人们进行图像识别时采用投影法、不变矩法等方法,随着计算机技术的飞速发展,人工神经网络的图像识别技术将逐渐取代传统的图像识别方法,获得愈来愈广泛的应用。

1 人工神经网络图像识别技术概述

近年来,人工智能理论方面相关的理论越来越丰富,基于人工神经网络的图像识别技术也获得了非常广泛的应用,将图像识别技术与人工神经网络技术结合起来的优点是非常显著的,比如说:

(1)由于神经网络具有自学习功能,可以使得系统能够适应识别图像信息的不确定性以及识别环境的不断变化。

(2)在一般情况下,神经网络的信息都是存储在网络的连接结构以及连接权值之上,从而使图像信息表示是统一的形式,如此便使得知识库的建立与管理变得简便起来。

(3)由于神经网络所具有的并行处理机制,在处理图像时可以达到比较快的速度,如此便可以使图像识别的实时处理要求得以满足。

(4)由于神经网络可增加图像信息处理的容错性,识别系统在图像遭到干扰的时候仍然能正常工作,输出较准确的信息。

2 图像识别技术探析

2.1 简介

广义来讲,图像技术是各种与图像有关的技术的总称。根据研究方法以及抽象程度的不同可以将图像技术分为三个层次,分为:图像处理、图像分析以及图像理解,该技术与计算机视觉、模式识别以及计算机图形学等学科互相交叉,与生物学、数学、物理学、电子学计算机科学等学科互相借鉴。此外,随着计算机技术的发展,对图像技术的进一步研究离不开神经网络、人工智能等理论。

2.2 图像处理、图像识别与图像理解的关系

图像处理包括图像压缩、图像编码以及图像分割等等,对图像进行处理的目的是判断图像里是否具有所需的信息并滤出噪声,并对这些信息进行确定。常用方法有灰度,二值化,锐化,去噪等;图像识别则是将经过处理的图像予以匹配,并且对类别名称进行确定,图像识别可以在分割的基础之上对所需提取的特征进行筛选,然后再对这些特征进行提取,最终根据测量结果进行识别;所谓图像理解,指的是在图像处理与图像识别的基础上,根据分类作结构句法分析,对图像进行描述与解释。所以,图像理解包括图像处理、图像识别和结构分析。就图像理解部分而言,输入是图像,输出是对图像的描述解释 。

3 人工神经网络结构和算法

在上个世纪八十年代,McClelland与Rumelhant提出了一种人工神经网络,截止现在,BP神经网络已经发展成为应用最为广泛的神经网络之一,它是一种多层前馈神经网络,包括输入层、输出层和输入层输出层之间隐藏层,如图1所示,便是一种典型的BP神经网络结构。

BP神经网络是通过不断迭代更新权值使实际输入与输出关系达到期望,由输出向输入层反向计算误差,从而通过梯度下降方法不断修正各层权值的网络。

BP神经网络结构算法如下所述:

(1)对权值矩阵,学习速率,最大学习次数,阈值等变量和参数进行初始化设置;

(2)在黑色节点处对样本进行输入;

(3)对输入样本,前向计算人工神经网络隐层及输出层各层神经元的输出;

(4)使用梯度下降方法不断修正各层权值及阀值,由梯度算子得到的权值为

(6)判断,判断是否大于最大迭代次数或者是否误差已经达到要求。如果大于最大迭代次数或误差达到要求,那么便直接转到第(7)步,否则,转到第(4)步对各个矩阵的权值继续修正,反复训练;

(7)看是否遍历所有样本,是则结束,否则跳回第(3)步继续。

BP神经网络操作简单而有效,可通过Opencv的CvANN_MLP类, Matlab的模式识别工具箱Nprtool等实现,经验得出在如下情况中人工神经网络尤为适用:

(1)大量数据可用,却不知道与输出之间关系;

(2)问题的解决方案随时间变化而变化;

(3)输出是模糊的函数关系,而非精确数字。

4 人工神经网络图像识别

传感器或摄像仪输入图像识别系统以后,其目标图像不能够与系统全部的参考图像完全一样, 这是由于对应噪声干扰,光线不足和放缩旋转等问题。 基于人工神经网络对畸变图像识别进行深层分析,并且利用 CCD 摄像头对图像信息进行采集,在此过程之中通过对摄像头方位进行更改对易出现畸变的图像进行采集,从而使得畸变图像所带信息组成样本库。在电脑里面输入样本库中的图像信息,并且进行模数的转化,变成数字图像,利用数字滤波来对数字图像信息进行处理。在神经网络之中输入样本图像数字信息来进行训练,一方面可以基于数字图像的像素点集合组成输入矩阵,用高维数据作为训练样本,通过主成分分析(PCA)的方法进行降维,大大简化计算量;一方面可以基于数字图像的特征空间进行聚类分割,提取几何特征或者统计特征,输入到SOFM神经网络或者Hopfield神经网络,从而使其生成图像识别神经网络系统。在进行图像识别的时候使用CCD 摄像头来采集识别图像,并且把其模型转化为数字图像,预处理后,将其输入到训练好的神经网络识别系统里面,就其可以开展快速的计算,并进行识别。把图像识别技术与人工神经网络理论有机结合起来,可以非常有效地实现神经网络信息系统的一致性, 此外,还可以将其对网络连接结果与权值进行存储,促进管理效率的提高,并对于知识库的构建也具有积极的作用。

5 结论

本文就基于人工神经网络的图像识别技术进行了详细地阐述,由综上研究可以基于人工神经网络的图像识别技术具有比较多的优点以及比较高的可行性,然而,我们对该技术存在的网络规模及复杂图像识别准确度上还应继续进行深入研究,以求技术突破。在将来,图像识别技术随着科技的不断发展将会获得更多的应用,其势必会发展为一门独立且具备强大生命力的学科

参考文献

[1]王强,张小溪,韩一红.基于神经网络的图像识别[J].电子设计工程,2012.

[2]雷建锋,孙俊逸.基于人工神经网络下的图像识别的研究[J].现代电子技术,2008.

篇3

关键词:建筑管理人工神经网络 模仿人脑人工智能

人工神经网络(Application of Neural Network)与人工智能(Artificial Intelligence)处于总分结构。人工神经网络从属于人工智能系统,是其中一个分支领域。它作为一款对非线性问题处理十分简便的工具,拥有极强的非线性映射能力与良好的适应能力及纠错能力。在传统的语音与图像识别等领域外,人工神经网络在经济管理、专业工程等诸多领域都崭露了头脚,并获得广泛的认可。我国首篇将人工神经网络应用与土木工程领域的文献始发于上世纪八十年代末期,随后即在建筑工程项目的管理当中逐渐为人们所广泛认知,下面,就几点对人工神经网络在建筑管理当中的应用作进一步分析。

一、人工神经网络在建筑管理应用中的预测作用

1.费用预测方面。人工神经网络在费用评估方面的应用,主要采用BP神经网络进行试验,通过对公路工程的样例进行试验,发现其比传统方法要更加保质保量。塔雷克•哈加西(1998年)等通过运用MS2Excel表格对人工神经网络进行模拟,并在输入层和隐含层加入了偏置神经元来促进网络学习。它的缺点是因网络学习过程中样本数据含有噪音,会对系统造成过度学习的谬误,这种问题运用规范化网络可以得到有效的解决。在我国BP神经网络研究的历史上,相关方面的研究学者对其应用于建筑工程估价的能力有较高评价,其中不仅神经网络的特征归纳作用可从海量的工程资料当中寻找出工程项目与预算费用的规律关系,还因其具有高度纠错能力,可对工程资料当中因人为因素造成的偏差进行纠正。同时因人工神经网络是通过并行处理来对数据进行梳理,所以其运算速度极快,且质量同时也能得到保证,这不仅满足了当前信息化时代快速估算的效率要求,并且事实证明它是行之有效并可以投入实际应用中的。

2.风险预测方面。建筑管理当中诸多领域都对风险分析与风险预测都有涉及,这二者涵盖了很多不可知的因素与风险因素,危及到了企业的管理经营,束缚了企业的发展脚步,长此以往即会对企业的健康长远发展造成不利影响。能够适时、到位的对企业即将面对的风险作出报告并采取针对措施,是及时规避企业风险的最佳途径。时下企业通常采用计量经济模型与编辑效应分析等方式以建立风险评估与预测系统,用来对现行企业状态进行分析。可是这些方法普遍存在着一些问题。比如经济变量的执行时间不同,使得在简单加权时出现漏报现象,以及人工制定的警戒区无法适应外部环境的变化性等。然而运用拥有非线性映射与模式分析能力的人工神经网络便可以建立相对完善的风险预警系统,从而更加适应系统的不确定性与突然性。

二、人工神经网络在建筑管理中事故诊断的作用

在建筑工程项目管理当中,受多方客观因素的制约,工程的进展常常会伴随出现林林总总的工程事故发生,甚而有些事故毫无征兆,突然间出现。在事故发生后,要找寻事故的原因也并非易事,同样要耗费大量人、财、物力资源,且并不能及时找出事故原因,错过了最佳补救时间。人工神经网络在建筑工程中对于工程事故的诊断分析,对建筑工程管理中工程质量的提高具有里程碑式的意义,其建筑专家系统存在着巨大的潜力。

建筑专家在进行对工程事故的风险评估时,第一步要运用工程事故所表现出来的一些外在特征与一系列统计数据,依照自身积累的大量经验,对事故的类型进行分类记录,在分类后便可以根据各方面特点,如事故类型、受损程度与曾用的补救措施来对工程事故进行风险评估与补救方案的制定。事故评定过程的关键在于建筑专家系统的数据规模,这种数据从大量典型事故案例中得出相关症状、事故状态与补救措施间相互关联的数据理论,传统的专家系统对建筑管理最广泛的应用使在基于规则与诊断矩阵中表示建筑专家经验知识,即统计数据的方法。这种表示方式只能对分类做出明示,却不能对事故与事故间存在的联系做出明确反映。知识工程师在某些层面上对经验知识难以进行明确的表达,这是传统工程事故专家系统所存在的缺点。基于人脑神经系统功能与结构模拟之上研制而出的人工神经网络,能通过不断对实例数据的吸纳,进行拓展学习,将知识充分融于神经网络当中进行存储,从而通过不断的对知识的接收、学习,进行自我的完善与增强。同时它的类比能力更加令人关注,它不仅能将实例间的相同处与不同处逐一筛选,从而进行归纳汇总,充实自身数据库,还能由此体现出神经网络中神经元之间连接权值调整过程。特别是它的自我逻辑能力超强,如果当下的信息并不完整,它依然会靠强大的逻辑能力进行推测,通过计算而得出让人满意的答案。

结语:

当今社会依靠传统的管理方式已经远远无法满足快节奏的经济生活,本文通过对人工神经网络在建筑管理工作当中的费用预测、事故诊断能力及事故解决方案制定等作用进行阐述分析,希望能对建筑工程行业的发展尽绵薄之力。

参考文献:

篇4

【关键词】气体识别;自组织神经网络

1.引言

气体识别在环境保护、化工控制、家用报警、食品保鲜、温室环境控制、航空航天等领域有着广泛的应用。应用气体传感器进行多组份气体的定性定量研究,可以极大的降低测量成本,减小测量周期,并可实现在线的实时测量。但由于当前气体传感器普遍存在着交叉敏感和选择性差等缺点,使用单一传感器很难实现多组份气体的检测分析。为解决以上问题,一方面可以采用新材料、新工艺来改善传感器本身的性能;另一方面可以将现有的气体传感器构成阵列,并与自组织神经网络技术相结合。本文采用后者的原理,即通过多个敏感程度不同的气体传感器组成传感器阵列,结合神经网络模式识别算法进行气体识别分析。

人工神经网络(Artificial Neuron Networks,ANN)人工神经网络(Artificial Neutral Networks,ANN)是一个由大量简单处理单元广泛连

接而成的复合网络系统。神经元结构是受到生物神经元的启发而得来的。目前应用的神经网络类型有很多,其中应用最广的是BP神经网络,神经网络需要学习的过程,即利用外部条件作用于神经网络,使其能重新对外界做出反应。将气体传感器阵列与采用BP算法进行训练的人工神经网络模式识别技术相结合形成的气体识别系统,是利用传感器阵列对混合气体的高维响应模式来实现对混合气体的定量检测。其中传感器阵列的选取、传感器信号的预处理方法、BP神经网络的结构和参数以及测量环境是影响系统性能的可能因素。

2.人工嗅觉系统

人工嗅觉系统是一种化学分析系统,它由一个具有部分专一性的电子化学传感器阵列和一个合适的模式识别系统组成。由于人工嗅觉系统主要模仿的是生物的嗅觉系统,所以人工嗅觉系统也可被称为“电子鼻”或者电子嗅觉系统。

2.1 电子鼻简介

电子鼻这个术语开始出现于二十世纪八十年代晚期,当时它被用于1987年的一个学术会议。较为科学的电子鼻的概念出现于1994年英国Warwick大学的J.W.Gardner发表的文章中,并且J.W.Gardner综述了世界各国人工嗅觉系统的发展概况。

电子鼻模仿人的鼻子的功能,以电讯号的方式予以表达,可以工作在恶劣或有毒的环境下,在食品、化工、环保、医疗诊断、检验等方面有很重要的应用,其关键技术就是气体传感器阵列。

2.2 人工嗅觉系统的原理及基本组成部分

人工嗅觉系统主要是受生物的嗅觉系统启发和影响,以下是该系统中的关键因素:

(1)对微量、痕量气体分子瞬时敏感的监测器,以得到与气体化学成分相对应的信号;

(2)对检测到的信号进行识别与分类的数据处理器,将有用的信号与噪声加以分离;

(3)将测量数据转换为感官评定指标的智能解释器,得到合理的感官结果。

2.3 气体传感器

气体传感器是一种将气体的成分、浓度等信息转换为可以被人员、仪器仪表、计算机等利用的信息的装置。

2.3.1 半导体气体传感器

半导体气体传感器在气体传感器中约占60%,根据其机理分为电导型和非电导型,电导型中又分为表面型和容积控制性。

2.3.2 表面敏感型传感器元件

表面敏感型传感器元件SnO2-Pd、ZnO-PT、AgO、Pt-SnO2,可检测气体为CO、NO2和氟利昂等,传感材料Pt-SnO2的气体传感器可检测气体为可燃性气体如H2、CO、CH4等。

2.3.3 容积控制型传感材料

容积控制型传感材料有TiO2、CoO-MgO-SnO2等,其半导体气体传感器可检测气体为液化石油气、酒精和燃烧炉气尾气等。

3.神经网络

人工神经网络(Artificial Neuron Networks,ANN)是近年来人工智能的一个重要科学分支。二十世纪五十年代末人工神经网络系统开始作为人工智能的一种重要计算工具逐渐受到重视。进入二十世纪八十年代后期,人工神经网络的研究进入了一个新的。主要原因是:一方面经过几十年迅速发展起来的以逻辑符号处理为主的人工智能理论和冯-诺依曼计算机在处理诸如视觉、听觉、形象思维和联想记忆等智能信息问题时遇到挫折;另一方面,具有并行分布处理模式的人工神经网络本身的研究取得了巨大的进展。

神经网络具有一些不同于其它计算方法的性质和特点以及它自身是基于人类大脑结构和功能而建立起来的,因此具有很多和人类智能类似的特点。首先,神经网络将信息存储在大量的神经元中,具有内在的知识索引功能。信息在网络中使用两种方式被保留:一种是神经元之间的连接,另一种是连接权重因子。其次,人工神经网络具有对周围环境自学习、自适应功能,也可用于处理带噪声的、不完整的数据集。在人工神经网络中,输入与输出的关系不是由单独的神经元直接负责的,相反是与神经元的输入输出有关。最后,人工神经网络模拟人类的学习过程。人类大多数的学习和求解过程都是采用尝试法,而人工神经网络可以以相同的方式运行。

神经元(neuron)即神经网络中的基本处理单元,也就是节点。一般节点由输入与输出、权重因子、内部阀值和函数形式四部分组成。

图1 神经元模型

图1给出了一个基本的神经元模型,它具有R个输入,每个输入都通过一个适当的权值wli和下一层相连,网络输出可表示为:

式中,n为该神经元(序号l)的总输入;

f(n)为神经元输入输出关系的函数,称为作用函数、响应函数或传递函数。

人工神经网络的拓扑结构是指它的处理单元是如何相互连接的,主要由输入层、隐含层和输出层组成。每一节点的输出被送到下一层的所有节点。通过将这些处理单元组成层,将其相互连接起来,并对连接进行加权,从而形成神经网络的拓扑结构,将若干个人工神经元作为有向图的节点,可连接成人工神经网络。其中每一层对于人工神经网络的成功都非常关键。可以将人工神经网络输入层、隐含层和输出层看成为一个通过输入层的所有节点输入特定信息的黑箱。人工神经网络通过节点之间的相互连接关系来处理这些信息,最后从输出层的节点给出最终结果。

4.误差反向传播网络(BP网络)

1985年,以Rumelhart和McClelland为首提出了至今仍广泛接受和使用的误差反向传播学习算法。按照这一算法进行训练的多层神经网络被直接称为BP神经网络。BP网络是一种多层前馈型神经网络,其神经元的传递函数是S型函数,输出量为0到1之间的连续量,它可以实现从输入到输出的任意非线性映射。其权值的调整采用反馈传播学习算法。

目前,在人工神经网络的实际应用中,绝大部分的神经网络模型都采用BP网络及其变化形式。BP网络主要用于以下四方面:

(1)函数逼近:用输入矢量和相应的输出矢量训练一个网络以逼近一个函数;

(2)模式识别:用一个特定的输出矢量将它与输入矢量联系起来;

(3)分类:把输入矢量所定义的合适方式进行分类;

(4)数据压缩:减少输出矢量维数以便于传输和存储。

对于神经网络算法,使用基于误差反向传递的神经网络算法设第p个模式XP=(X1P,X1P,…XNP,)T,p=1,2,…,N(N为模式个数),将其视为BP网络的输入,yip为其实际输出,隐含层和输出层各单元的激活函数采用sigmoid函数,即:

一般基于BP的神经网络算法具体步骤如下:

Step1、构造网络,初始化网络的权矩阵,设置学习因子,动态因子,跌代次数和允许误差;

Step2、从一个网络开始,提供训练模式;

Step3、开始训练第k个网络;

Step4、前向传播过程,对所有训练模式,计算网络的实际输出并与目标输出相比较,如果误差超过运行误差,则进行下一步,否则训练第k+1个网络;

Step5、反向传播过程:计算隐含层和输出层各单元的误差精度,修正权值和阀值:

式中,为学习效率;

di为教师信号或希望输出;

为实际输出yi与希望输出di之差,其中yi和xj是取1或0的离散值。

Step6、继续训练第k个网络。

BP网络的训练函数有traingd、traingdm、traingdx、trainrp、traincgf、traincgp等。由于BP网络的简单性,在人工嗅觉系统的模式识别部分占有很大的比例,许多以前和现在的一些成熟人工嗅觉系统的产品仍然使用BP神经网络进行模式识别。

BP网络的学习是通过求解一个优化问题完成的,从数学的角度看,它是通过函数逼近拟合曲面(线)的想法,并且将其转化为一个非线性优化问题而求解。BP网络是对简单的非线性函数进行复合,经过多次复合后,则可以实现复杂的函数,但存在BP学习算法收敛速度慢、不完备性和隐节点数只能凭经验选取。

由于存在上述问题,科学家们从利用线性的自适应步长加速BP算法和增加动量项来去除收敛过程中的局部最小点。模拟退火(Simulated Annealing,简称SA)思想是由Metopolis等人提出的,它可以很好的避免局部最小点的出现,把它用在优化中是由Kirkpatrick等人提出的。组合优化问题的解空间中的每一个点都代表一个解。不同的解有着不同的目标函数值。优化过程就是在解空间中寻找目标函数的最小解。

SA算法的特点是通用性强、可达到全局最小。传统的启发式搜索算法如快速下降法,每次都是向改进解的方向搜索,往往只能找到一个局部最优解,而不是全局最优解。而SA算法在系统朝能量减少这个总趋势的过程中,允许解的搜索以一定的概率向较差的方向走,以避开局部最小,而最终稳定到全局能量最小的状态。

5.利用自组织神经网络进行气体识别

将被测气体按所需测量精度和浓度范围按成份分成不同的浓度等级,采用标准气体配置这些等级的不同成份气体的所有组合作为标准模态来训练神经网络。通过识别某一未知气体样本的模式,即可以得到未知气体的成份浓度。例如,选用N种互相参比配制混合气体样本。根据传感器的灵敏范围,将配制的气体浓度限制在a1到am以内,浓度变化间隔为l。这样每种气体有m种浓度模式,共计可得到mN个样本。采用这些样本作为原始数据训练自组织神经网络,就可以实现在这一浓度范围内的最大误差为l的气体定量测量。

篇5

关键词:成都中小微企业 人工神经网络 预测

1、人工神经网络

人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)和之间相互联接构成。每个节点代表一种特定的输出函数,称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。

2、基于人工神经网络的预测模型的构建

在运用ANN预测模型预测这两个指标时,我们采取下面的预测步骤:

(1)首先将1-6月份的数据标准化,及转化为0-1之间的标准化数据;

(2)我们将输入设为1月份、2月份、3月份、4月份的数据,输出设为5月份的数据;

(3)在matlab中调用newff函数,建立一个5个输入节点、10个隐含层节点、一个输出节点的BP神经网络,隐含层和输出层转移函数分别采用tansig(tansig(n) = 2/(1+exp(-2*n))-1)和purelin(y=x),训练函数选择贝叶斯正则化算法trainbr,得到网络仿真数据;

(4)通过得到的网络仿真数据与实际的数据进行比较,我们可以发现该预测模型的精度很高。从而我们可以利用该预测模型预测未来月份的数据,作为决策者进行决策的依据。

3、分规模企业运行态势预测模型

3.1中型企业运行态势预测模型

我们按照上述步骤,得到最终的预测值,如表1所示,可见,预测值与实际值之间相差并不大,误差为0.099973%。

表1运行监测指标按规模(中型)ANN预测模型实际值与预测值对比表

3.2小型企业运行态势预警模型

我们按照上述步骤,得到最终的预测值,如表2所示,可见,预测值与实际值之间相差并不大,误差为0.099974%。

表2运行监测指标按规模(小型)ANN预测模型实际值与预测值对比表

3.3微型企业运行态势预警模型

我们按照上述步骤,得到最终的预测值,如表3所示,可见,预测值与实际值之间相差并不大,误差为0.098246%。

表3 运行监测指标按规模(微型)ANN预测模型实际值与预测值对比表

4、结束语

运行监测指数和信心指数能很好的反映成都市中小企业的发展运营情况,本报告运用人工神经网络这种高精度的预测方法,对这两种指数进行了预测,预测结果精确,经济意义显著。能很好预测未来月份的中小企业的指标值,从而为决策者的决策提供有力的支持和依据。

参考文献:

[1]张乃尧,阎平凡.神经网络与模糊控制[M].北京: 清华大学出版社,1998.

篇6

关键词:神经网络 地下水质量评价 应用

中图分类号:X824 文献标识码:A 文章编号:1672-3791(2016)08(b)-0000-00

1 前言

为解决包虫病影响百姓健康和经济发展问题,石渠县实施了大量打井取水工程。为了客观评价地下水质量,本文采取了人工神经网络算法模型,取得了理想效果。

2人工神经网络概述

近年来,人工神经网络取得快速发展,越来越多的应用于地质矿产、能源等领域。韩国人机围棋大赛,“AlphaGo”完胜李世石,让人工神经网络倍受众人关注。人工神经网络是一种模仿人脑神经网络行为特征,进行分布式并行处理信息的数学算法模型,通过调整模型内部节点间连接关系,达到处理信息的目的。

人工神经网络可以分为模型构建、训练和仿真三个阶段。模型构建就是根据数据的特征,有针对性的构建适于数据仿真的网络模型结构。模型结构包括输入层、隐含层和输出层,每一层由神经元组成。神经元是模型的基本单元,通过阈值和激活函数把上层信息传递给下层。模型训练是已知输入―输出数据样本,把输入数据代入模型计算,通过不断调整模型内部参数,使输出结果与已知输出数据误差减小至允许范围内,从而确定模型参数。训练样本越多、越有规律性,仿真结果就越真实。模型仿真即使用训练好的网络模型,用新的输入数据代入模型,得到输出结果的过程。仿真可以实现模拟人脑神经进行识别、判断、归类等功能。

3 地下水质量评价模型建立

本文采用Matlab建立一个三层的BP人工神经网络模型,包含输入层、隐含层和输出层。输入层为地下水评价因子,本文选取总硬度、溶解性总固体、硫酸盐、氯化物等21项主要指标作为评价因子,因此输入层有21个神经元。地下水质量分为5类,输入期望值为Ⅰ类(1,0,0,0,0)、Ⅱ类(0,1,0,0,0)、Ⅲ类(0,0,1,0,0)、Ⅳ类(0,0,0,1,0)、Ⅴ类(0,0,0,0,1),因此输出层神经元有5个。隐含层可设为5个神经元,则网络结构为2155(图1)。采用Matlab工具箱premnmx函数对数据进行归一化处理,newff函数建立BP模型,sim函数进行仿真。

4 样本数据准备及训练

模型训练阶段需要对足够量的样本进行训练,以赋予模型结构较为准确的内部参数。本文根据《地下水质量评价标准》随机生成足量样本数据。例如:总硬度、溶解性总固体、硫酸盐、氯化物四个因子,按地下水质量分类指标,在每一类区间随机生成3个样本,则5类共随机得到如表2所示15个样本。生成的样本数量应足够多才能提高仿真准确性和减少训练步数,但过多样本则影响计算速度。本文对评价的21个因子,按分类指标每类随机生成40个样本,共200个样本,输出允许误差设为0.01,训练到540步时就达到了目标。

5 模型仿真

本文的模型仿真对象为石渠县东区50口井地下水的化学分析数据,每口井1组样品,选取总硬度、溶解性总固体、硫酸盐、氯化物等21个主要评价因子。采用matlab的sim函数,把50组样品作为输入数据,得到输出结果。

以上输出数据显示5口井水质均为Ⅰ类。通过模型仿真,50口井水质均达到Ⅰ类水质标准,与《地下水质量标准》的综合评价评分法结果基本一致。

6 结论

人工神经网络运用的准确度,在于模型构建的合理性、输入―输出数据的相关性、训练样本的普适性。如果样本采集数据较窄,不能反映大部分背景特征,那么仿真时可能出现偏差。本文选取BP神经网络,按标准分类随机生成大量训练样本,保证了样本的普适性,使模型更可靠,运用范围更广。在石渠县包虫病区打井工程中的成功运用,说明了模型的可靠性和通用性,可进一步运用于其它工程和问题。

参考文献

[1] 焦李成.神经网络系统理论[M].西安:西安电子科技大学出版社,1990:6~16.

篇7

【摘要】 目的:应用BP人工神经网络原理,设计一种类风湿关节炎疾病诊断的方法。方法:选用对类风湿关节炎敏感的8个指标,作为BP人工神经网络的输入数据,对样本进行训练和预测。结果:BP人工神经网络经通过对150例样本的运算,训练集的113例样本,训练正确率为97.4%;预测集的37例样本,预测正确率为91.9%。结论:BP人工神经网络能为类风湿关节炎作出较准确的诊断,能提高诊断的客观性。

【关键词】 人工神经网络; 类风湿关节炎; 预测

类风湿关节炎(Rheumatoid arthritis ,RA)是一种以关节滑膜发生慢性炎性病变的自身免疫性疾病,其病程多呈进行性进展,致残率高,治愈率低下[1],早期临床表现不典型,单项自身抗体检测的灵敏度和特异性均有不足,类风湿因子的检出率也偏低,容易造成误诊[2,3]。因此医务人员主要是通过敏感性互补的几个检验指标和临床表现对类风湿关节炎作出诊断[4],但在疾病的诊断中往往带有很多的主观因素。近年来发展起来的人工神经网络是种理论化的数学模型,是模仿人脑神经的网络结构及其功能而建立起来的一种信息处理系统,具有自行学习、联想记忆、错误容纳和强大的非线性处理能力[5]。因此人工神经网络常常被应用到临床医学疾病的诊断上。本研究结合类风湿关节炎诊断的8个主要指标,设计一种基于人工神经网络类风湿关节炎的诊断方法,通过对150例样本的网络运算,探讨了人工神经网络对类风湿关节炎诊断的可行性。

1 人工神经网络基本原理

人工神经网络可以通过对外界信息的学习,以特定的方式对这些信息进行处理和概括,从而具备了对这些信息的识别功能,并产生了一个相对应的结论。因此,再次给人工神经网络这样一个相似的条件时,神经网络就会根据已学到的知识,自行推理判断,得到一个我们需要的结果。

1.1 人工神经元

人工神经元是组成人工神经网络的基本处理单元,简称为神经元。如图1显示了一个具有r个输入分量的人工神经元模型[6]。

图1中p(r=1,2,…,r) 为该神经元的输入数据;Wr 为该神经元分别与各输入数据间的连接强度,称为连接权重,权重值的大小代表上一级神经元对下一级神经元的影响程度。b为该神经元的阈值,f(x)为作用于神经元的激励函数,通常采用的是S 型函数,其数学表达式见式(1)[7]:

f(x)=(1+e-Qx)-1(1)

a为神经元的输出数据。神经元将接收信息pi与连接权重wi 的点乘积求和构成其总输入, 在神经元阈值b的作用下经函数f(x)的作用,产生信号输出a。

图1 人工神经元模型

1.2 人工神经网络

人工神经网络是由多个不同的神经元连接而成,一般含有多个层次,每个层次又包含了多个神经元,上一层次的神经元只能对下一层的神经元产生作用,同层神经元间无相互作用[7]。根据神经元的不同连接方式,就形成了不同功能的连接网络模型。比如BP神经网络,Kohonen神经网络,Hopfield神经网络等等,多达数十种。在医学中应用比较广泛的是BP神经(Back Propagation),也就是误差逆向传递网络[8],本研究中采用的也是BP神经网络。BP神经网络一般由输入层,隐含层和输出层构成,其结构模型如图2所示。

神经网络输入层的神经元是接受外界信息的端口,不包括数据运算功能,他将外界的输入数据通过一个连接权重传递给下一隐含层的神经元。隐含层是神经网络的核心部分,数量上可以有一个或多个层次,随着层次的增多,网络结构变得更复杂,网络数据处理功能也增强。网络的最后一层是输出层,输出层接收到隐含层的各项信息,然后经过转换把信息传给外界。

输入层 隐含层 输出层

图2 BP人工神经网络模型

1.3 人工神经网络工作原理

为了解决临床上对疾病的预测或识别等问题,神经网络主要是通过学习来获取"知识"或"经验"的,这一过程总体上可分为训练和预测两个阶段。所谓训练就是形成一种病因与疾病之间的函数映射关系,即给定一个实际输出与期望输出的目标误差值,将病人的各种病因、实验室检查、影像超声检查、临床表现等作为网络的输入信息加到其输入端,输入信息经过隐含层神经元的处理后,传递给输出层。如果输出层得到的结果大于预先给定的误差目标值时,神经网络将这种误差信号沿原来的传递路线逐层返回,并调节各个层次间神经元连接的权重值,这种过程不断交替进行,直到误差达到目标值时,训练过程结束。经过训练可使疾病的各种情况分布到连接权上, 使学习后的网络权重值存储了临床症状和疾病类型等相关的知识,此时可以认为神经网络建立起了病人的各种因素与该病人是否患有某种疾病的映射关系,这种映射关系就是一个预测疾病的判别函数。预测就是检验判别函数的可靠程度,利用一些未包括在训练集中的样本构成预测集,将预测集中与疾病相关的数据输入到训练好的网络中去,在训练阶段所得到的判别函数的作用下,就可以得到一个测试结果,从网络的输出端就可以诊断病人是否为疾病患者。

2 人工神经网络诊断类风湿关节炎实例

2.1 病例选取及变量确定

实验数据来源于哈尔滨医科大学附属医院,总共有150例。其中类风湿关节炎患者83例,女71例,占85.5%;男12例,占14.5%。年龄范围为20~79岁,平均年龄为48.92岁。所有患者均符合1987年美国风湿病协会修订的类风湿关节炎诊断标准。用来作正常对照的有67例,其中女62例,占92.5%;男5例,占%7.5,年龄范围为18~79岁,平均年龄为43.63岁。病人资料主要包括临床症状与体征,相关实验室检查,相应影像学检查。

根据中华医学会风湿病学分会制定的类风湿关节炎诊断指南,典型的类风湿关节炎按照1987年美国风湿病协会修订的类风湿关节炎诊断标准来诊断并不困难,但某些不典型、早期类风湿关节炎,常常被误诊或漏诊。2008年,胡勇等[9]通过研究发现,抗CCP抗体对类风湿关节炎的敏感性和特异性分别为80.0%和93.7 %,联合抗CCP抗体和RF可以提高诊断的准确性,对类风湿关节炎的早期诊断有重要意义。因此为了提高神经网络诊断各种类型类风湿关节炎的准确率,我们选取了x1(关节晨僵)、x2(对称性关节炎)、x3(腕、掌指或者近端指间关节至少有一个关节肿)、x4(3个或者3个以上关节部位肿)、x5(关节X线改变)、x6(皮下结节)、x7(RF )和x8(抗CCP抗体)这8个指标来作为神经网络运算的输入数据。其中x1、x2、x3、x4、x5、x6和x7这几个输入数据是1987年美国风湿病协会修订的类风湿关节炎诊断标准所包含的内容,x8是为了提高对不典型、早期类风湿关节炎的诊断所采用的输入数据。上述x1、x2、x3、x4、x5、x6是定性变量(离散变量),临床上常用阳性和阴性来描述,实验中用1和0对这些变量进行赋值,当变量值为1时表示阳性,为0时表示阴性;而变量x7、x8是定量变量(连续变量),用原始数据来描述。

2.2 确定训练样本及预测样本

在以上150例样本中(83例类风湿关节炎和67例正常对照)中分别选取63例类风湿关节炎和50例正常对照的样本,用来组成训练集,并用1~113的数字对其进行顺序编号,1~63号代表是类风湿关节炎,64~113号代表的是正常对照组的样本。剩余的样本用来组成预测集,集中样本总数为37例,其中类风湿关节炎患者有20例,正常对照组有17例,也用同样的方法进行编号。训练集与预测集样本比例大约为4:1。

2.3 网络参数的设定及算法程序

首先对神经网络参数设定如下:输入神经元个数为8,输出神经元个数为1,期望目标输出值用0表示正常,用1表示类风湿关节炎,隐含层采用tansig函数。训练次数为6000次,训练目标为0.06,学习速度为0.05,网络连接权重初始值是[-1,1]之间的随机数,其次网络进行运算所采用的是批动量梯度下降算法,应用MATLAB6.5来编写该程序算法。

2.4 训练及预测结果

将训练集样本的8个指标输入到BP网络的算法程序中,网络经过500次的训练后,达到了训练目标的要求,训练结果如图3所示,预测输出以0.5为阈值,>0.5者为类风湿关节炎患者,

图3 113例样本训练结果从训练得到的图形可以看出,63例类风湿关节炎患者中有54例训练结果都在目标输出值1附近,而且非常靠近1。只有9例稍微偏离了目标输出值1,由于输出结果均在0.5~1.5的范围内,可以认为训练结果与实际相吻合。类似的在50例正常对照组中,有47例输出结果都在目标值0的附近,输出值都在0~0.5之间,训练结果与实际也相吻合。而编号为64、75、92的3例样本,其输出值大于0.5,明显大于目标输出值0,样本训练结果有错误。综上所述,训练集中113例样本有110训练正确,训练正确率达到97.4%。

经过训练可以得到一个能反映类风湿关节炎疾病情况的神经网络模型。把预测集样本的数据导入到训练好的神经网络中去,进行预测,预测的结果如图4。

图4 37例样本预测结果从上图的输出结果可以看出,在20例类风湿关节炎样本的预测中,19例样本的输出结果主要集中在目标输出值1附近,没有超出0.5~1.5的范围,可以视为预测结果与实际相符合,而编号为1的样本,其输出值小于0.5,偏离了目标输出值1,预测结果错误。另外17例正常对照组中,15例预测结果与实际相符合,而编号为27、33号的样本其输出值大于0.5,明显偏离目标输出值0,预测不正确。所以对于预测的总体样本来说,34例预测正确,准确率为91.9%,灵敏度为94.7%,特异度为86.7%。

训练集和预测集的样本,经BP神经网络运算,其结果如表1所示。表1 BP神经网络测试样本的计算结果

3 讨论

由表1可知,2例预测有误的样本,它们来源于预测集的正常对照组中。同样在训练阶段,运算有误的3例样本也全都来源于训练集的正常对照组中。由此可见,运算有误的样本在训练集和预测集之间存在一种对应关系,即神经网络对样本训练的错误率越高,其预测的准确率就越低。同时,一些样本的训练和预测结果也出现了较大范围的波动,没有集中在目标值为1和0的这两条直线上。出现这种结果的原因可能是:有些样本数据偏倚,训练样本总数又不是很多,从而导致这些数据偏倚的样本所占的比例较大,在总体中表现出来的作用也就较强。因此加大训练样本的数量,选择数据偏倚较少或者更有代表性的样本来学习训练,神经网络就能更准确的反映疾病自身情况,同时网络所包含的病因与疾病间相映射的函数关系也就更具有普遍性。

对疾病诊断过程而言,人工神经网络能够模拟专家级医师诊断疾病的思维过程和获得诊断疾病的相关知识。此后对疾病进行预测时就可以避免医师对疾病诊断的主观性及思维定势,因此能提高疾病诊断的客观性。尽管临床上也存在一些疾病患者,往往因为诊断数据的缺失,给医师诊断带来了很多的困难或是误诊,然而神经网络具有的容错性质以及能根据训练得来的知识和处理问题的经验,对上述缺失的数据等这种复杂的问题,做出合理的判断与推理,从而为病人做出较正确的诊断。

在疾病诊断方面, 按照1987年美国风湿病协会修订的类风湿关节炎诊断标准,对一些不典型,早期的类风湿关节炎常常不能作出正确的诊断,特异性也低,往往造成误诊。然而基于人工神经网络类风湿关节炎的诊断方法,通过对37例样本的预测,预测结果表明:本方法对类风湿关节炎的诊断,其准确率为91.9%,灵敏度为94.7%,特异度为86.7%,可作为疾病诊断的一种新方法。当然,实验中也存在一些问题有待于进一步研究,如输入变量的选择及其数据处理,网络初始权重的计算,网络训练的最佳原则,隐含层数的设计等等。随着研究的进一步深入,人工神经网络必将得到临床工作者的认同并为疾病研究带来诸多的便利。

【参考文献】

1 顾福荣,张义东,施锦杰.抗CCP抗体、抗RA33抗体、抗Sa 抗体和RF联合检测对类风湿性关节炎诊断的意义.江西医学检验,2007,25(1):24~25.

2 Matsuo K,Xiang Y,Nakamura H,et al.Identification of novel eitrullinated autoantigens of synovium in rheumatoid arthritis using a proteomie approach.Arthritis Res Ther,2006,8(6):1~3.

3 Harrison MJ,Paget SA. Anti2CCP antibody testing as a diagnostic and prognostic tool in rheumatoid arthritis.QJM,2007,100(4):193~201.

4 王青青.类风湿性关节炎的诊断与治疗.全科医学临床与教育.2008,6(2):92~94.

5 孙文恒,王炜,周文策.人工神经网络技术在胰腺癌诊断中的应用.兰州大学学报,2008,44(7):224~227.

6 宋烨,杨本付,人工神经网络及其在疾病诊断中的应用,中华医学实践杂志,2006,5(3):275~277.

7 王俊杰,陈景武.BP神经网络在疾病预测中的应用.理理医药学杂志,2005,21(3):259~262.

篇8

【关键词】风险管理 金融预测 统计方法 应用

随着社会经济的不断发展,多元化的市场经济环境强调金融预测、风险管理的重要性与必要性。而统计方法的有效应用,是确保风险管理与金融预测落到实处的重要“抓手”。在金融预测与风险管理中,最为典型的统计方法有三种:一是单变量分析;二是风险指数模型;三是多元判别法;四是人工神经网络方法。在典型统计方法的应用中,一方面有效的提高了风险管理与金融预测的有效性,对于企业的发展而言起到重要的作用;另一方面,典型统计方法也存在一定的局限性,易受到外部因素,如利率变化、通货膨胀等影响。因此,本文针对典型统计方法在风险管理与金融预测中的应用,作如下具体阐述。

一、单变量模型

在单变量分析中,“单变量模型”的构建尤为重要。首先,对预测样本进行分组。一般情况下,样本主要分为:①“预测样本”――构建预测模型;②“测试样本”――测试预测模型;其次,样本测试。在样本测试中,预测样本应为误判率最小。单变量模型在风险管理中的应用,虽然表现出“简单易行”的应用特点,但也存在较大不足,特别是预测结论具有局限性,无法全面地反映出实际情况。

二、多元判别分析

在金融风险预测中,多元判别分析的应用比较广泛,且具有良好的应用价值。多元判定分析可以对金融风险进行预测计算并分析的模型。在模型的运用中:首先,将预测指标带入表达式:Di=d0+d1Xi1+d2Xi2+…+dnXn之中;其次,通过带入计算出所需的判断值;最后,通过比对判断值,判断其面临的金融风险。这一模型的应用,对于金融预测与风险管理起到了重要的作用,但由于模型方法难以实现较大范围的推广。

三、风险指数模型

四、人工神经网络方法

随着统计方法的不断发展,人工神经网络方法日益应用于金融分析领域,并取得了良好的应用效果。从实际来看人工神经网络犯法作为一宗非线性非参数模型,在破产预测和期权定价等方面,都具有良好分析预测作用。(1)破产预测。在破产预测方面,人工神经网络实现了对传统统计方法的改进,能够对错判率进行无偏估计。因此,人工神经网络方法能够实现较高准确度的预测,并且在稳健性、适应性等方面表现出良好的优越性;(2)期权定价。早在上世纪90年代,人工神经网络便应用于期权定价领域。首先,期权价格在模拟中,需要进行一定的假设。例如:固定利率、固定均值等;其次,期权定价公式是资产价格与执行价格的一阶齐次式。因此,我们在人工神经方法的应用中,只有两个输入比值:①资产价格/执行价格;②账期价格/执行价格。总而言之,人工神经网络方法在金融预测中具有良好的应用价值,特别是对传统统计方法的改进,极大地提高了统计方法的应用效果。

总之,在改革开放不断深入的大背景之下,日益完善的市场经济体制,强调风险管理与金融预测有效开展的必要性与重要性。统计方法作为金融预测与风险管理的重要手段,如何有效应用统计方法,直接关系到应用的现实价值。当前,单变量分析、风险指数模型、多元判别法和人工神经网络方法,已广泛应用于金融预测与风险管理之中。其中单变量分析、风险指数模型、多元判别法作为典型统计方法,在有效应用的同时,也存在一定的局限性。而对于人工神经网络方法而言,在一定程度上对传统统计方法进行了优化改进,进而提高了预测的准确度。

参考文献:

[1]李健.基于EMD-PSO-SVM误差校正模型的国际碳金融市场价格预测[J].中国人口资源与环境,2014,(06).

[2]沈瑞.折扣回购策略下的多随从双层条件风险决策模型[J].中国管理科学,2014,(S1).

篇9

张雨浓:目前来说,人工神经网络、冗余度机器人学和科学计算与优化是我们科研攻关的三个主要方向,最早当始于导师毛宗源教授主持负责的“仿人脑信息处理与控制的人工系统的研究”,随后开展了近年来承担的国家自然科学基金委支持的课题“机器手臂的基于二次规划的冗余度解析方案”“冗余机器人实时运动规划的统一理论”等项目。就人工神经网络、人工智能等相关领域的研究情况而言,我国很多学术前辈、同事甚至是后学不同程度地做出了不少创新性的成果,有些甚至达到世界领先的水准,这一点还是值得我们欣喜的。

以人工神经网络为例来说,其理论在国内外都已经取得了许多令人瞩目的成果,国内也有许多学者相继提出了不同的人工神经网络模型,并取得了较为广泛的应用,且应用范围在不断扩展,渗透到了多个领域,如信号处理,智能控制、模式识别、机器视觉、非线性优化、图像处理等等。我团队近期拓展的神经网络模型的连接权值直接确定一项可避开传统BP(误差回传)神经网络的内在弱点,如冗长的权值迭代计算、局部极小点问题、网络参数及隐神经元数的选取困难等等,并将递归神经网络应用于冗余度机械臂的运动规划与控制中,展现出了良好的成果。

笔者:早在2001年,您率先提出变矩阵/向量/优化问题的神经网络新解法,能否借此机会有针对性地讲述几点其与传统解析与架构上的不同?

张雨浓:其与传统梯度方法的不同之处可归纳为如下数点:首先,新型神经网络解法是基于矩阵/向量形式的误差函数而设计的,令其每个误差元素不断递减至零而成。与此相对,基于梯度法的传统神经网络解法是基于非负或至少下有界的标量形式的能量函数而设计的;值得指出的是,在基于梯度法的神经网络解法中涉及的参数矩阵等多是探讨定常的情况。

其次,新型神经网络在处理时变问题时,系统地采用变矩阵,向量的时间导数信息,这也是新型神经网络能够全局指数收敛到时变问题的准确理论解的原因之一。与此相对,基于梯度法的传统神经网络解法因没有使用如此重要的时间导数信息而难以有效地求解时变矩阵/向量/优化问题。

另外,新型神经网络通常是用更为普适的隐动力学方程描述的;而基于梯度法的传统神经网络则多是采用显动力学方程描述的。

笔者:在您的科研范围内,冗余机器人是您科学研究的主项,它显然代表着高端的科技发展方向,我们想请张教授谈一下冗余机器人今天的发展状况及其特性、优势,其在未来科技领域内的应用情况,给人类社会所带来的利好。

张雨浓:就冗余机器人而言,现主要研究的是冗余机械臂,其可广泛地应用于工业生产之中,包括焊接、油漆,组装、绘图、挖掘,送料和其他智能活动等等。冗余机械臂是指末端执行器在执行给定的任务时有比其所必需自由度之上更多的自由度和灵活度的机械臂。在冗余机器人的运动学研究中,正运动学和逆运动学都是研究的核心部分。正运动学指给定关节变量,通过已知的手臂函数映射关系,能够唯一地确定末端执行器的位姿,而逆运动学是指给定末端执行器的笛卡尔变量,如何来实时求解机械臂的关节变量。两者刚好相对,但逆运动学的求解却不容易。后者直接关系到运动分析,离线编程、轨迹规划等等,是将工作空间内机器人末端的位姿转化成关节量值的前提。由于机械臂逆运动学问题的复杂性,我们将机械臂逆运动学逆动力学问题都统一地转化为最优化问题,具体为时变二次规划问题,这种做法能减少大量矩阵求逆,矩阵相乘等运算,减少计算时间,也更灵活、更加智能化。

这些科研结果能为装备制造,加工作业乃至空间机器人等领域的运动控制和新型机械臂的研发,制造以及技术提升提供一个更为科学更加有力的理论与实践基础。该冗余度解析理论将会在重工制造装备等方面展露,并带来广阔的应用前景和较大的社会经济效益,如用以改造和提升喷浆机器人、焊接和绘图机器人、车载机器臂系统等机械设备的运动解析与控制技术、操作模式及其安全性稳定性等。

笔者:2007年您所提出的BP神经网络权值直接确定理论研究,克服了传统BP神经网络所固有的迭代时间长、迭代次数多,易陷入局部极小点和学习精度不高等诸多缺陷。您一直站在科技前沿,在未来您的研究方向还将力求冲破哪些方面的障碍?

张雨浓:我们的一个科研工作重心就是人工神经网络的权值直接确定法以及外延的新方法新理论,比如在权值直接确定基础上的隐层神经元数目自适应确定研究等等。就未来在该方面继续做工作而言,首先我们仍将继续寻找,挖掘、探讨和考察不同的激励函数、网络模型,以求从不同的角度更加丰富地证实权值直接确定法的可行性,有效性、普适性以及优异的学习能力等等;其次,我们将(也已经在)探讨多输入多输出人工神经网络的权值直接确定法,并同时探研拓扑结构自适应确定算法于其中;另外,也如同我们向中科院某所提交的一个开放课题申请书中所言,应用神经网络权值与结构直接确定理论处理海量数据同样值得尝试与探讨,我们以往曾开发出基于Toeplitz矩阵的时间序列高斯过程回归技术处理了六万维矩阵求逆和两万四千维数据,这一结果或可以借鉴用以开发神经网络超万维数据处理技术。

篇10

[关键词]多目标决策;BP神经网络;矿产资源;综合开发利用评价

矿产资源综合开发利用评价是一个典型的多目标决策问题,应用多目标决策的有关技术进行方案的排序选优,能较好地解决多方案的优化问题。关凤峻根据给出的多个综合开发利用方案,采用的层次评价方法,建立评价体系并采用理想点法进行排序,选出最优方案。宋光兴等人改进了理想点法中权重的确定方式,利用熵技术法确定矿产资源综合开发利用的评价指标的权重,并得出了排序选优的最终结果。李学全等人提出了一种灰色关联度线性加权和方法,是解决矿产资源综合开发利用评价问题的一个有益的尝试。周科平提出了一种新的多属性决策法,有效解决了主观确定的权重不精确的缺点。陈林、曹树刚采用博弈论分析框架中混合策略情况下应用最优化方法,寻求混合策略Nash均衡的最优化点,作为多指标决策问题的优选方案。

矿产资源综合开发利用评价中权重的确定是一个关键,采用BP人工神经网络技术构建的非线性评价模型对矿产资源的综合利用水平进行评价,可避免人为确定各指标的权重带来的主观性。本文试采用BP人工神经网络方法对矿产资源综合开发利用各个方案做出评价,并把评价结果与其他方法作比较,以验证方法的可靠性。

1 数据来源以及研究方法

1.1 数据来源

(1)数据来源于参考文献三篇论文的举例部分,某铁金矿经研究设计得出9个方案。

(2)将数据进行归一化处理,将每一列的数字xi代入归一化公式x*i=[SX(]ximaxxi′[SX)]

即每一指标数据除以各自指标中的最大值,将数据划归在[0,1]范围之内。

1.2 研究方法

BP人工神经网络简介:人工神经网络是将大量简单的神经元广泛连接而成,用以模拟人脑思维方式的复杂网络系统,具有自组织、自适应、自学习和容错性等特点,被广泛应用于模式识别、图像处理、自适应控制等领域。由于矿产资源综合利用水平评价系统是一个多层次、多因素的复杂系统,采用BP人工神经网络技术构建的非线性评价模型对矿产资源的综合利用水平进行评价和识别可避免人为确定各指标的权重带来的主观性,提高评价结果的准确性。

2 运用BP人工神经网络对矿产资源综合开发方案进行评价

运用matlab环境下的BP网络模块,我们将经济发展水平分级指标作为样本输入,评价级别作为网络输出BP网络通过不断学习修改权重,找出评价指标与评价级别间的内在对应关系,利用此网络模型进行经济发展水平的综合评价。

第一、评价指标体系的建立。以某铜铁矿设计方案为例建立评价体系。参考其他人的研究成果及数据的可获取性,选取5项指标,分别为铁选矿回收率(%)、金选矿回收率(%)、产值利润率(%)、成本利润率(%)、吨矿利润(元/吨)。

第二、网络模型的构建。选取以上5项指标作输入神经元,输出神经元为铜铁矿的综合开发利用水平,构建神经网络,采用等间距的线性内插方法,对已经归一化了的数据进行等级划分,构建人工神经网络的训练数据(见表1),并将铜铁矿的综合开发利用水平分为3级,3代表综合开发利用水平高,2代表综合开发利用水平中等,1代表综合开发利用水平低。

据此构建5×1×1的神经网络结构,其中隐含层神经元为3个,输出层神经元1个。网络设计的参数为:网络初始值为[0,1]之间的随机数,基本学习速率 0.1;网络训练的终止参数为:最大训练批次为10000次,最大误差为0.01。网络训练达标后,将表1中的原始数据归一化后输入网络,得出铜铁矿的综合开发利用水平的BP估计值。

表2表明,方案8的综合开发利用水平BP值最大,是诸方案中最优的;方案7的综合开发利用水平次之,为次优方案;方案1的综合开发利用水平BP值最小,是诸方案中最差的。 转贴于

3 与基于理想点法评价模型计算得到的结果相比较

3.1 理想点法简介

理想点法是属于多属性效用理论的多目标决策方法,它最基本的思想是依据“综合效用值”进行方案排序选优。其效用值的计算是用理想点法中的“距离值”的计算方法而得。通过选取各个目标中的最优值构成一个多目标的理想方案(也称为理想点),并以目标空间中,各方案与理想方案的距离值来度量各方案的优劣。距离越小表示方案目标值越接近理想方案的目标点。这样依距离值的大小来排列方案的优劣顺序,距离越小,方案越优。

以下两表格分别为基于层次评价方法与基于熵值法确定权重的理想点法得到的矿产资源综合开发利用评价结果。

3.2 各评价模型所得结果比较

将矿产资源综合开发利用水平的BP值排序情况(表2)分别与基于层次方法和基于熵值法确定权重的理想点法(表3)得到的优方案排序相比较。采用BP人工神经网络计算得到的结果与采用熵值确定权重的理想点法得到的结果相同;BP值法计算的结果中最好的三个方案分别为方案8、方案7、方案9,与层次理想点法的结果相同,不同之处仅仅存在于方案1与方案2,方案5与方案6,他们的排名也十分接近。这充分说明采用BP人工神经网络方法对矿产资源的综合开发利用进行评价是可行的。此外,由于运用matlab软件可以轻易地实现BP神经网络运算,这种方法在处理大量数据方面还有着独特的优越性。

4 结 论

矿产资源综合开发利用评价从本质上讲是一个多目标决策问题。目前,求解多指标决策问题的方法很多,但各方法的关键在于如何合理确定各指标的权重。采用BP人工神经网络技术构建的非线性评价模型对矿产资源的综合利用水平进行评价,可避免人为确定各指标的权重带来的主观性,可以有效地解决矿产资源的综合开发利用评价问题。

参考文献:

[1]李学全,李松仁,尹蒂.矿产资源综合开发利用评价的多目标决策灰色关联度方法[J].矿产综合利用.1996(2):39-43.