挖掘技术论文范文

时间:2023-04-11 07:33:46

导语:如何才能写好一篇挖掘技术论文,这就需要搜集整理更多的资料和文献,欢迎阅读由公务员之家整理的十篇范文,供你借鉴。

挖掘技术论文

篇1

[关键词]数据挖掘数据挖掘方法

随着信息技术迅速发展,数据库的规模不断扩大,产生了大量的数据。但大量的数据往往无法辨别隐藏在其中的能对决策提供支持的信息,而传统的查询、报表工具无法满足挖掘这些信息的需求。因此,需要一种新的数据分析技术处理大量数据,并从中抽取有价值的潜在知识,数据挖掘(DataMining)技术由此应运而生。

一、数据挖掘的定义

数据挖掘是指从数据集合中自动抽取隐藏在数据中的那些有用信息的非平凡过程,这些信息的表现形式为:规则、概念、规律及模式等。它可帮助决策者分析历史数据及当前数据,并从中发现隐藏的关系和模式,进而预测未来可能发生的行为。数据挖掘的过程也叫知识发现的过程。

二、数据挖掘的方法

1.统计方法。传统的统计学为数据挖掘提供了许多判别和回归分析方法,常用的有贝叶斯推理、回归分析、方差分析等技术。贝叶斯推理是在知道新的信息后修正数据集概率分布的基本工具,处理数据挖掘中的分类问题,回归分析用来找到一个输入变量和输出变量关系的最佳模型,在回归分析中有用来描述一个变量的变化趋势和别的变量值的关系的线性回归,还有用来为某些事件发生的概率建模为预测变量集的对数回归、统计方法中的方差分析一般用于分析估计回归直线的性能和自变量对最终回归的影响,是许多挖掘应用中有力的工具之一。

2.关联规则。关联规则是一种简单,实用的分析规则,它描述了一个事物中某些属性同时出现的规律和模式,是数据挖掘中最成熟的主要技术之一。关联规则在数据挖掘领域应用很广泛适合于在大型数据集中发现数据之间的有意义关系,原因之一是它不受只选择一个因变量的限制。大多数关联规则挖掘算法能够无遗漏发现隐藏在所挖掘数据中的所有关联关系,但是,并不是所有通过关联得到的属性之间的关系都有实际应用价值,要对这些规则要进行有效的评价,筛选有意义的关联规则。

3.聚类分析。聚类分析是根据所选样本间关联的标准将其划分成几个组,同组内的样本具有较高的相似度,不同组的则相异,常用的技术有分裂算法,凝聚算法,划分聚类和增量聚类。聚类方法适合于探讨样本间的内部关系,从而对样本结构做出合理的评价,此外,聚类分析还用于对孤立点的检测。并非由聚类分析算法得到的类对决策都有效,在运用某一个算法之前,一般要先对数据的聚类趋势进行检验。

4.决策树方法。决策树学习是一种通过逼近离散值目标函数的方法,通过把实例从根结点排列到某个叶子结点来分类实例,叶子结点即为实例所属的分类。树上的每个结点说明了对实例的某个属性的测试,该结点的每一个后继分支对应于该属性的一个可能值,分类实例的方法是从这棵树的根结点开始,测试这个结点指定的属性,然后按照给定实例的该属性值对应的树枝向下移动。决策树方法是要应用于数据挖掘的分类方面。

5.神经网络。神经网络建立在自学习的数学模型基础之上,能够对大量复杂的数据进行分析,并可以完成对人脑或其他计算机来说极为复杂的模式抽取及趋势分析,神经网络既可以表现为有指导的学习也可以是无指导聚类,无论哪种,输入到神经网络中的值都是数值型的。人工神经元网络模拟人脑神经元结构,建立三大类多种神经元网络,具有非线形映射特性、信息的分布存储、并行处理和全局集体的作用、高度的自学习、自组织和自适应能力的种种优点。

6.遗传算法。遗传算法是一种受生物进化启发的学习方法,通过变异和重组当前己知的最好假设来生成后续的假设。每一步,通过使用目前适应性最高的假设的后代替代群体的某个部分,来更新当前群体的一组假设,来实现各个个体的适应性的提高。遗传算法由三个基本过程组成:繁殖(选择)是从一个旧种群(父代)选出生命力强的个体,产生新种群(后代)的过程;交叉〔重组)选择两个不同个体〔染色体)的部分(基因)进行交换,形成新个体的过程;变异(突变)是对某些个体的某些基因进行变异的过程。在数据挖掘中,可以被用作评估其他算法的适合度。

7.粗糙集。粗糙集能够在缺少关于数据先验知识的情况下,只以考察数据的分类能力为基础,解决模糊或不确定数据的分析和处理问题。粗糙集用于从数据库中发现分类规则的基本思想是将数据库中的属性分为条件属性和结论属性,对数据库中的元组根据各个属性不同的属性值分成相应的子集,然后对条件属性划分的子集与结论属性划分的子集之间上下近似关系生成判定规则。所有相似对象的集合称为初等集合,形成知识的基本成分。任何初等集合的并集称为精确集,否则,一个集合就是粗糙的(不精确的)。每个粗糙集都具有边界元素,也就是那些既不能确定为集合元素,也不能确定为集合补集元素的元素。粗糙集理论可以应用于数据挖掘中的分类、发现不准确数据或噪声数据内在的结构联系。

8.支持向量机。支持向量机(SVM)是在统计学习理论的基础上发展出来的一种新的机器学习方法。它基于结构风险最小化原则上的,尽量提高学习机的泛化能力,具有良好的推广性能和较好的分类精确性,能有效的解决过学习问题,现已成为训练多层感知器、RBF神经网络和多项式神经元网络的替代性方法。另外,支持向量机算法是一个凸优化问题,局部最优解一定是全局最优解,这些特点都是包括神经元网络在内的其他算法所不能及的。支持向量机可以应用于数据挖掘的分类、回归、对未知事物的探索等方面。

事实上,任何一种挖掘工具往往是根据具体问题来选择合适挖掘方法,很难说哪种方法好,那种方法劣,而是视具体问题而定。

三、结束语

目前,数据挖掘技术虽然得到了一定程度的应用,并取得了显著成效,但仍存在着许多尚未解决的问题。随着人们对数据挖掘技术的深人研究,数据挖掘技术必将在更加广泛的领域得到应用,并取得更加显著的效果。

篇2

关键词:数据挖掘电子商务应用

当今,国内外电子商务类网站日益兴起。许多电子商务类网站都提供了一定程度的个性化服务,比如提供商品推荐服务。而构成这些个性化服务的基础就是数据挖掘技术。

一、数据挖掘分析

1.数据挖掘的定义。数据挖掘(datamining,DM)是从大量的、不完全的、有噪声的、模糊的、随机的数据中提取隐含在其中的、人们事先不知道的但又是潜在有用的信息和知识的过程。包括存储和处理数据,选择处理大数据集的算法、解释结果、使结果可视化。

2.数据挖掘的方法。从商业的角度来看,数据挖掘是一种新的商业信息处理技术,其主要特点是对商业数据库中的大量业务数据进行抽取、转换、分析和其他模型化处理,从中提取辅助商业决策的关键性数据。数据挖掘的方法大致可以分成4类:关联分析、概括分析、分类分析、聚类分析。(1)关联分析:分析表面上不相关数据之间的内在联系,揭示各事之间的依赖性和相关性,分析范围包括简单关联、因果关联等。在电子商务中,用数据挖掘找到隐藏的关联规则,当客户浏览、搜索关联规则中的某种商品时,就可以在页面中以推荐商品的形式显示关联规则中的其它商品。在进货计划和促销计划中,也可以将这个因素考虑进去。(2)概括分析:即提取数据库中指定的数据集合的一般特性,找出遍性规律。(3)分类分析:设置分类规则,把各个事务或实体按照性质和特征不同进行归类,把数据层次化和规整化,从而建立数据的分类模型。(4)聚类分析:通过分析和归纳实体之间的特征差异,选出具相识特征的实体聚合成为一个类,并用某种规则来描述该类的相同属性,形成一种聚类规则,实际上,它是与分类分析法互逆的过程。

3.数据挖掘的过程。该过程从大型数据库中挖掘先前未知的、有效的、可实用的信息,并使用这些信息做出决策或丰富知识。(1)确定业务对象:清晰地定义出业务问题,认清数据挖掘的目的是数据挖掘的重要一步。挖掘的最后结构是不可预测的,但要探索的问题应是有预见的,为了数据挖掘而数据挖掘则带有盲目性,是不会成功的。(2)数据准备。数据的选择:搜索所有与业务对象有关的内部和外部数据信息,并从中选择出适用于数据挖掘应用的数据。(3)数据挖掘:对所得到的经过转换的数据进行挖掘。除了完善从选择合适的挖掘算法外,其余一切工作都能自动地完成。(4)结果分析:解释并评估结果。其使用的分析方法一般应作数据挖掘操作而定,通常会用到可视化技术。(5)知识的同化:将分析所得到的知识集成到业务信息系统的组织结构中去。

二、数据挖掘与电子商务的关系

在电子商务企业中,数据挖掘运用于客户行为分析,企业从中受益体现在以下四个方面:(1)可以发现客户和访问者的爱好、生活模式。(2)可以争取新顾客,怎样使产品适销对路、怎样给产品定价、怎样吸引单个客户、怎样优化Web网站。(3)可以用相应的信息确定顾客的消费周期,针对不同的产品制定相应的营销策略。(4)可以确定客户细分,为每一个客户的独特需求设计“量身定制”的产品。三、数据挖掘技术在电子商务中的应用

1.面向电子商务的数据挖掘系统设计。本系统电子商务平台采用基于三层体系结构构建,服务器端采用先进的J2EE平台构架,有完整的体系框架组成,具有很好的可扩展性、互联性和可维护性。因此面向电子商务的数据挖掘系统由数据库服务器、应用服务器和客户端三层组成,整个体系结构是以J2EE企业级的构建技术为基础。对数据挖掘过程中产生的数据,采用独立的数据挖掘库表存放,这样既不影响也不依赖数据挖掘的数据源。应用服务器完成所有的数据挖掘运算,通过接受客户端的设置,完成所有对数据进行探索、转换、挖掘的工作。数据挖掘系统的每个功能模块都以EJB的形式进行封装,以实现分布式计算和负载平衡等分布式计算的要求,把具有繁重计算任务的模块和用户交互模块分开。客户端要负责数据挖掘流程的创建工作、所有功能模块参数的设定以及各种可视化结果的显示。用户可以根据自己的要求任意创建各种形式的挖掘流程,同时按照需要执行某部分流程,获取相应的可视化分析结果,其系统体系结构如图所示。

面向电子商务的数据挖掘系统体系结构图

2.面向电子商务的数据挖掘系统功能设计。面向电子商务的数据挖掘系统主要以下几大功能模块:(1)用户信息分析。运用分类和聚类挖掘方法对用户的信息分析,可以得到用户的些特征。对用户分类相当于对具有某些公共属性的用户群体建立了概要特征描述,这些特征可以用来对新增的用户进行分类,可以发现未来的潜在用户并开展有针对性的商务活动,如自动给一类特定的用户发送销售邮件,当属于同一类的用户再次访问站点时为其动态地改变站点的内容等。通过这些举措使商务活动能够在一定程度上满足用户的要求,实现目标营销。(2)商品信息分析。运用关联规则挖掘发现商品访问中所有关联和相联系的规则,可以从交易事务数据库中发现商品间的相互联系。这对电子商务公司组织站点网页结构、开展有效的营销策略非常有帮助。(3)物流信息分析。采用神经网络预测技术,根据各物流配送点接到的网站用户订单来预测其库存数量。预测信息可以给物流配送中心以参考,用来合理地确定各配送点仓库的库存量,使各配送点的补货能更加合理有序,降低物流成本,节约库存费用。

四、结束语

数据挖掘是一个新兴的领域,具有广阔应用前景,目前,电子商务在我国正处于快速发展和应用阶段,利用数据挖掘技术,能够强化对客户的服务、促进市场最优化、加速资金周转、实现企业的创新发展。电子商务平台上的数据挖掘技术有待人们去进行更深入的研究工作,这将不断的推动数据挖掘技术的深入发展和广泛应用,创造出更多的社会和经济价值。

参考文献:

[1]张云涛龚铃:数据挖掘原理与技术.北京,电子工业出版社,2004年1月

[2]方真等:电子商务教程[M].北京:清华大学出版社.2004

篇3

国外很多大学都开设了数据挖掘类课程,波士顿大学的“数据管理与商务智能”课程主要包括基础、核心技术、应用三部分。授课方式包括理论内容讲授、案例教学,以及学生以团队合作方式完成项目并进行课堂演讲。从麻省理工学院开放性课程资料(斯隆管理学院)中可以看出,在每章讲解一种算法之后都尽可能地安排了商务实例的分析,并在课程后期安排了客座讲座的形式。国内对于数据挖掘的教学类研究成果也很多,主要集中在三类问题的研究上,较为普遍的是根据专业建立大纲的研究,例如针对电子商务专业进行大纲设计;另外也有专注研究某一种或多种适合数据挖掘或商务智能的教学方法,如专题研讨法;还有的讨论算法理解与程序设计、软件应用的关系。

2、基于模块化方法的课程内容分析

模块化教学模式是按照程序模块化的构想和原则来设计教学内容的一整套教学体系,它是在既定的培养目标指导下,将全部教学内容按照一定标准或规则进行分解,使其成为多个相对独立的教学模块,且各教学模块之间可以按照一定的规则有选择性的重新组合。该方法在20世纪70年代,由国际劳工组织引入教学之中,开发出以现场教学为主,以技能培训为核心的模块化教学模式,在很多国家得到广泛应用。由于该教学法具有针对性、灵活性、现实性等特点,越来越受到教育界的关注。模块化教学本质上是以知识点与实践的细化为出发点研究,本课程的知识点细化分为两个层次:一是从宏观角度,参考ACM的SIGKDD的数据挖掘课程建设建议,设计课程的基础内容模块和高级主题模块;二是从微观角度,针对较为复杂的算法进行的知识点划分。课程内容的一至五章属于基础内容模块,介绍本课程的基础理论和入门的数据挖掘技术;六至第八章介于基础内容与高级主题之间,介绍数据挖掘的核心算法,可以根据学生情况进行灵活处理,可强调应用,也可深化算法介绍;第九、十章为高级主题模块,可以作为扩展材料介绍应用,或为感兴趣同学提供算法介绍;课程实践模块包含数据仓库建设与数据挖掘算法的应用,难度居中,可以在引导学生思考的前提下给出实验步骤,并引导学生使用类似的方法处理不同的数据。

3、基于模块化方法进行重要知识点的模块化分析

重要知识点内涵较为丰富,一般体现在经典数据挖掘算法上,通常一大类算法下还分有多个算法,不同算法的在难度上有渐进层次,同一种算法也有很大改进研究空间,讲授弹性比较大。因此,适合使用模块化方法进行处理,并且需要在课程设计中明确一定课时量所要达到的内容和难度。基础部分为必选内容,介绍基本概念和基本原理;决策树作为数据挖掘分类算法的最基础算法也是必选内容,决策树算法有多种分类,需要进行按照难易程度进行选择;最后要根据难度选择其他分类算法进行介绍。

4、结论

篇4

档案管理对象的数量随着社会的发展而不断增加,仅仅通过传统的管理方式已不能高效管理档案,这就需要充分利用计算机网络技术。在档案管理系统中应用计算机数据挖掘技术可以确保档案信息的安全性,提高管理档案的效率,还能优化档案数据的检索。总之,基于大数据的计算机数据挖掘技术对完善档案管理系统发挥着十分重要的作用。

2基于大数据的计算机数据挖掘技术概述

基于大数据的计算机数据挖掘技术是当代新开发的一种数据处理技术,它可以从大数据中挑选出人们需要的数据。计算机数据挖掘是一个循环往复的过程,如果没有取得预期的效果,计算机数据挖掘信息处理系统就会返回上一层重新工作,直到完成目标任务为止,这种对目标的细化过程可以满足档案数据检索的需要。

3基于大数据的计算机挖掘技术在档案管理系统中的作用

3.1提高档案信息的安全性。无论是文字档案、图片档案还是其他形式的档案,都是一种宝贵的资料。越是意义重大的档案,档案管理人员就越要想方设法将其保存起来。档案的价值随着其保存时间的不断推移而增加,价值越高的档案,被使用的频率就越高,但是如果使用过于频繁的话,就会缩短档案资料的寿命,加大保存难度。除此之外,有的档案信息是保密的,在应用时如果监管不力就会导致机密泄露。由以上可见,档案的保存与使用俨然已互为对立面了。将计算机挖掘技术应用到档案管理中则对档案资料的完整性毫无影响,并且还可以提高档案信息的安全性。3.2提高档案信息管理的效率。在档案管理工作中应用计算机数据挖掘技术,可以极大改变传统档案管理模式低效率的弊端。使用计算机数据挖掘技术,大大提高了工作人员处理档案信息的速度,同样的工作使用的时间极大减少。鉴定档案是档案管理工作中的重要组成部分,传统的鉴定方式是由管理人员根据自己的经验进行主观鉴定,有时会存在有价值的档案丢失的现象。应用计算机数据挖掘技术,档案管理人员就可以利用计算机系统分析档案使用和保存的情况,促进了档案鉴定工作的发展。3.3提高了档案信息的使用效率。大部分档案信息具有一定的机密性,所以档案的借阅并不是向全社会公开的,而是有范围限制的,但是由于档案管理人员和借阅者对档案信息不熟悉,导致双方的沟通存在一定的问题,在借阅者提出申请之后,档案管理人员会将档案资料调出来,有时调出来的资料不是借阅者所需要的,还得重新调阅,类似的过程就严重浪费了双方的时间。应用计算机数据挖掘技术可以促进档案管理人员和借阅者之间的交流,让档案管理者明确借阅者需要的具体档案信息,从而形成专门的档案提供渠道,这就大大提高了档案信息的使用效率。3.4增强档案信息的服务性。加密档案信息会严重缩小它的适用范围,受当代信息化的影响,很多档案信息自身会出现一些问题,并且只能为一小部分人服务。将计算机数据挖掘技术应用到档案信息管理中,可以具体分析档案的使用情况,通过研究发现未来使用档案信息的人群,在此基础上提高档案信息的服务性。

4基于大数据的计算机数据挖掘技术在档案管理中的实际应用

4.1在档案分类管理中的应用。档案管理的基础工作就是将档案进行分类。传统的分类方法既费时又费力,工作效率极低。计算机数据挖掘技术中有一种决策树算法,它可以在最短的时间内按照一定的规则将不同属性的档案信息进行分类和整理,大大提高了档案分类工作的效率。计算机数据挖掘技术在档案分类工作中的具体流程是:从大量不同种类的数据集中选择一些数据组合成训练集,然后应用到没有进行分类的档案管理中,这样可以帮助管理者根据借阅者对档案信息的需求来对档案进行分类,同时还可以根据借阅者的需求为其推荐其他档案信息。通过这些针对性强的数据分析,可以极大缩短借阅者获取档案信息的时间,档案数据的利用价值就能充分发挥出来。4.2在档案收集管理中的应用。计算机数据挖掘技术可以根据数据库内部的数据信息描述来构建一个相应的数据模型,然后比较计算机数据样本和数据模型之间的差异,如果这二者互相吻合,就需要档案管理人员使用测试样本模型来对档案信息进行分类处理。计算机数据挖掘技术需要全面分析档案数据信息库中的数据,建立一个对已知数据有详细描述的概念模型,并与测试样本进行对比,如果一个模型测试通过,就证明这个模型可以应用在档案收集管理中。

5结语

综上所述,在科技技术不断进步的时代背景下,在档案信息管理中应用基于大数据的计算机数据挖掘技术已成为一种必然趋势,它可以极大提高档案信息管理的工作效率,促进档案管理的高效发展。除了在档案信息存储和利用上确保基本的信息查询服务外,还需要应用计算机数据挖掘技术整合档案信息,建立众多档案管理服务数据之间的关联,这样才能为档案信息管理提供更好的服务。

作者:陈皓颖 单位:昆明理工大学津桥学院

参考文献

[1]高燕飞,陈俊杰.试析计算机数据挖掘技术在档案信息管理系统中的运用[J].内蒙古师范大学学报:哲学社会科学版,2012(4):44-46.

[2]曾雪峰.计算机数据挖掘技术开发及其在档案信息管理中的运用研究[J].科技创新与应用,2016(9):285.

[3]李国强,曹巧莲,辛正宇,等.浅谈数据处理的新技术———数据挖掘[J].科技创新与生产力,2010(6).

[4]周碧珍.浅析计算机数据挖掘技术在档案信息管理系统中的应用[J].黑龙江科技信息,2009(1).

篇5

关键词 情报学;硕士论文;关键词

中图分类号G251 文献标识码A 文章编号 1674-6708(2014)114-0013-02

当前,世界各国的许多高等院校和科学研究机构都在加强对图书情报的研究,许多世界一流院校,比如Harvard University(哈佛大学)、Princeton University(普林斯顿大学)、Yale University(耶鲁大学)、Massachusetts Inst. of Technology(麻省理工学院)等都建立了比较完善的情报学教育体系。而比较而言,在我国高等院校与科研院所对图书情报学的相关研究,明显要相对落后,近年来随着改革开放的深入推进,有关情报学的招生和课题研究有所提升,并呈现出较为快速的增长态势,然而由于研究内容相对较为高深,而且研究的靶场显得较为前沿化与多元化。基于关键词对学位论文进行统计、研究与分析是文献计量学的范畴,是图书情报学研究的重要内容。即以学位文献或学位文献的某些特点为标的,以聚集梳理一定数量文献为基础,由此展开对某一时域某一领域科学技术基本状况与基本特征的研究,并由此论述和预测该领域科学技术在今后一段时期的研究趋势与特点规律态势。基于独特关键词进行图书情报领域的硕士学位论文进行分析,是情报学研究的一项重要方法,是一种将文献资料中的众多核心要素关联起来,进行统计分析的引证分析方法,其可以较为科学地评价文献所研究与发展的现状和趋势,揭示学科当时研究的热点,较为准确地评价文献所代表的学术水平。

1 研究对象数据来源

本文研究的对象定位于对国内图书情报领域这一总体框架,并于此基础上将“靶向”集中于硕士学位论文的统计、分析与研究,将“靶标”聚集到硕士学位论文的研究热点、趋势、重点、前沿以及其变化情况,从而更加清晰地梳理出我国情报学研究的发展脉络,从而为我国情报学教育发展提供参考。研究的主要数据来源集中于国内著名的学位论文收集库――中国知网CNKI学术文献总库、维普期刊资源整合服务平台与万方数据知识服务平台“三大论文数据库”,以及国内高等院校图书馆自建特色数据库。其中,中国知网CNKI和万方数据库是国内收录学位论文最为全面的数据库,因此,为了确保分析研究的数据具有较高可信度与代表性,分析研究检索的数据源即来自该两个数据库,着重定位于“学科专业名称”、“学科专业分类”选项进行检索,而检索的时间区域定位于近10年,对于两个数据库检索出来的文献,对于相同的通过采用SQL 语句进行筛选,剔除重复的以及不符合的。

由此,以“情报学”作为检索词,从中国知网CNKI数据库获得1640篇硕士论文,从万方数据库中获致1315篇硕士论文,通过SQL筛选剔除重复的以及不符合的795篇,总共获得有效国内图书情报领域硕士论文2160篇。

2 基于高频关键词的国内图书情报领域硕士学位论文特点

通过对获取到的2160篇国内图书情报领域硕士论文进行研究,综合统计论文的关键词,累计关键词有13976个,经过分析研究,去除不能表达论文主题概念的关键词3645个,共得10331个,平均每篇硕士文献关键词数为4.78个,由此可说明该统计是科学的,与国外科文献资料对关键词的标引规则相符(国内外科技期刊要求的每篇关键词应标出 3-8 个),接着对关键词的词频进行统计分析,将关键词的频度大于60作为标准,将其定义为“高频词”,通过对“高频词”的统计分析,可以非常清晰地看出,有关“知识管理”这一主题的频次最高,多达126次。无疑,这也证实了近些年来,学术界对知识管理这个方向的研究热点。此外,“电子商务”为121次、“信息化”为118次、“信息技术”为112次、“竞争情报”为102次、“信息服务”为98次、“信息检索”为96次、“数据挖掘”为87次、“数字图书”为84次、“信息资源”为79次、“电子政务”为75次、 “知识服务”为71次、“知识共享”为68次、“数据仓库”为63次,从中也反映了我国对信息化建设、知识服务、数字化建设等关注在日益提升,也验证了我国国务院学位委员会重新颁布的《授予博士、硕士学位和培养研究生的学科、专业目录》中“图书馆、情报与档案管理”的实效,表明了情报学与管理学之间渗透和结合日益加强,也可以折射出当前研究的重点、热点仍然集中在情报学基础领域,并预示着今后情报学研究的一个重点将是对网络信息资源的开发、整合与利用。

3 基于聚类共词的国内图书情报领域硕士学位论文特点

通常来说,仅仅通过孤独地察看论文的某一关键词,通常是难以有充足的理由说明该论文所研究的主题,然而通过关注两个或者两个以上的关键词,将可以给予人们更加充分的信息去把握论文的大致内容和论文的主题脉络。通过采取计算机数字高效处理作用,充分发挥Excel的数据透视功能,再次对出现次数高于60的高频出现的关键词进行“聚类性”分析,统计在同一论文中两两同时出现的关键词,从而构建出60 × 60的“聚类共词矩阵”,通过这一矩阵的研究,非常清晰地显示出“聚类共词矩阵”是一个对称矩阵,其中位于矩阵对角线上的数据显示的是某关键词自身一同出现的频次,这个一同出现的现象就实质来说,就是论文之间的相关度,对于非对角线上的数据,则表示不同关键词之间的共现频次。通过这个矩阵可以从另一个侧反题出,关键词分布既有交叉、相互渗透又具有群组分布的独立性。通过Excel的数据透视处理得到共现频次较高的有:“知识管理”为124次,“电子商务”为106次,“竞争情报”为101次,“高校图书馆”为98次,“信息服务”为92次,“数据挖掘”为87次,“数学图书馆”为83次,“信息资源”为81次,“电子政务”为79次,“知识共享”为72次,“数据仓库”为66次。由此可以看出,在国内图书情报领域硕士学位论文的研究主题中,当前基于数字化、信息化、电子化的知识管理与数据挖掘是个热点,同时也说明我国情报学教育研究的领域在不断拓宽。

综合以上,关注独特关键词下国内图书情报领域硕士学位论文研究的学科结构特点,获得了基于高频关键词的国内图书情报领域硕士学位论文特点,以及基于聚类共词的国内图书情报领域硕士学位论文特点,通过对研究结果的比较分析,得出了一些有较为充足理由支撑的结论,那就是从中可以较为清晰地得出,当前以及今后一段时期国内图书情报领域硕士学位论文研究的侧重点在于“数字化、信息化、电子化的知识管理与数据信息挖掘”。

参考文献

[1]曾学喜.网络舆情突发事件预警指标体系构建[J].情报理论与实践,2013(11).

[2]Miao Adam X,Zacharias Greg L.A computational situation assessment model for nuclear power plant operations[J].IEEE Transactions on systems,Man and Cybernetics,2011(9).

篇6

医学论文是医学科研工作的最后阶段,通过文字形式记录医学研究的最新结果。因此,撰写医学论文要把握医学论文的基本要求、选题方法及一般体裁,从而达到主题和形式的和谐统一。

1 医学论文的基本要求

1.1 创新性医学论文的创新性是指文章要有新意,要发展医学成就,破解医学问题。医学论文有无创新,选题是关键。选题创新是医学论文写作的灵魂,是衡量医学论文价值的重要标准。可体现在:①理论方面的选题应有创新见解,既要反映作者在某些理论方面的独创见解,又要提出这些见解的依据;②应用方面的选题应有创新技术等,也就是要写出新发明、新技术、新产品、新设备的关键,或揭示原有技术移植到新的医学领域中的效果;③创新性还包括研究方法方面的改进或突破。

1.2 可行性 所谓选题的可行性,是指能够充分发挥作者的综合条件和可以胜任及如期完成医学论文写作的把握程度。选题切忌好高鹜远,脱离实际,但也不应过低,影响主客观的正常发挥,降低了医学论文的水平。影响选题的可行性因素有:①主观条件,包括作者知识素质结构、研究能力、技术水平及特长和兴趣等;②客观条件,包括经费、资料、时间、设备等。

1.3 实用性 撰写医学论文的目的是为了交流及应用。要从实际出发,选择够指导科研、指导临床、造福人类的主题,因此,选题的实用性尤为重要。

1.4 科学性 医学论文是临床和医学科学研究工作的客观反映,其写作的具体内容应该是取材客观真实、主题揭示本质、科研设计合理、论证科学严谨、表达逻辑性强、经过实践检验。所以,严格遵守选题的科学性原则,是医学论文写作的生命

1.5 前瞻性 要选择有研究价值及发展前途的主题,应积极开发研究新领域、新学科和新理论。2 选题的基本方法

2.1 根据课题研究的结论来确定主题 这是常用的方法,可分为:①以科研的结论或部分结论作为医学论文的主题;②科研结果与开题时预测不一致,待查出原因后,再寻找主题;③科研达不到预期结果,可总结经验,从反面挖掘主题。

2.2 在科研过程中选题 医学科研的过程中,有时会出现意外的现象或问题,作者如果能够细心观察、及时发现,可以在这些偶然中获得新的选题。

2.3 在临床实践中选题 临床工作是医学论文写作取之不尽的源泉,作者在临床中会经常遇到许多需要解决的实际应用问题或理论问题,对此,只要从本学科实际出发,用心思考,会从中产生很多好的主题。其包括:①探讨发病机制与预后情况;②分析临床症状与表现;③研究诊断方法和治疗方法;④疾病的多因素分析等。

2.4 从文献资料中选题 医学文献是人们长期积累的宝贵财富,是医学论文选题的重要来源。阅读最新文献资料,可以了解当前医学科学研究的进展情况,开拓思路、激发灵感,从而挖掘提炼出好的医学论文主题。

3 医学论文的一般体裁

3.1 实验研究 一般为病因、病理、生理、生化、药理、生物、寄生虫和流行病学等实验研究。主要包括:①对各种动物进行药理、毒理实验,外科手术实验;②对某种疾病的病原或病因的体外实验;③某些药物的抗癌、抗菌、抗寄生虫实验;④消毒、杀虫和灭菌的实验。

3.2 临床分析 对临床上某种疾病病例(百例以上为佳)的病因、临床表现、分型、治疗方法

和疗效观察等进行分析、讨论,总结经验教训,并提出新建议、新见解,以提高临床疗效。

3.3 疗效观察 指使用某种新药、新疗法治疗某种疾病,对治疗的方法、效果、剂量、疗程及不良反应等进行观察、研究,或设立对照组对新旧药物或疗法的疗效进行比较,对比疗效的高低、疗法的优劣、不良反应的种类及程度,并对是否适于推广应用提出评价意见。

3.4 病例报告 主要报告罕见病及疑难重症;虽然曾有少数类似报道但尚有重复验证或加深认识的必要。

3.5 病例(理)讨论 临床病例讨论主要是对某些疑难、复杂、易于误诊误治的病例,在诊断和治疗方面进行集体讨论,以求得正确的诊断和有效的治疗。临床病理讨论则以对少见或疑难疾病的病理检查、诊断及相关讨论为主。

3.6 调查报告 在一定范围的人群里,不施加人工处理因素,对某一疾病(传染病、流行病、职业病、地方病等)的发病情况、发病因素、病理、防治方法及其效果进行流行病学调查研究,给予评价,并对防治方案等提出建议。

篇7

1.1创新性医学论文的创新性是指文章要有新意,要发展医学成就,破解医学问题。医学论文有无创新,选题是关键。选题创新是医学论文写作的灵魂,是衡量医学论文价值的重要标准。可体现在:①理论方面的选题应有创新见解,既要反映作者在某些理论方面的独创见解,又要提出这些见解的依据;②应用方面的选题应有创新技术等,也就是要写出新发明、新技术、新产品、新设备的关键,或揭示原有技术移植到新的医学领域中的效果;③创新性还包括研究方法方面的改进或突破。

1.2可行性所谓选题的可行性,是指能够充分发挥作者的综合条件和可以胜任及如期完成医学论文写作的把握程度。选题切忌好高鹜远,脱离实际,但也不应过低,影响主客观的正常发挥,降低了医学论文的水平。影响选题的可行性因素有:①主观条件,包括作者知识素质结构、研究能力、技术水平及特长和兴趣等;②客观条件,包括经费、资料、时间、设备等。

1.3实用性撰写医学论文的目的是为了交流及应用。要从实际出发,选择够指导科研、指导临床、造福人类的主题,因此,选题的实用性尤为重要。

1.4科学性医学论文是临床和医学科学研究工作的客观反映,其写作的具体内容应该是取材客观真实、主题揭示本质、科研设计合理、论证科学严谨、表达逻辑性强、经过实践检验。所以,严格遵守选题的科学性原则,是医学论文写作的生命。

1.5前瞻性要选择有研究价值及发展前途的主题,应积极开发研究新领域、新学科和新理论。

2选题的基本方法

2.1根据课题研究的结论来确定主题这是常用的方法,可分为:①以科研的结论或部分结论作为医学论文的主题;②科研结果与开题时预测不一致,待查出原因后,再寻找主题;③科研达不到预期结果,可总结经验,从反面挖掘主题。

2.2在科研过程中选题医学科研的过程中,有时会出现意外的现象或问题,作者如果能够细心观察、及时发现,可以在这些偶然中获得新的选题。

2.3在临床实践中选题临床工作是医学论文写作取之不尽的源泉,作者在临床中会经常遇到许多需要解决的实际应用问题或理论问题,对此,只要从本学科实际出发,用心思考,会从中产生很多好的主题。其包括:①探讨发病机制与预后情况;②分析临床症状与表现;③研究诊断方法和治疗方法;④疾病的多因素分析等。

2.4从文献资料中选题医学文献是人们长期积累的宝贵财富,是医学论文选题的重要来源。阅读最新文献资料,可以了解当前医学科学研究的进展情况,开拓思路、激发灵感,从而挖掘提炼出好的医学论文主题。

3医学论文的一般体裁

3.1实验研究一般为病因、病理、生理、生化、药理、生物、寄生虫和流行病学等实验研究。主要包括:①对各种动物进行药理、毒理实验,外科手术实验;②对某种疾病的病原或病因的体外实验;③某些药物的抗癌、抗菌、抗寄生虫实验;④消毒、杀虫和灭菌的实验。

3.2临床分析对临床上某种疾病病例(百例以上为佳)的病因、临床表现、分型、治疗方法和疗效观察等进行分析、讨论,总结经验教训,并提出新建议、新见解,以提高临床疗效。

3.3疗效观察指使用某种新药、新疗法治疗某种疾病,对治疗的方法、效果、剂量、疗程及不良反应等进行观察、研究,或设立对照组对新旧药物或疗法的疗效进行比较,对比疗效的高低、疗法的优劣、不良反应的种类及程度,并对是否适于推广应用提出评价意见。

3.4病例报告主要报告罕见病及疑难重症;虽然曾有少数类似报道但尚有重复验证或加深认识的必要。

3.5病例(理)讨论临床病例讨论主要是对某些疑难、复杂、易于误诊误治的病例,在诊断和治疗方面进行集体讨论,以求得正确的诊断和有效的治疗。临床病理讨论则以对少见或疑难疾病的病理检查、诊断及相关讨论为主。

3.6调查报告在一定范围的人群里,不施加人工处理因素,对某一疾病(传染病、流行病、职业病、地方病等)的发病情况、发病因素、病理、防治方法及其效果进行流行病学调查研究,给予评价,并对防治方案等提出建议。

篇8

关键词:研究型;学习;培养;科研实践

对于高校而言,研究生既是知识传授的对象,又是日常科研工作的参与者,其理论学习过程和科研能力的培养相互交融且呈现多变的特点。[1][2][3]

笔者目前暂不具备独立招收研究生的资格,但依托研究团队和所承担的科研项目,每年都会协助指导若干名研究生(硕士生、博士生)顺利毕业。在协助指导这些研究生学习和开展科研工作的过程中,积累了一些经验。结合笔者2013~2014年前往英国访问交流一年过程中参加教学培训项目和科研合作项目的体会,本文从研究型学习方法及其在科研实践中的应用等方面浅析研究生培养工作的体会。

一、基于研究型学习的培养特点剖析

1.基于研究心态的理论知识学习

为了便于开展科研理论分析工作, 研究生培养的初期阶段需要有针对性地选择专业课程知识学习,而专业课的授课内容更突出针对性和研究性。[4][5]研究生若带着研究的心态学习这些专业课程,必将在学习过程中能更好地锻炼对科学问题的认识、分析和解决的能力。

实现专业课程的研究型学习,对专业课的讲授方式和内容设置也提出了一定的要求。笔者在英国哈德菲尔德大学留学期间,对于该校课程设置和讲授方式深有感触。在跟课的“Dynamic Analysis and Control”课程中,主讲教师通过设置多个实际工程应用案例开展授课内容讲解,实例中计算数据均来自实际工业系统,布置的作业也与科研项目紧密相关。这种研究型的授课和学习模式,可以使得研究生对所学内容的整体把握和应用有了更为直观的认识,对于今后开展研究工作也有触类旁通的优势。

带着研究的心态来学习理论知识, 还可以通过对应的科研实践来巩固研究生理论水平培养的效果。通过适当的科学研究实践,将最新的科研成果和知识动态融于理论学习过程,可以在一定程度上弥补理论学习的抽象性、知识的落后性等不足,实现研究生综合科研素质的扎实培养。[6]

2.基于主动挖掘的科研实践思维

研究生的培养中,“学”与“研”的培养相互作用、互为促进。“学”是手段,“研”是目的。多学是为了更好地研究,深入的科研工作可以为主动学习提供积极的动力。

研究生通过理论知识学习,具备了一定的独立开展理论知识学习、独立从事科研活动的能力。将其引入科研项目中,根据个人特长和兴趣爱好进行项目分工,可以充分调动研究生的参与积极性和探索热情,使其能够自主地、全身心地投入到科研实践活动中。在此阶段,研究生的科研实践热情被充分激发和释放,将主动收集与所研究领域有关的资料和文献,通过整理、消化和吸收,主动挖掘更为深入的理论知识背景,形成独立的见解和科研成果。

主动挖掘的过程中,科研活动促进了理论知识的学习,理论知识的挖掘提升了科研能力水平,体现了研究生培养的“研”“学”并重特点,和以“研”促“学”的培养理念。

二、实践研究型培养方法的一些举措

1.科研实践培养突出研究特点

(1)引导研究生承担部分理论研究工作,培养从理论上解决技术难题,形成解决方案的能力。此外,研究生还要承担一部分的工程任务,以锻炼其实践能力,明确研究活动的理论与实践关系。

(2)构建包括研究生在内的研究团队定期学术讨论与总结机制,以竞赛激发科研兴趣,加强互联网资源使用的引导。总结交流是提高研究水平的重要途径,借助互联网这一开放式学习平台,研究生可与组内外、国内外学者分享最新的研究成果,实现互补与互助提高。

(3)开展全面而深入的学术访问和交流。学术无止境,交流共提高。研究生在培养阶段应该多走出校门,借助国内外学术会议平台培养建立学术联系、提升交流水平和展示学术成果能力,为以后潜在的合作研究奠定基础。笔者在英访学期间,曾走访了帝国理工学院、曼彻斯特大学、巴斯大学等知名学府,他们的科研硬条件一流,软实力水平也非常高。这些大学的研究非常开放,很欢迎中国的留学生前去参与科研项目研究。国内的研究生可以积极联系这些单位,争取去联合培养的科学研究机会。

2.学术论文撰写体现高度责任心

高水平学术论文的撰写是检验研究生培养成效和研究能力的一个有效手段。通过撰写高水平学术论文,一方面研究生可以梳理理论学习过程中存在的不足,另一方面也可以凝练研究工作,提升学术研究的理论水平。

(1)论文选题要明确、突出研究价值,内容要详实、有据可依。所撰写的内容应来源于自己的科学研究实践中的所思所想,撰写时需要精心设计论文内容和组织结构,重视文献查阅与阅读工作,对所研究内容和发展现状等要有深刻的认识。

(2)论文撰写要沉下去、静下心, 敢于取舍。研究生在初学撰写、修改论文时,必须要静下心、钻进去,脚踏实地一步一步锻炼,不断挖掘和提高理论深度。同时,要让论文的内容充分地“沉淀”并经得起推敲,过滤掉“杂质”。笔者在访学期间,与国外学者交流,他们通常的写作过程是,首先用一到两个月写出论文初稿,然后将其放置一段时间后至自己忘记稿件内容,再次阅读并修改稿件。这种方法被他们形象地称为“遗忘式”写作方法,笔者实践过,确实行之有效。

3.行文注意丰富多变的科技词汇运用

学术论文通过严谨、凝练的表述来展示研究人员的理论研究成果,研究生在行文时如果英语基础较好、写作功底扎实,则可以运用丰富而准确的科技词汇来组织内容,达到锦上添花的效果。广泛阅读英文参考文献是扩展词汇量和提升英文行文水平的有效手段。

三、结论

研究生的培养是一个反复迭代的系统过程,带着研究的心态去学习理论知识、将学习的过程融入科研实践,从而提升研究生的理论水平和锻炼科研能力,使其具备独立开展科研工作的能力。通过这些有针对性的培养措施,可以显著提高研究生培养质量,为其日后顺利走上工作岗位奠定基础。

参考文献:

[1]黄文涛,赵学增.国外硕士研究生培养模式述评及启示[J].研究生教育研究,2013(03).

[2]季俊杰.优秀研究生科研能力的影响因素与启示[J].研究生教育研究,2013(02).

[3]向 诚,柴 毅,王东红,等.紧贴行业需求,校企协同培养控制工程领域高层次应用型人才[J].学位与研究生教育,2014(04):11―15.

[4]汪 洋,高久群,汪华侨,等.香港中文大学研究生教育的特点及其启示[J].学位与研究生教育,2014(06).

[5]郭雅丽,任永泰,邓华玲.硕士研究生课程设置研究[J].研究生教育研究,2013(15):47―50.

篇9

关键词:推荐系统;云计算;数据挖掘;个性化

中图分类号:TP393 文献标识码:A DOI:10,3969/J.issn.1003-6970.2013.03.001

本文著录格式:[1]郭平,刘波,沈岳,农业云大数据自组织推送关键技术综述[J].软件,2013,34(3):1-6

0 引言

随着物联网、云计算、下一代互联网等新一代信息技术的快速发展和信息内容的日益增长,“信息过载”问题愈来愈严重,推荐系统(recommender systems)被认为可以有效的缓解此难题,帮助用户从海量数据中发现感兴趣信息,满足个性化需求。

近年来,我国在农业个性化知识服务服务领域从本体论、语义网、知识工程角度开展了广泛的研究,成果主要体现在三个方面:以搜索引擎为代表的知识检索系统,需回答大量预设问题进行知识推理的专家系统,特定领域应用系统,它们在各自的场合都发挥了积极作用。然而知识检索系统不能满足用户个性化需求,专家系统的应用很难普及,特定领域应用开发成本高和重用难度大。物联网与数据挖掘云服务提供知识服务云实现物理世界的“感知控”,知识服务云的研究主要集中在制造和图书情报领域,云环境下的农业个性化知识服务的研究尚处于起步阶段,主要集中在服务模式的构建与展望。

本文是对科技部科技支撑课题“农村农业信息化关键技术集成与示范”(2011BAD21803)与“农村物联网综合信息服务科技工程”(2012BAD35800)研究成果的总结,也是对农业云推荐系统研究的升华。

1 农业云大数据自组织区域推送的提出

1.1 农业信息资源特点

我国自“十一五”时期以来,农业农村信息化发展取得了显著成效,主要表现在农业农村信息化基础设施不断完善、业务应用深入发展、物联网技术在农业中逐步推广应用等方面。从中央到省,市、县建立了“三农”综合信息服务平台,涉农企业、组织和科研院所也积极搭建了各具特色的农业信息服务平台,目前正向乡镇村发展。农村信息员队伍及以农业综合信息服务站和农业合作社为代表的农村信息服务机构发展迅速,“三电合一”、“农民信箱”、“农村热线”等信息服务模式应用深入。云计算利用海量的存储能力把农业信息资源形成高度集成和虚拟化的计算资源一“农业知识聚合云”,支持用户在任意位置、使用各种终端方便获取信息,但由于农业领域生态区域性和过程复杂性及农业区域发展不平衡和农民文化的多层次性也带来了“信息过载”、“资源隐晦”“资源迷向”等问题。

1.2 农业云环境下大数据自组织区域推送

物联网和云计算背后是大数据,在云计算模式下,用户不确定的、智能的交互,个性化需求更加多元化,信息交互行为更加频繁;在大量用户通过社会标注达成共识的过程中,逐渐形成不同社区,涌现出群体智能,形成“农业用户兴趣社交云”。利用云的海量存储、群体涌现智能、强大的计算能力和物联网感知控优势,可以提供面向用户复杂分析计算,实现业务重点由面向应用和资源的传统信息服务,转变为基于对海量农业知识进行动态划分,有目的、主动、定制、自组织推送给有需求的农业用户,为农业用户提供实时性、个性化知识服务,指导农业生产过程。

首先以Hadoop+MapReduce+HBaSe分布式框架为处理平台,对“农业用户兴趣社交云”,融合用户兴趣偏好和社交网络进行建模,将这些多元用户信息充分融入推送系统会更好产生推荐结果;将推荐对象“农业知识聚合云”按农业知识高维性、多样性、多层次性特征分类聚类为各种知识块静态和动态元数据;通过智能算法推荐和社会网络推荐为用户发现个性化内容;根据用户的地理位置、用户服务的评价以及云基础服务提供商信息将预测值最高的服务推送给用户实现与物理世界的互动(如图1)。

从以上分析可知,农业云大数据自组织区域推送的关键技术有用户兴趣模型、推荐对象模型,推荐算法、数据挖掘四个部分,以下分别对这几项技术进行论述。

1.2.1 用户兴趣模型

用户兴趣建模是个性化服务技术的基础和核心,包括数据收集、模型表示、模型学习与模型更新。用户兴趣建模的方法有很多,常用的有向量空间模型、神经网络、遗传算法、用户一项目评价矩阵、基于案例的表示、基于本体论的表示、基于加权关键词的表示,基于社会网络的表示等。几乎每种表示形式都是以一种私有形式进行知识表示,此外一些表示技术还依赖于模型学习,如广泛使用的基于向量空间模型的表示与TF-IDF学习技术联系在一起。表示形式的私有性和对学习技术的依赖性阻碍了用户模型在系统间的共享,这种共享对于减少用户建模工作量,提高推荐算法启动效率具有重要意义。因此开发独立于模型学习技术的通用用户模型表示技术是目前研究中热点,基于语义网和社交网络的用户模型在这方面表现了优势。

用户的兴趣或需求会随时间、情景发生变化,结合长期和短期兴趣及兴趣的变化用户兴趣建模的重点,目前的更新机制很难及时跟踪用户兴趣的变化,有更好的学习效率和动态变化适应能力的建模是未来的重要研究方向,国内外大量的文献对此展开了研究,遗忘函数、时间窗、用户兴趣的漂移特性等被提出。

在湖南农业云中,基于呼叫中心、互联网,手机报、手机短信,电视广播等用户在多应用系统中形成的兴趣偏好和社交网络特征,提出“农业用户兴趣社交云”建模思路:以图论模型表示用户“兴趣图”数据和“社交图”数据,根据经典的局域世界演化理论,综合考虑实际情况中用户之间的多重关系和关系的强弱程度,以用户之间相似度为节点连接概率因素,生成动态多维网络,进行用户数据的挖掘和更新;结合农业本体,在多维社交网络的基础上,将基于农业本体的区域用户兴趣融合在云计算平台上进行处理。

1.2.2 推荐对象模型

推荐本质上是将推荐对象的特征与用户的兴趣偏好进行推荐计算,所以推荐对象的描述和用户的描述密切相关。推荐系统应用不同领域,它推荐的对象也就各不相同,目前,湖南农业云主要是文本性数据;不同的对象,特征也不相同,目前没有一个统一的标准来进行统一描述,主要有基于内容、分类、聚类的方法。

基于内容的方法是从对象本身抽取信息表示对象,常见的是向量空间模型,使用最广泛的是加权关键词矢量方法进行特征选取,使用TFIDF计算每个特征的权值。向量空间模型对模型中的特征词进行权重估计(TF-IDF)过程中不考虑特征词之间的相关性,直接用特征词作为维度构建文档向量,降低了文档向量对文档概念表达的准确性以及对不同类型文档的区分能力。

基于分类的方法是把推荐对象放入不同类别,把同类文档推荐给对该类文档感兴趣的用户。主要有两种,一种是基于知识工程的方法,使专家的类别知识直接编码为分类规则,正确率和召回率高,但工作量大;近期研究最多的是另一种一机器学习,根据训练样本集建立分类器,方法有很多,常见的有概率分类、贝叶斯回归分析、决策树分类器、决策规则分类器、Rocchio分类器、神经网络分类器、支持向量机(SVM)、分类器融合、Boosting分类器、k最近邻方法(KNN)等。

研究文本聚类的最初目的是为了提高信息检索的查全率和查准率,近年来,文本聚类用于自动产生文本的多层次的类,并利用这些新生成的类对新文本进行效率较好的归类,已经提出了大量的文本聚类算法。传统的聚类算法在处理高维和海量文本时效率不很理想。针对这样的问题,将聚类分析与计算智能理论,并行计算、云计算等相结合,设计出高效的并行聚类算法,己经成为一个比较流行的研究思路。

在湖南农业知识云数据模型中,将能更好反映特征词相关性的超图模型引入,将文档中提取的特征项表示为图中节点,特征词条之间的关系构成图中边,用边上权值表示相关联特征项之间共现程度。通过对文本图模型K最近邻划分实现降维降噪的粗粒度数据切片;对切片后数据反映用户兴趣如地域、时间、诉求等多维度特征的智能聚类,实现细粒度的聚合与分割。

“农业知识聚合云”模型算法建立在基于MapReduce处理的大规模图上,得到各种知识块静态和动态元数据。

1.2.3 推荐算法

推荐算法是整个推荐系统中核心部分,大量的论文和著作都关注了这个方面。目前,基本包括以下几种:基于内容过滤推荐、协同过滤推荐、基于关联推荐、基于知识推荐、基于效用推荐、基于网络结构推荐、基于聚类推荐、基于社会网络分析推荐、混合型推荐等。通过对众多推荐算法进行比较分析,各种算法都有优缺点(如表1):

各种推荐方法都有各自的优缺点,在实际问题中采用多种策略进行混合推荐,主要有两种混合思路:推荐结果混合和推荐算法混合。目前大部分的推荐算法都是混合推荐算法,主要还是以协同理论为核心,再配合其他算法的优点或交叉学科的理论来改善推荐的质量。另外基于社会网络个性化推荐算法研究是一个趋势,基于社会网络的推荐是协同过滤的延伸,通过考察结点之间(用户和用户之间或产品之间)的相关性和结点之间的信任度可以获得比一般协同推荐更高推荐效果,如文献提出将社会网络关系结合到推荐算法中。纵观国内外在推荐算法上的研究,主要集中在基于用户显性评分数据的协同过滤算法上,对基于非显性评分行为数据场景下的研究却显得有点不足。目前在扩展性问题上学术研究不是很具有针对性,主要集中在通过各种交叉学科中的方法来对用户进行聚类或对行为数据进行降维、压缩等缩短推荐的项目集或减少计算量,从而提升算法的性能;有关基于云平台上的推荐算法研究目前主要集中于协同过滤算法MapReduce化。而实际应用中,己出现利用分布式集群解决算法扩展性方法,如Google News的推荐算法就是部署在分布式环境下,从而满足海量数据下的推荐服务。

根据农业云大数据自组织区域推送实际情况将推荐结果和推荐算法混合,提出“三层推荐”策略:在丰富的知识块云元数据基础上,将知识块属性和用户兴趣行为基于频繁模式的知识关联撮合推荐;通过复杂网络聚类算法识别一个用户多个社区兴趣,融合“兴趣图”和“社交图”协同过滤推荐,突破算法推荐的局限性,让用户信任的朋友圈子为其发现和推荐内容,取得社交推荐的时效性和算法推荐的长尾性之间的互补,从而针对每个社区成员提供精准个性化推荐;根据基础设施服务供应商、用户所在的地理位置以及用户对服务可用性评价值的相似性等,将大量用户云终端聚类为一定数量的社区,提高云端推送服务的有效性,最终形成通过大众参与,支持云间变换,集电信网、广播电视网、互联网合一的自组织区域推送,较有效地处理一般推荐算法中存在的稀疏性、冷启动以及大规模实时计算的问题。

1.2.4 云计算下个性化数据挖掘

数据挖掘采用了多种领域中的思想,包括来自统计学的抽样、估计、假设检验以及人工智能、模式识别和机器学习的搜索算法、建模技术和学习理论。随着数据挖掘的不断发展,也采用了包括最优化、进化计算、信息论、信号处理、可视化、信息检索、云计算、并行计算等技术。与传统的数据挖掘相比,云计算下的个性化数据挖掘的目标,就是通过云计算中心,向用户提供针对其即时演化需求的数据挖掘SaaS(Software as aService,软件即服务)服务,其基础问题主要为:对于用户不同的数据挖掘需求以及针对用户特点进行个性推荐的建模和表征;数据挖掘算法适应云计算的并行分布式化;使数据挖掘的结果和算法能够支持云间变换并形成一种面向用户、即时组合的、变粒度的云服务,其中数据挖掘的云服务化是研究的难点。

(1)云计算下个性推荐的建模和表征

云下的个性推荐建模和表征与传统上个性化推荐明显的不同在于海量异构大数据和用户间群体涌现的社交网络,它们本质上形成了多个顶点的大规模图。云计算可以为大规模个性化提供技术支撑,云服务本身也有大规模个性化定制应用需求,目前研究两者结合的文献还很少,张泽华从计算资源的角度基于复杂系统理论对云计算联盟体系结构进行建模,并基于蚁群优化算法和复杂系统理论进行了负载均衡研究;郭昱就有效处理客户需求信息该如何选择与分布云计算平台中的关键节点问题,提出了基于云计算的大规模定制客户需求模型。赵东杰对复杂网络、数据挖掘与群体智能有效结合进行了探索研究。农业云大数据自组织推送通过“农业知识聚合云”分解的静态、动态知识元数据和“农业用户兴趣社交云”形成的兴趣图、社交图基于用户行为和知识元数据的关联撮合,通过人工智能和社交圈子帮助用户发现内容,实现搜索和推荐的无缝结合,为智能个性化推荐实现“内容找人”愿景。

(2)算法并行分布式与高性能计算

对于大规模数据的处理,典型系统结构大致分为三类:基于MapReduce模型的分布式并行处理系统、基于BSP模型的分布式并行处理系统和分布式图数据库系统。数据挖掘算法现在的发展趋势是基于云计算的并行数据挖掘,它的同一个算法可以分布在多个节点上,多个算法之间是并行的,多个资源实行按需分配,而且分布式计算模型采用云计算模式,数据用DFS或者HBASE,编程模式采用MapReduce这种方式。Bhaduri等整理了一个十分详尽的并行数据挖掘算法文献目录,包含了关联规则学习、分类、聚类、流数据挖掘四大类分布式数据挖掘算法,同时还包括分布式系统、隐私保护等相关的研究工作。

2 基于云计算推荐系统研究的重点、难点与热点

2.1 云环境下用户偏好获取安全与可信问题

推荐系统中,用户数据集的数量和质量问题,影响用户模型的精确度、可用性,导致问题的根本原因在于用户对隐私和安全的考虑。而云环境下,数据的安全与隐私是用户非常关心的问题。既能得到准确用户信息而提高推荐系统性能,又能有效保护用户信息同时检测并能预防推荐攻击(一些不法的用户为了提高或降低某些对象的推荐概率,恶意捏造用户评分数据而达到目的)将是未来推荐系统的一个重要研究方向。

2.2 模型过拟合问题

过拟合现象是指系统推荐给用户的对象与用户刚刚看过的不是太相似或者太不相关。过拟合(过学习)的问题本质上来自于数据的不完备性,这在实际应用中是无法完全避免的。在于兴趣偏好获取方式或隐私等原因使用户没有对足够多类别的对象进行评价。目前解决的主要方法是引入随机性,使推荐算法收敛到全局最优或者逼近全局最优,关于既要保证推荐的多样性,又不能与用户看过的对象重复或毫不相关这一问题的研究是推荐系统研究的一个难点和重点。

2.3 稀疏性与冷启动问题

稀疏性和冷启动问题困扰推荐系统很长时间了,前者的解决办法主要过滤和降维。目前针对冷启动问题提出了一些解决方法,主要分为两大方面,一是直接利用传统协同过滤的评分数据结合特定的方法进行解决,二是新用户或新项目的内容属性信息与传统的协同过滤评分数据相结合的方法进行改善冷启动问题。稀疏性与冷启动问题一直是推荐系统研究的一个难点和重点。

2.4 数据挖掘的结果和算法智能服务化

将数据挖掘算法融入针对海量用户的使用记录和计算资源间协作进行优化组合,利用这些特性通过大众参与的交互作用,提高云间服务的智能性、有效性将是大数据时代推荐系统研究的一个制高点。将数据挖掘任务及其实现算法服务化,通过SaaS方式向云计算中心索取所需的相应的数据挖掘,这可能是目前突破数据挖掘专用软件使用门槛过高、普通大众难以触及、企业用户使用成本太大、挖掘算法和结果难以实时得到评价和相应修改等问题的最有希望的解决方案之一,也是数据挖掘走向互联网大众、走向实用化的重要的一步。

2.5 大数据处理与增量计算问题

目前对大数据的研究仍处于一个非常初步的阶段,半结构化和非结构化数据给传统的数据分析带来巨大挑战,尤其算法如何快速高效地处理推荐系统海量和稀疏的数据成为迫在眉睫的问题。当产生新的数据时,算法的结果不需要在整个数据集上重新进行计算,而只需考虑增量部分,对原有的结果进行微调,快速得到准确的新结果,是增量计算的理想状态。但一般而言,随着信息量的增多,算法的误差会累积变大,最终每过一段时间还是需要利用全局数据重新进行计算。一个特别困难的挑战是如何设计一种能够保证其误差不会累积的算法,也就是说其结果与利用全部数据重新计算的结果之间的差异不会单调上升,要达到这种程度,还有很长的路要走。

结束语:

随着新一代信息技术的快速发展和信息内容的日益增长,搭载在云计算平台的自组织区域推送具有它天然的优势:云的海量存储使得推荐系统能有效获取训练数据;云的分布式计算能力提供了较高的响应能力;海量用户的使用记录和计算资源问大众参与的交互涌现,最终形成自组织优化组合的智能个性化云推送。因此,农业云自组织区域推送具有重要的研究意义和广阔的应用前景,对云环境下其他领域的个性化推送应用具有借鉴意义,但目前存在大量问题需要进行深入细致的研究。

参考文献

[1]孟祥武,胡勋,王立才,张玉洁,移动推荐系统及其应用[J],软件学报,2013,24(1):91-108

[2]杨涛,基于本体的农业领域知识服务若干关键技术研究[D],上海:复旦大学计算机科学技术学院博士论文,2011,1-50

[3]杨晓蓉,分布式农业科技信息共享关键技术研究与应用[D],北京:中国农业科学院博士学位论文,2011,3-35

[4]赵春江,农业智能系统[M],北京:科学出版社,2009,1-210,

[5]何清,物联网与数据挖掘云服务[J],智能系统学报,2012,7(3):1-5,

[6]黄卫东,于瑞强,共享学习模式下知识服务云平台的构建研究[J],电信科学,2011,12:6-11

[7]丁静,杨善林,罗贺,丁帅,云计算环境下的数据挖掘服务模式[J],计算机科学,2012,39(6):217-219,237

[8]邓仲华,钱剑红,陆颖隽,国内图书情报领域云计算研究分析[J],信息资源管理学报,2012,2:10-16

[9]胡安瑞,张霖,陶飞,罗永亮,基于知识的云制造资源服务管理[J]同济大学学报(自然科学版),2012,40(7):1093-1101

[10]程功勋,刘丽兰,林智奇,俞涛,面向用户偏好的智能云服务平台研究[J],中国机械工程,2012,23(11):1318-1323,1336

[11]刘波,方逵,沈岳,可重构的农业知识服务模式研究[J]农机化研究,2011,36(11):66-70

[12]赵星,廖桂平,史晓慧,陈诚,李文圃,物联网与云计算环境下的农业信息服务模式构建[J],农机化研究,2012,4:142-147

[13]郭永田,中国农业农村信息化发展成效与展望[J],电子政务,2012,02-03:99-106

[14]李道亮,中国农业农村信息化发展报告(2011)[M],北京:电子工业出版,2012,87-150

[15]钱平,郑业鲁,农业木体论研究与应用[M],北京:中国农业科学技术出版社,2006,1-100

[16]吴丽花,刘鲁,个性化推荐系统用户建模技术综述[J],情报学报,2006,25(2):55-62

[17]李珊,个性化服务中用户兴趣建模与更新研究[J],情报学报,2010,29(1):67-71

[18]王国霞,刘贺平,个性化推荐系统综述[J],计算机工程与应用,2012,48(7):66-76

[19]王巧容,赵海燕,曹健,个性化服务中的用户建模技术[J],小型微型计算机系统,2011,32(1):39-46

软件杂志欢迎推荐投稿:http:///

[20]张华清,动态多维社会网络中个性化推荐方法研究[D],济南:山东师范大学硕士学位论文,2012,16-31

[21]丹,面向跨系统个性化服务的用户建模方法研究[J]_情报杂志,2012,31(6):156-161

[22]邓夏玮,基于社交网络的用户行为研究[D],北京:北京交通大学硕士学位论文,2012,4-43

[23]马尧,基于多维用户特征建模的个性化社交搜索引擎的设计与实现[D],广州:华南理工大学硕士学位论文,2012,12-55

[24]陈恩红,徐童,田继雷,杨禹,移动情景感知的个性化推荐技术[J],中国计算机学会通讯,2013,9(3):19-24

[25]Jong Hwa Kima,b,,Hyun JoonLeeb,Extraction of user profile based on workflow and information flow[J],Expert Systems with Applications,2012,39(5):5478-5487

[26]南智敏,钱松荣,引入漂移特性的用户兴趣模型优化研究[J],微型电脑应用,2012,28(3):30-32

[27]郭新明,弋改珍,混合模型的用户兴趣漂移算法[J],智能系统学报,2010,5(2):181-184

[28]程显毅,朱倩,文本挖掘原理[M],北京:科学出版社,2010,9-45 [29]李涛,推荐系统中若干关键问题研究[D],南京:南京航空航天大学博士学位论文,2009,31-80

[30]姜伦,模糊聚类算法及其在中文文本聚类中的研究与实现[D],哈尔滨:哈尔滨理工大学硕士学位论文,2010,18-48

[31]冯汝伟,谢强,丁秋林,基于文本聚类与分布式Lucene的知识检索[J],计算机应用,2013,33(1):186-188

[32]陶红,周永梅,高尚,一种基于语义相似度的群智能文本聚类的新方法[J]计算机应用研究,2012,29(2):482-532

[33]孟海东,刘小荣,基于聚类分析的图模型文档分类[J]计算机应用与软件,2012,29(1):117-174,229

[34]饶君,张仁波,东呈晓,吴斌,基于MapReduce的大规模图挖掘并行计算模型[J],应用科技,2012,39(3):56-60

[35]于戈,谷峪,鲍玉斌,王志刚,云计算环境下的大规模图数据处理技术[J],计算机学报,2011,34(10):1753-1767

[36]吕善国,吴效葵,曹义亲,基于网络结构的推荐算法[J]_实验室研究与探索,2012,31(7):278-280,368

[37]周佳,罗铁坚,一种基于内容关联的学术资源协同推荐算法[J],中国科学院研究生院学报,2013,30(1):117-123

[38]唐晓波,张昭,基于混合图的在线社交网络个性化推荐系统研究[J]情报理论与实践,2013,36(2):91-95

[39]王立才,孟祥武,张玉洁,上下文感知推荐系统[J],软件学报,2012,23(1):1-20

[40]刘建国,周涛,汪秉宏,个性化推荐系统的研究进展[J],自然科学通报,2009,19(1):1-15

[41]许海玲,吴潇,李晓东,阎保平,互联网推荐系统比较研究[J]软件学报,2009,20(2):350-362

[42]孙冬婷,何涛,张福海,推荐系统中的冷启动问题研究综述[J],计算机与现代化,2012,5:59-63

[43]张亮,基于聚类技术的推荐算法研究[D],成都:电子科技大学硕士学位论文,2012,7-18

[44]Liu, F.,Lee, H.J. Use of social network information to enhance collaborative filterinperformance.Expert[J] Systems with Applications. 2010, 37(7):4772-4778.

[45]Jiang, J., Lu, J., Zhang, G., Long, G. Scaling- Up Item-Based CollaborativeFiltering Recommendation Algorithm Based on Hadoop[C].2011 IEEE World Congress onServices.IEEE[A]. 2011, 490-497.

[46]周源,基于云计算的推荐算法研究[D],成都:电子科技大学硕士学位论文,2012,26-64

[47]吕雪骥,基于云计算平台的智能推荐系统研究[D],合肥:安徽大学硕士学位论文,2012,25-43

[48]刘晨,改进的聚类挖掘算法对网络自助出版“长尾”文本的推荐应用[D],上海:复旦大学硕士学位论文,2011,10-19

[49]陈桂生,张海粟,刘玉超,云计算下的个性化数据挖掘服务[EB/OL],[2011-2-28]中国人工智能学会通讯,http://www,/contents/50/119,html

[50]张泽华,云计算联盟建模及实现的关键技术研究[D],昆明:云南大学博士学位论文,2012,26-114

[51]郭昱,吴清烈,基于云计算的大规模定制客户需求响应模型及其节点的选择与分布[J],系统工程理论与实践,2011,31(增刊2):1-6

[52]赵东杰,张海粟,韩言妮,杨海涛,何宇,基于网络化数据挖掘的群体智能研究方法[C],Proceedings of 2010 The 3rdInternational Conference on Computational Intelligence andIndustrial Application(Volume 9).IEEE[A].2010,239-243.

[53]AnandRajaraman,Jeffrey David Ullman著,王斌译,互联网大规模数据挖掘与分布式处理[M],北京:人民邮电出版社,2012,1-253

[54]Bhaduri K, Das K, Liu Kun, et al. Distributed data mining bibliography[EB/OL]. [2011-01-03]. http:// cs. umbc. edu/~hillol/DDMBIB/

[55]杨健,汪海航,王剑,俞定国,云计算安全问题研究综述[J],小型微型计算机系统,2012,33(3):472-479

篇10

关键词:数据挖掘 客户关系管理 企业发展

企业管理中客户关系的管理必不可少,并且良好的管理有利于企业发展,有利于企业获取更大的财富,有利于企业实现自己的价值,所以保障对企业客户关系的管理。数据挖掘技术就是一个可以帮助企业对客户关系进行有效的管理的工具。

一、数据挖掘和客户关系管理含义

数据挖掘技术(Data Mining可以简称为DM),简单来说,就是一种把隐藏在大型数据库或者数据仓库中所需要的有用信息提取出来的新技术,这是一个对数据库进行研究的非常有价值的领域。数据挖掘技术可以帮助用户从数据库中准确的提取出有用的商业信息,为用户在进行决策时提供重要的支持。

客户关系管理(Customer Relationship Management可以简称为CRM),也有人称之为“顾客关系管理”,关于客户关系管理的定义,目前有两种说法:一,最早的Gartner Group定义为一种商业策略,就是把客户进行分类,并依据分类情况来对企业的资源进行有效的组织,进而企业的业务流程实施以及经营活动都要以客户为核心来进行,以此来提高企业的盈利能力以及客户满意度,取得最大利润;二、是由CRMguru.com给出的定义,客户关系管理就是一个在企业的营销、销售以及服务的业务范围内,把企业现有的客户以及潜在客户,还有业务伙伴多渠道进行管理的过程,或者说技术。

二、数据挖掘在客户关系管理中的应用

随着社会经济的不断发展,市场竞争力也在逐步的增大,商家想要获得最好的利益,就必须对市场的变化迅速的做出反应,能够引起市场变化的重要因素就是客户需求的变化,也就是说,企业必须集中注意力,观察客户需求的每一变化,并把这些资料收集在一起,作为企业发展的宝贵资源进行管理。在企业管理客户信息的过程中,就需要应用到了数据挖掘技术。

数据挖掘技术在客户关系管理中的应用过程中,主要方法有:神经网络法、遗传算法、决策树法、粗糙决算法以及可视化技术、K—最近邻技术等,每个公司的客户关系不同、需求也不同,所以要用到的方法也不同。

数据挖掘技术主要应用于客户关系管理中的这几个方面:(1)挖掘新客户,数据挖掘技术可以对现有的客户信息和市场环境进行统计总结以及归纳,准确的确定潜在客户以及市场目标。因为数据挖掘技术具有统计、聚类和关联的作用,比如说,数据挖掘技术在数据库中发现了这样一个信息“某客户在购买A商品之后,过了一段时间又购买了B商品,最后还购买了C商品”那么数据挖掘技术就会通过次序关联,把这个信息形成“A—B—C”的行为模式。(2)可以保持优质客户。现在社会竞争相当激烈,企业客户更是企业发展的重要因素,优质客户对每个企业来说就更加的重要。数据挖掘技术可以对数据库中的流失客户信息进行分析,并且对流失客户的特征进行准确的描述,然后利用关联、近邻的方式对整个数据库中的消费客户信息进行分析,分析出容易流失的客户,随后就需要采取相应的措施来减少这些客户的流失,尤其是那些可能流失的优质客户,更要采取有力的措施来进行挽留。(3)可以提升客户价值。目前提升现有客户的价值的方式有两个:一是提供特色服务或者产品;二是销售新产品或者服务。想要准确的提升客户价值,就需要数据挖掘技术的帮助了,他可以把之前的客户信息研究分析,并依据新产品或者服务的特征,发现和客户的已购买产品之间的关联,因而准确的找到具有最大购买趋势的客户。

三、加强客户关系管理中数据挖掘的意义

应用数据挖掘技术对客户关系进行管理,可以有效的提高企业的核心竞争力,现代社会的激烈竞争,也就是对客户的竞争,数据挖掘技术对企业的客户关系进行详细的分析,并为企业提供有价值的商业信息,为企业的重大决策提供了重要的参考依据,进而有力的提高了企业的核心竞争力;可以有力的增强企业的执行力,利用信息技术对客户关系进行管理,降低成本,并简化执行任务,有效的实现了资源共享,大力的提高了企业的自动化水平,企业职工的执行能力也进一步得到了提高,也就是增强了企业的执行力[3];可以为企业的下一步战略发展提供帮助,数据挖掘技术对现今的市场环境进行分析,可以预测到每个业务的发展状态,以及每个业务与发生过的商业行为之间的关系,有了这些信息,可以准确的制定企业未来的发展战略,并且可以制定与市场环境相适应的营销策略。

综上所述,目前数据挖掘技术是企业进行客户关系管理的最有效的工具,准确的掌握了客户信息,就是准确的把握了市场需求,可以为企业制定完全适应于市场的发展方向。数据挖掘技术的关键作用就是找出潜在客户,保留忠诚客户,并利用企业有限的资源,对这些客户提供最好的服务,促进企业的不断发展。

参考文献:

[1]张荣耀.基于数据挖掘的客户关系管理研究[D].武汉理工大学, 硕士学位论文,2004,11