2016商务智能方法与应用课程设计报告
1背景
为了解某市规模以上工业企业创新情况,对该市企业的创新活动进行调查,分别得出三组数据testl(企业财务情况:uid=唯一编码,total_Rdeq=R&.D人员折合全时当量合计,totaLRdin=R&D经费内部支出合计,totalF_Rdout=R&D经费外部支出合计)、test2(企业信息化情况:uid=唯一编码,IT_staff=从事信息技术工作的人员,website_num=企业拥有的网站数量)、test3(企业创新情况:uid=唯一编码,ls_innov=企业是否创新)。利用关联规则、分类、聚类等一系列数据挖掘方法对数据进行分析,可以得出该市创新企业的隐藏特征,进而帮助企业进行研发决策,实现企业创新目标。
2分析工具
R 3.3.1
Weka 3.6.8
3数据预处理 R语言
R语言中可以利用函数merge 通过一个或多个共有变量联结两个数据集,可用?merge或help(merge)查看该函数的说明文档。
4缺失值处理 R语言
R语言中用函数is.naG函数查看数据集中是否存在缺失值,本例中利用0替代缺失值,在其他情况下进行数据清洗时,缺失值处理需要结合变量本身意义视情况来选择处理方法(删除、替换等)。
Weka
weka中也可以进行数据的缺失值处理:
weka.fiIters.unsupervised.attribute.ReplaceMissingValues。对于数值属性,用平均值代替缺失值,对于nominal属性,用它的mode(出现最多的值)来代替缺失值。本例中的缺失值更适用利用0替代缺失值,利用平均值替代可能会影响后续挖掘结果。Weka中还可以进行数据标准化(standardize):类weka.filters.unsupervised.attribute.Standardize。标准化给定数据集中所有数值属性的值到一个0均值和单位方差的正态分布。
数据规范化(Nomalize):类weka.filters.unsupervised.aUribute.Normalize。规范化给定数据集中的所有数值属性值,类属性除外。结果值默认在区间[0,1],但是利用缩放和平移参数,我们能将数值属性值规范到任何区间。如:但scale=2.0,translation=-1.0时,可以将属性值规范到间[-1,+1]。
异常值检测 (1)R语言
R语言中实现异常值检测方法有很多种,既可以利用箱线图进行离群点的识别,也可以利用聚类方法找出异常值。在这里介绍利用简单的箱线图检测异常点的方法(即通过boxplot.statsQ函数得到异常值列表),聚类方法将会在后续实验中进行
数据离散化
关联规则分析要求处理变量的类别为布尔型或数值型,其数值型变量的取值不能过多,因此要求我们首先对定量变量进行离散化处理。常用的离散化方法有分箱离散化、基于熵的离散化、基于卡方的离散化,这里采用ChiMerge(基于卡方的离散化)方法。
由于各变量之间的数值分布特征不同,因此对不同变量进行单独离散化,利用对参数a lp h a取值的控制,划分出合理的区间个数。disc$D isc.data可得出离散化后的数据,最后通过cbindG函数两两合并各个变量的离散化结果。
(2)Weka
导入数据。在图的界面中单击Explore按钮出现如图的界面
点击“Open file”导入数据文件,如图所示,导入数据后可移除uid
单
击
“
choose
”
按
钮
,
并
选
择
filters-unsupervised-attribLite-DiscretizeC无监督离散化)。
Choose后文本框出现\的文字,单击文本框可以改变参数。
单击M ore可了解各参数的含义以及设置方法。其中attributelndices输入框指定要进行
离散化的属性的顺序号,first代表第一个属性,last代表最后一个属性,其他属性用数字代表。Bins后的文本框可对间隔的个数进行设置。useEqualFrequency的选项为False,即采用等间隔的离散化方法,若改为T m e则为等频率方法。设置好后单击o k返回主界面,点击apply进行离散化。离散化结束后,单击Edit按钮,查看离散化后的数据结果如图
百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,免费范文网,提供经典小说综合文库r语言商务智能方法与应用课程设计报告 附数据代码在线全文阅读。
相关推荐: