基于邻居规则的分类算法课件.pptx

1、敬烜基于邻居规则的分类算法LOGO1目录1234常见分类器算法CRN算法原理算法结果比较算法不足21决策树分类器3决策树通过把实例从根节点排列到某个叶子节点来分类实例。叶子节点即为实例所属的分类树上每个节点说明了对实例的某个属性的测试节点的每个后继分支对应于该属性的一个可能值下图即为一颗决策树 对于每一个输入例如(男，10，北京)、（女，30，成都），遍历这棵树 都能得到结果。1根据天气情况决定是否外出的决策树4上面的决策树对应下面的表达式15怎么建立这棵树？构造一棵决策树要解决的4个问题；（1）收集待分类的数据，这些数据的所有属性应该是完全标注的。（2）设计分类原则，即数据的哪些属性可以用来

2、分类，以及如何将该属性量化。（3）分类原则的选择，在众多的分类准则中，每一步选择哪一准则是最终的树更令人满意。（4）设计分类停止条件。通用分类目标是整棵树的熵的总量最小。1决策树之ID3算法6ID3的思想自顶向下构造决策树从“哪一个属性将在树的根节点被测试”开始使用统计测试来确定每一个实例属性单独分类训练样例的能力ID3的过程分类能力最好的属性被选作树的根节点根节点的每个可能值产生一个分支训练样例排列到适当的分支重复上面的过程ID3中衡量属性分类能力的标准信息增益 熵),(ASGain)(SEntropy1神经网络7神经网络或者称作连接模型，它是一种模范动物神经网络行为特征，进行分布式并行信息

3、处理的算法数学模型。1人工神经网络模型8 神经网络是基于经验风险最小化原则的学习算法，有一些固有的缺陷，比如层数和神经元个数难以确定，容易陷入局部极小，还有过学习的现象，这些本身的缺陷在算法中可以得到很好地解决1人工神经网络模型9神经网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。(a)简单的前向神经网络 (b)具有反馈的前向神经网络 (c)具有层内互联的神经网络1贝叶斯分类器10贝叶斯分类算法是一种利用概率统计学的知识进行分类的算法。贝叶斯分类算法Naive bayesTANBANGBN在通常情况下,Naive bayes分类算法的分类准确度和速度是可

4、以与神经网络或者决策树的效果相提并论的,且对于大型的数据库该算法也可以表现得很好。1朴素贝叶斯分类器11朴素贝叶斯分类器朴素贝叶斯分类器建立在一个类条件独立性假设(朴素假设)基础之上：给定类结点(变量)后，各属性结点(变量)之间相互独立。2基于邻居规则的分类122相关定义说明132相关定义说明142相关定义说明152相关定义说明162训练过程172训练过程182相关定义说明192相关定义说明202分类阶段的3个猜想212分类阶段222函数描述232算法复杂度分析243训练集信息25表中各个数据集均是非数值型数据，通过把数值型的属性均经过枚举化得到的。3各算法结果比较264算法不足272研究内容

5、及方法点击添加标题点击添加标题点击添加标题123点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本283实验创新及难度点击此处添加文本点击此处添加文本点击此处添加文本点击此处添加文本点击此处添加文本点击此处添加文本点击此处添加文本点击此处添加文本123点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本点击添加文本294进度安排及完成情况2013.082013.102013.122014.062014.102015.03请输入您要的内容请输入您要的内容请输入您要的内容请输入您要的内容请输入您要的内容请输入您要的内容30LOGO谢谢31