分类与预测培训教材(PPT 72页)

分类与决策树概述
ID3、C4.5与C5.0
CART
主要内容
分类 VS. 预测
分类和预测---示例
数据分类——一个两步过程 (1)
数据分类——一个两步过程 (2)
第一步——建立模型
第二步——用模型进行分类
监督学习 VS. 无监督学习
数据预测的两步过程
3.1 决策树概述
3.2 ID3、C4.5与C5.0
信息熵计算举例
决策树归纳策略 (1)
决策树归纳策略 (2)
属性选择度量
信息增益 (1)
信息增益 (2)
以“年龄”作为分裂属性，所得信息增益最大。
ID3的主要缺点
连续属性的处理
处理有缺失值的样本
3.2.4   C5.0算法
C5.0的优点
举例：在Clementine中应用C5.0
数据流如下：
一、建立模型
具体设置
执行结果
二、预测结果
三、C5.0模型评价
3.3 CART
三个步骤
3.3.1 生成最大树
杂度
吉尼指标
杂度削减
计算杂度削减
停止准则
树的修剪
树的修剪过程
子树评估
3.3.4 在Clementine中应用CART
数据流
建   模
分类结果
..............................