决策树与模型评价课件(PPT 91页)

数据分类——一个两步过程 (1)
数据分类——一个两步过程 (2)
有监督的学习 VS. 无监督的学习
分类模型的构造方法
一个决策树的例子
决策树的另一个例子
用决策树归纳分类
决策树分类任务
应用决策树进行分类
决策树分类
决策树
Hunt 算法
Hunt算法
怎样为不同类型的属性指定测试条件?
基于标称属性的分裂
基于序数属性的划分
基于连续属性的划分
怎样选择最佳划分？
怎样找到最佳划分？
结点不纯性的测量
不纯性的测量: GINI
计算 GINI的例子
基于 GINI的划分
二元属性: 计算 GINI
标称属性:计算Gini
连续属性: 计算 Gini
连续属性: 计算 Gini...
熵---定义
基于 Information Gain的划分
计算 Entropy的例子
基于 Information Gain的划分...
基于 Classification Error的划分
例子
不纯性度量之间的比较
停止分裂过程
三种著名的决策树
子树重复问题
决策边界
斜决策树
模型过分拟合和拟合不足
模型模型过分拟合和拟合不足
导致过分拟合的原因
噪声导致的过分拟合（例子）
缺乏代表性样本导致的过分拟合
过分拟合与多重比较
泛化误差估计
结合模型复杂度
悲观误差评估
最小描述长度 (MDL)
使用确认集
处理决策树中的过分拟合
处理决策树中的过分拟合…
不平衡类问题
准确率的缺点
度量
ROC (Receiver Operating Characteristic)
使用ROC曲线比较模型
怎样产生ROC曲线
..............................