《决策分析与决策树算法优化》针对决策技术中的决策树算法进行了深入分析和研究,与其他技术结合,提出了大量融合算法;创新性地借鉴了认知物理学的研究思想,借鉴认知物理的信息扩散理论讨论了参数波动变化时规则的取舍;借鉴这样的理论思想对传统的ID3算法进行了改进,在认知物理原有的信息熵的概念上提出了信息补偿,并在这种新的信息启发下,提出了基于信息补偿量的决策树生成算法CID3算法,有效地解决了ID3取值偏向多值属性的问题。
《决策分析与决策树算法优化》较完备地分析和整理了决策树与粗糙集的理论及其方法。由于ID3算法不能较好地处理带有不一致信息的数据集,这里选择了基于信息熵的属性约简进行数据预处理。由于经典的基于信息熵的属性约简算法的时间复杂度不太理想,而结合差别矩阵的方法通俗易懂,所以《决策分析与决策树算法优化》提出了一个新的基于信息熵的属性约简的差别矩阵算法。该算法的时间复杂度较以前算法的时间复杂度要小,用新算法预处理数据集,可以预先去除一些不重要的属性,从而可以生成简单易懂的决策树,提高决策树的泛化能力和预测能力。
《决策分析与决策树算法优化》在对数据进行预处理后,有效结合了决策树和粗糙集理论各自的优点,提出了基于粗糙边界的决策树优化算法。在该算法中,引入抑制因子,对即将扩张的结点,在常用的终止条件的基础上加入一个新的终止条件,这样不用通过剪枝就能生成一棵较合理的决策树,从而避免了树的过分细化而生成过于庞大的决策树,便于用户的理解,提高了决策树的泛化能力和对未来数据的分类、预测能力。
引言
1 绪论
1.1 决策树算法的概述
1.1.1 决策树基本算法
1.1.2 ID3算法的起源及概述
1.1.3 改进的ID3算法C4.5及决策树算法的改进
1.2 认知物理学的研究
1.2.1 认知论的发展和实践意义
1.2.2 认知物理学概述
1.2.3 借鉴物理学中的原子模型表示概念
1.2.4 借鉴物理学中的场描述客体间的相互作用
1.2.5 借鉴物理学中层次结构描述知识发现状态空间
1.3 粗糙集理论及其决策树生成算法概述
1.3.1 基本知识
1.3.2 属性约简及其规则获取
1.3.3 基于粗糙集的决策树生成算法
1.4 结语
2 基于认知物理学的决策树优化算法
2.1 基于语言场的知识表示方法
2.1.1 认知物理学的云理论
2.1.2 认知物理学的数据场思想
2.1.3 语言场与语言值结构
2.1.4 知识表示方法
2.2 借鉴信息扩散理论研究数据挖掘的后处理
2.2.1 认知物理中的信息扩散理论
2.2.2 信息扩散理论用于研究数据挖掘的后处理
2.3 借鉴信息扩散理论讨论参数波动变化时规则的取舍
2.3.1 参数演化规律的研究
2.3.2 参数波动变化时规则的取舍
2.4 基于信息补偿量的CID3算法
2.4.1 基于信息补偿量的分类器的构造
2.4.2 基于信息补偿量的CID3算法
2.4.3CID3算法与ID3算法的分析与比较
2.4.4 实例分析
2.5 结语
3 基于信息熵的属性约简算法的研究
3.1 基于粗糙集理论的属性约简算法
3.1.1 粗糙集理论的基本思想
3.1.2 常见的三种属性约简算法
3.2 理论分析与设计
3.2.1 基本知识
3.2.2 求简化决策表的算法
3.2.3 信息熵属性约简的差别矩阵方法
3.2.4 基于信息熵的差别矩阵的属性约简算法
3.3 结语
4 基于粗糙边界的决策树优化算法
4.1 传统决策树算法的不足
4.1.1 传统决策树剪枝的原因
4.1.2 构造多变量决策树的原因
4.1.3 基于粗糙集理论的决策树构造算法及其不足
4.1.4 基于可变精度的ID3改进算法
4.2 基于粗糙边界的决策树生成算法
4.2.1 基于粗糙边界的决策树生成算法概述
4.2.2 基于粗糙边界的决策树生成算法的不足
4.3 改进的基于粗糙边界的决策树优化算法
4.3.1 改进算法概述
4.3.2 实例分析
4.4 结语
5 改进基于正区域的决策树优化算法
5.1 基于正区域的决策树生成算法
5.1.1 基于正区域的决策树生成算法概述
5.1.2 基于正区域的决策树生成算法的不足
5.2 基于依赖度的决策树生成算法
5.2.1 基于依赖度的决策树生成算法概述
5.2.2 基于依赖度的决策树生成算法的不足
5.3 基于粗糙集的决策树生成算法比较
5.3.1 几种生成算法的相关分析
5.3.2 等价证明
5.3.3 基于正区域的决策树生成算法的详细分析
5.4 基于正区域的决策树优化算法
5.4.1 改进算法概述
5.4.2 实例分析
5.5 结语
6 基于关联规则的决策树优化算法
6.1 关联规则挖掘
6.1.1 关联规则挖掘概述
6.1.2 关联规则挖掘算法
6.1.3 关联规则挖掘研究现状
6.1.4 关联规则挖掘与其他领域的关系
6.1.5 关联规则挖掘工作的其他方向
6.2 基于关联规则的决策树的构造
6.2.1 新属性的生成
6.2.2 新属性的评价
6.2.3 基于关联规则的决策树优化算法
6.2.4 与相关分类方法的比较
6.2.5 实验验证
6.3 结语
结论与展望
参考文献