决策树算法

一:决策树算法的基本思想

1)树以代表训练样本的单个结点开始。2)如果样本都在同一个类.则该结点成为树叶,并用该类标记。3)否则,算法选择最有分类能力的属性作为决策树的当前结点.4)根据当前决策结点属性取值的不同,将训练样本数据集tlI分为若干子集,每个取值形成一个分枝,有几个取值形成几个分枝。匀针对上一步得到的一个子集,重复进行先前步骤,递4'I形成每个划分样本上的决策树。一旦一个属性出现在一个结点上,就不必在该结点的任何后代考虑它。5)递归划分步骤仅当下列条件之一成立时停止:①给定结点的所有样本属于同一类。②没有剩余属性可以用来进一步划分样本.在这种情况下.使用多数表决,将给定的结点转换成树叶,并以样本中元组个数最多的类别作为类别标记,同时也可以存放该结点样本的类别分布,③如果某一分枝tc,没有满足该分支中已有分类的样本,则以样本的多数类创建一个树叶。

二:目前比较流行的决策树算法有哪些

ID3算法,最简单的决策树

c4.5 是最经典的决策树算法,选择信息差异率最大的作为分割属性。

CART算法,适合用于回归

三:决策树算法是按什么来进行分类的

决策树算法是一种逼近离散函数值的方法。它是一种典型的分类方法,首先对数据进行处理,利用归纳算法生成可读的规则和决策树,然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。

决策树方法最早产生于上世纪60年代,到70年代末。由J Ross Quinlan提出了ID3算法,此算法的目的在于减少树的深度。但是忽略了叶子数目的研究。C4.5算法在ID3算法的基础上进行了改进,对于预测变量的缺值处理、剪枝技术、派生规则等方面作了较大改进,既适合于分类问题,又适合于回归问题。

决策树算法构造决策树来发现数据中蕴涵的分类规则.如何构造精度高、规模小的决策树是决策树算法的核心内容。决策树构造可以分两步进行。第一步,决策树的生成:由训练样本集生成决策树的过程。一般情况下,训练样本数据集是根据实际需要有历史的、有一定综合程度的,用于数据分析处理的数据集。第二步,决策树的剪枝:决策树的剪枝是对上一阶段生成的决策树进行检验、校正和修下的过程,主要是用新的样本数据集(称为测试数据集)中的数据校验决策树生成过程中产生的初步规则,将那些影响预衡准确性的分枝剪除。

四:决策树算法的时间复杂度

算法结束时便是 i==N了, 而i的增长通向是 i=2^M =N, M是你循环了多少次,因而 M=LogN. 算法时间复杂度为 O(LogN)

五:基于决策树算法进行数据挖掘对数据类型的要求是什么?

你是说对样本是嘛?看你用决策树来干嘛?如果是分类的话,一般进行离散化,也就是每个feature的值属于某几种,如果是回归预测的话,则直接使用原来的值~

六:决策树算法和神经网络算法哪个难

不是很清楚题主所说的难具体指什么

如果题主指应用算法解决实际问题的话 决策树要简单一些 有很多封装的很好的decision tree的包,比如CART,C4.5等等 而神经网络(NN)一般有大量参数需要手工设置和调节

如果题主指算法推导的难度的话 两个差不多吧 决策树的分裂方法可能稍微简单一下 NN的话用BP或者SGD的话都需要用chain rule求导

七:数据挖掘分类方法决策树可以分多类么

数据挖掘,也称之为数据库中知识发现是一个可以从海量数据中智能地和自动地抽取一些有用的、可信的、有效的和可以理解的模式的过程.分类是数据挖掘的重要内容之一.目前,分类已广泛应用于许多领域,如医疗诊断、天气预测、信用证实、顾客区分、欺诈甄别. 现己有多种分类的方法,其中决策树分类法在海量数据环境中应用最为广泛.其原因如下:

1、决策树分类的直观的表示方法较容易转化为标准的数据库查询

2、决策树分类归纳的方法行之有效,尤其适合大型数据集.

3、决策树在分类过程中,除了数据集中已包括的信息外,不再需要额外的信息.

4、决策树分类模型的精确度较高. 该文首先研究了评估分类模型的方法.在此基础上着重研究了决策树分类方法,并对决策树算法的可伸缩性问题进行了具体分析,最后给出了基于OLE DB for DM开发决策树分类预测应用程序.

八:决策树CART算法优点和缺点

CART的全称是分类和回归树,既可以做分类算法,也可以做回归。

决策树的优缺点:

优点:

1.可以生成可以理解的规则。

2.计算量相对来说不是很大。

3.可以处理连续和种类字段。

4.决策树可以清晰的显示哪些字段比较重要

缺点:

1. 对连续性的字段比较难预测。

2.对有时间顺序的数据,需要很多预处理的工作。

3.当类别太多时,错误可能就会增加的比较快。

4.一般的算法分类的时候,只是根据一个字段来分类。

九:芝麻长出胚芽后能否继续食用 5分

可以,在南方,叫芝麻菜

十:决策树的优缺点是什么啊

百度可知

参考资料:baike.baidu.com/...wtp=tt

扫一扫手机访问

发表评论