c4.5是一系列用在机器学习和数据挖掘的分类问题中的算法。它的目标是监督学习：给定一个数据集，其中的每一个元组都能用一组属性值来描述，每一个元组属于一个互斥的类别中的某一类。c4.5的目标是通过学习，找到一个从属性值到类别的映射关系，并且这个映射能用于对新的类别未知的实体进行分类。
c4.5由j.ross quinlan在id3的基础上提出的。id3算法用来构造决策树。决策树是一种类似流程图的树结构，其中每个内部节点（非树叶节点）表示在一个属性上的测试，每个分枝代表一个测试输出，而每个树叶节点存放一个类标号。一旦建立好了决策树，对于一个未给定类标号的元组，跟踪一条有根节点到叶节点的路径，该叶节点就存放着该元组的预测。决策树的优势在于不需要任何领域知识或参数设置，适合于探测性的知识发现。
从id3算法中衍生出了c4.5和cart两种算法，这两种算法在数据挖掘中都非常重要。下图就是一棵典型的c4.5算法对数据集产生的决策树。
数据集如图1所示，它表示的是天气情况与去不去打高尔夫球之间的关系。
图1 数据集
图2 在数据集上通过c4.5生成的决策树
算法描述
c4.5并不一个算法，而是一组算法—c4.5，非剪枝c4.5和c4.5规则。下图中的算法将给出c4.5的基本工作流程：
图3 c4.5算法流程
我们可能有疑问，一个元组本身有很多属性，我们怎么知道首先要对哪个属性进行判断，接下来要对哪个属性进行判断？换句话说，在图2中，我们怎么知道第一个要测试的属性是outlook，而不是windy？其实，能回答这些问题的一个概念就是属性选择度量。
属性选择度量
属性选择度量又称分裂规则，因为它们决定给定节点上的元组如何分裂。属性选择度量提供了每个属性描述给定训练元组的秩评定，具有最好度量得分的属性被选作给定元组的分裂属性。目前比较流行的属性选择度量有–信息增益、增益率和gini指标。
先做一些假设，设d是类标记元组训练集，类标号属性具有m个不同值，m个不同类ci(i=1,2,…，m)，cid是d中ci类的元组的集合，|d|和|cid|分别是d和cid中的元组个数。
（1）信息增益
信息增益实际上是id3算法中用来进行属性选择度量的。它选择具有最高信息增益的属性来作为节点n的分裂属性。该属性使结果划分中的元组分类所需信息量最小。对d中的元组分类所需的期望信息为下式：
info(d)又称为熵。
现在假定按照属性a划分d中的元组，且属性a将d划分成v个不同的类。在该划分之后，为了得到准确的分类还需要的信息由下面的式子度量：
信息增益定义为原来的信息需求（即仅基于类比例）与新需求（即对a划分之后得到的）之间的差，即
我想很多人看到这个地方都觉得不是很好理解，所以我自己的研究了文献中关于这一块的描述，也对比了上面的三个公式，下面说说我自己的理解。
一般说来，对于一个具有多个属性的元组，用一个属性就将它们完全分开几乎不可能，否则的话，决策树的深度就只能是2了。从这里可以看出，一旦我们选择一个属性a，假设将元组分成了两个部分a1和a2，由于a1和a2还可以用其它属性接着再分，所以又引出一个新的问题：接下来我们要选择哪个属性来分类？对d中元组分类所需的期望信息是info(d) ,那么同理，当我们通过a将d划分成v个子集dj(j=1,2,…,v)之后，我们要对dj的元组进行分类，需要的期望信息就是info(dj),而一共有v个类，所以对v个集合再分类，需要的信息就是公式（2）了。由此可知，如果公式（2）越小，是不是意味着我们接下来对a分出来的几个集合再进行分类所需要的信息就越小？而对于给定的训练集，实际上info(d)已经固定了，所以选择信息增益最大的属性作为分裂点。
但是，使用信息增益的话其实是有一个缺点，那就是它偏向于具有大量值的属性。什么意思呢？就是说在训练集中，某个属性所取的不同值的个数越多，那么越有可能拿它来作为分裂属性。例如一个训练集中有10个元组，对于某一个属相a，它分别取1-10这十个数，如果对a进行分裂将会分成10个类，那么对于每一个类info(dj)=0，从而式（2）为0，该属性划分所得到的信息增益（3）最大，但是很显然，这种划分没有意义。
（2）信息增益率
正是基于此，id3后面的c4.5采用了信息增益率这样一个概念。信息增益率使用“分裂信息”值将信息增益规范化。分类信息类似于info(d)，定义如下：
这个值表示通过将训练数据集d划分成对应于属性a测试的v个输出的v个划分产生的信息。信息增益率定义：
选择具有最大增益率的属性作为分裂属性。
（3）gini指标
gini指标在cart中使用。gini指标度量数据划分或训练元组集d的不纯度，定义为：
其它特征
树剪枝
在决策树的创建时，由于数据中的噪声和离群点，许多分枝反映的是训练数据中的异常。剪枝方法是用来处理这种过分拟合数据的问题。通常剪枝方法都是使用统计度量，剪去最不可靠的分枝。
剪枝一般分两种方法：先剪枝和后剪枝。
先剪枝方法中通过提前停止树的构造（比如决定在某个节点不再分裂或划分训练元组的子集）而对树剪枝。一旦停止，这个节点就变成树叶，该树叶可能取它持有的子集最频繁的类作为自己的类。先剪枝有很多方法，比如（1）当决策树达到一定的高度就停止决策树的生长；（2）到达此节点的实例具有相同的特征向量，而不必一定属于同一类，也可以停止生长（3）到达此节点的实例个数小于某个阈值的时候也可以停止树的生长，不足之处是不能处理那些数据量比较小的特殊情况（4）计算每次扩展对系统性能的增益，如果小于某个阈值就可以让它停止生长。先剪枝有个缺点就是视野效果问题，也就是说在相同的标准下，也许当前扩展不能满足要求，但更进一步扩展又能满足要求。这样会过早停止决策树的生长。
另一种更常用的方法是后剪枝，它由完全成长的树剪去子树而形成。通过删除节点的分枝并用树叶来替换它。树叶一般用子树中最频繁的类别来标记。
c4.5采用悲观剪枝法，它使用训练集生成决策树又用它来进行剪枝，不需要独立的剪枝集。