决策树

决策树是一种流行的且直观的机器学习 (ML)模型，它使用树状结构来进行预测。它的运作方式是将数据集分解为越来越小的子集，同时开发相关的决策树。最终结果是一棵具有决策节点和叶节点的树。决策节点表示特征或属性，分支表示决策规则，每个叶节点表示结果或类别标签。由于其结构类似于流程图，因此它是最容易理解和解释的模型之一，使其成为预测建模的基石。

决策树如何运作

构建决策树的过程包括基于不同属性的值递归地拆分训练数据。该算法选择最佳属性以在每个步骤中拆分数据，旨在使生成的子组尽可能“纯净”，这意味着每个组主要由具有相同结果的数据点组成。此拆分过程通常由 Gini 杂质或信息增益等标准指导，这些标准衡量节点中的无序或随机性水平。

树从包含所有数据的单个根节点开始。然后，它会拆分为决策节点，这些节点表示有关数据的问题（例如，“客户的年龄是否超过 30 岁？”）。这些拆分会一直持续到节点变为纯节点或满足停止条件（例如，最大树深度）。最终的、未拆分的节点称为叶节点，它们为到达它们的任何数据点提供最终预测。例如，叶节点可能会将交易分类为“欺诈”或“非欺诈”。这种可解释性是一个关键优势，通常在围绕可解释 AI (XAI)的讨论中突出显示。

实际应用

决策树用途广泛，可用于各个行业的分类和回归任务。

1. 医疗诊断中的人工智能: 可以使用决策树来创建初步的诊断模型。该模型将患者数据（如症状（发烧、咳嗽）、年龄和实验室结果）作为输入（特征）。然后，该树将遵循一系列决策规则来预测特定疾病的可能性。例如，一个分支可能基于患者是否发烧，然后是另一个关于咳嗽严重程度的分支，最终导致一个提示可能诊断的叶节点。这为医疗专业人员提供了一条清晰的、基于规则的路径。有关该领域的更多见解，请访问美国国家生物医学影像与生物工程研究所（NIBIB）。
2. 信用风险评估的金融服务： 银行和金融机构使用决策树来确定贷款资格。该模型分析申请人的数据，如信用评分、收入、贷款金额和就业历史。该树可能首先基于信用评分进行拆分。如果分数高，它会遵循一条路径；如果低，则遵循另一条路径。随后对收入和贷款期限的拆分有助于将申请人分类为低风险或高风险，从而影响贷款审批决策。此应用程序是人工智能在金融领域的核心部分。

与其他模型的关系

决策树是更复杂的集成方法的基础，这些方法通常能产生更高的准确率。

• 随机森林: 这种流行的模型在不同的随机数据和特征子集上构建多个决策树。然后，它聚合它们的预测（通过投票进行分类或通过平均进行回归），从而提高性能并使模型对过度拟合更具鲁棒性。
• 梯度提升树： 像 XGBoost 和 LightGBM 这样的模型是先进的集成技术，它们按顺序构建决策树，其中每个新树都纠正前一个树的错误。
• K-均值聚类：区分决策树和聚类算法非常重要。K-均值是一种无监督学习方法，用于对未标记的数据进行分组，而决策树用于监督学习，以根据标记的数据进行预测。
• 卷积神经网络 (CNN)：虽然决策树在处理表格数据方面功能强大，但对于像图像这样的高维数据效果较差。在计算机视觉中，通常使用CNN和Vision Transformers (ViT)等模型。诸如Ultralytics YOLO11之类的先进架构利用这些深度学习结构来执行复杂的任务，如目标检测、图像分类和实例分割。

理解诸如决策树之类的基础模型，有助于更全面地了解 人工智能 (AI) 的发展。诸如 Scikit-learn 之类的工具提供了决策树的常用实现，而 Ultralytics HUB 等平台则简化了高级视觉模型的开发和部署，以满足更复杂的使用场景。