Ultralytics YOLO27: 加入候补名单。
获取 YOLO 许可
视觉 AI

高质量计算机视觉数据集的重要性

了解高质量数据对计算机视觉模型的重要性、优质数据集的特点、低质量数据如何导致过拟合,以及保持数据干净的技巧。

Abirami VinaAbirami Vina6 分钟阅读
了解高质量数据对计算机视觉模型的重要性、优质数据集的特点、低质量数据如何导致过拟合,以及保持数据干净的技巧。

截至 2019 年,企业人工智能(AI)采用率在此前四年间增长了 270%。这一增长推动了计算机视觉(CV)应用的快速集成。计算机视觉系统使机器能够解读和分析周围世界的视觉数据。这些应用为各种技术提供支持,从通过医学影像检测疾病、实现自动驾驶汽车,到优化交通运输中的交通流量、增强安全系统中的监控能力。

计算机视觉模型(如 Ultralytics YOLO11)在准确性和性能方面的领先表现推动了这一增长。然而,这些模型的性能在很大程度上取决于用于训练、验证和测试模型的数据质量和数量。

缺乏充足的高质量数据,计算机视觉模型就难以得到有效训练和微调,也难以达到行业标准。本文将探讨数据在创建计算机视觉模型中的重要作用,以及高质量数据为何对计算机视觉如此重要。我们还将介绍一些实用技巧,帮助你在训练自定义计算机视觉模型时构建高质量数据集。

数据在构建计算机视觉模型中的作用#

计算机视觉模型可以使用大型图像和视频数据集进行训练,以识别模式并做出准确预测。例如,目标检测模型可以使用数百甚至数千张带标注的图像和视频进行训练,从而准确识别目标。

训练数据的质量和数量会影响模型的性能。

计算机视觉模型只能从接触到的数据中学习,因此,提供高质量数据和多样化示例对模型的成功至关重要。如果数据集数量不足且缺乏多样性,这些模型可能无法准确分析真实场景,还可能产生有偏差或不准确的结果。

因此,清楚地了解数据在模型训练中的作用非常重要。在介绍高质量数据的特征之前,我们先来了解训练计算机视觉模型时可能会遇到的数据集类型。

计算机视觉数据集的类型#

在计算机视觉中,训练过程使用的数据分为三种类型,每种类型都有特定用途。下面快速了解一下:

  • 训练数据:这是从头开始训练模型所用的主要数据集。它由带有预定义标签的图像和视频组成,让模型能够学习模式并识别物体。
  • 验证数据:这是一组用于检查模型在训练过程中表现如何的数据。它有助于确保模型能在新的、未见过的数据上正常工作。
  • 测试数据:用于评估已训练模型最终性能的独立数据集。它用于检验模型在完全陌生、从未见过的数据上做出预测的能力。

计算机视觉中的数据分类方式

图 1。计算机视觉中的数据分类方式。

高质量计算机视觉数据集的五大特征#

无论数据集属于哪种类型,高质量数据对于构建成功的计算机视觉模型都至关重要。以下是高质量数据集的一些关键特征:

  • 准确性:理想情况下,数据应真实反映现实情况,并包含正确的标签。例如,在医疗保健领域应用视觉 AI 时,X 光片或扫描图像必须准确标注,才能帮助模型正确学习。
  • 多样性:优质数据集包含各种示例,帮助模型在不同情况下都能表现良好。例如,如果模型要学习检测汽车,数据集就应包含不同形状、尺寸和颜色的汽车,并涵盖各种场景(白天、夜间、雨天等)。
  • 一致性:高质量数据集遵循统一的格式和质量标准。例如,图像应具有相近的分辨率(不能有些模糊、有些清晰),并经过相同的预处理步骤,如调整尺寸或颜色,以便模型从一致的信息中学习。
  • 时效性:定期更新的数据集能够跟上现实世界的变化。假设你正在训练一个模型来检测所有类型的车辆。如果出现电动滑板车等新型车辆,就应将其添加到数据集中,确保模型保持准确和最新。
  • 隐私:如果数据集包含照片等敏感信息,就必须遵守隐私规则。通过匿名化(删除可识别身份的信息)和数据遮蔽(隐藏敏感部分)等技术,可以在安全使用数据的同时保护隐私。

低质量数据带来的挑战#

了解高质量数据的特征固然重要,但同样需要考虑低质量数据会如何影响你的计算机视觉模型。

过拟合和欠拟合等问题会严重影响模型性能。过拟合是指模型在训练数据上表现良好,但在新数据或未见过的数据上表现不佳,通常是因为数据集缺乏多样性。另一方面,欠拟合是指数据集提供的示例数量不足或质量不够,导致模型无法学习有意义的模式。为避免这些问题,必须保持数据集的多样性、公平性和高质量,确保模型在训练和真实应用中都能可靠地运行。

欠拟合与过拟合的对比

图 2。欠拟合与过拟合。

低质量数据也会让模型难以从原始数据中提取并学习有意义的模式,这一过程称为特征提取。如果数据集不完整、无关或缺乏多样性,模型就可能难以发挥有效性能。

有时,低质量数据源于对数据的简化。简化数据有助于节省存储空间并降低处理成本,但过度简化可能会删除模型正常运行所需的重要细节。因此,从数据收集到部署的整个计算机视觉流程中,保持数据的高质量至关重要。一般来说,数据集应包含必要特征,同时保持多样性和准确性,以支持可靠的模型预测。

了解特征提取

图 3。了解特征提取。

保持计算机视觉数据集质量的技巧#

了解了高质量数据的重要性以及低质量数据的影响后,接下来看看如何确保数据集达到较高标准。

一切始于可靠的数据收集。使用众包、不同地理区域的数据和合成数据生成等多样化来源,可以减少偏差,帮助模型应对现实场景。收集数据后,预处理至关重要。归一化可将像素值缩放到一致的范围,数据增强则会应用旋转、翻转和缩放等变换,这些技术能够丰富数据集。这些步骤有助于提升模型的泛化能力和鲁棒性,降低过拟合风险。

正确划分数据集也是关键步骤。一种常见做法是将 70% 的数据用于训练,15% 用于验证,15% 用于测试。仔细检查这些数据集之间是否存在重叠,可以防止数据泄漏并确保模型评估准确。

训练集、验证集和测试集的一种常见划分方式

图 4。训练集、验证集和测试集的一种常见划分方式。

你还可以使用预训练模型(例如 YOLO11),以节省时间和计算资源。YOLO11 在大型数据集上训练,专为各种计算机视觉任务设计,可以在你的特定数据集上微调,以满足你的需求。通过根据数据调整模型,你可以避免过拟合并保持出色的性能。

计算机视觉数据集的未来发展#

AI 社区历来专注于通过构建层数更多的深层模型来提升性能。然而,随着 AI 不断发展,关注重点正从优化模型转向提升数据集质量。Andrew Ng 认为:“AI 世界在这个十年中最重要的转变,将是转向以数据为中心的 AI。”

这种方法强调通过提高标签准确性、移除噪声示例并确保多样性来优化数据集。对于计算机视觉而言,这些原则对于解决偏差和数据质量低下等问题至关重要,能让模型在真实场景中可靠地运行。

展望未来,计算机视觉的发展将依赖于构建更小而高质量的数据集,而非收集海量数据。Andrew Ng 表示:“改进数据不是一次性的预处理步骤,而是机器学习模型开发迭代流程的核心部分。”通过关注以数据为中心的原则,计算机视觉将继续变得更加易用、高效,并在各行各业产生更大影响。

要点#

在视觉模型的整个生命周期中,数据都发挥着关键作用。从数据收集、预处理到训练、验证和测试,数据质量会直接影响模型的性能和可靠性。优先使用高质量数据并确保标注准确,我们就能构建稳健的计算机视觉模型,提供可靠且精准的结果。

迈向数据驱动的未来时,必须考虑伦理问题,以降低与偏差和隐私法规相关的风险。归根结底,确保数据的完整性和公平性,是释放计算机视觉技术全部潜力的关键。

加入我们的社区,并查看我们的 GitHub 代码仓库,了解更多 AI 相关内容。访问我们的解决方案页面,探索 AI 在农业和制造业等领域的更多应用。

作者

Abirami Vina
Abirami Vina

内容创作者 · Ultralytics

Abirami Vina 职业生涯始于计算机视觉工程师,由此在视觉 AI 和机器学习领域打下了坚实基础。她是 Ultralytics 的内容创作者,也是 Scribe of AI 的创始人兼首席撰稿人,为专注 AI 的公司撰写高质量技术内容。她热衷于让 AI 更易理解、更具吸引力,通过自己的作品连接前沿技术与现实影响。

评论

提出问题、分享你的结果,或帮助其他人。

探索解决方案

体育领域的计算机视觉

体育领域的计算机视觉

了解 Ultralytics YOLO 如何通过球员和球追踪、表现分析、教练洞察及运动员康复,推动体育视觉技术的发展。
了解详情
航空影像计算机视觉

航空影像计算机视觉

使用 Ultralytics YOLO 将无人机和航空影像转化为农业、水产养殖、保护工作和地理空间分析的实时洞察。
了解详情
航空航天中的计算机视觉

航空航天中的计算机视觉

使用 Ultralytics YOLO 将计算机视觉应用于航空航天领域,包括飞机检查、跑道 FOD 检测、机场地面作业和复合材料缺陷检测。
了解详情
安防领域的计算机视觉

安防领域的计算机视觉

使用 Ultralytics YOLO 模型守护每个场所。视觉 AI 可用于周界监控、威胁检测、车牌识别和工作场所安全。
了解详情
机器人领域的计算机视觉

机器人领域的计算机视觉

使用 Ultralytics YOLO 模型提升智能机器的能力。机器人领域的视觉 AI 可用于自主导航、感知、目标跟踪和实时控制。
了解详情
物流中的计算机视觉

物流中的计算机视觉

借助 Ultralytics YOLO 模型优化物流流程。视觉 AI 可用于包裹检查、分拣、车辆跟踪和仓库安全实时监控。
了解详情
零售中的计算机视觉

零售中的计算机视觉

借助 Ultralytics YOLO 模型重新构想零售。视觉 AI 可用于库存跟踪、货架监控、排队管理和更深入的客户洞察。
了解详情
医疗领域的计算机视觉

医疗领域的计算机视觉

借助 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可加快医学影像处理、优化诊断并监测患者。
了解详情
制造业中的计算机视觉

制造业中的计算机视觉

利用 Ultralytics YOLO 模型优化制造流程。视觉 AI 可用于质量控制、缺陷检测、个人防护装备合规检查和装配线自动化。
了解详情
汽车领域的计算机视觉

汽车领域的计算机视觉

利用 Ultralytics YOLO 模型在汽车领域应用计算机视觉。视觉 AI 可提升道路安全、驾驶辅助和车辆自动化水平,让道路更智能。
了解详情
农业中的计算机视觉

农业中的计算机视觉

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。为作物监测、牲畜追踪和精准农业提供支持,从而提高产量并实现更智能的生产。
了解详情

让我们携手构建 AI 的未来!

开启你的旅程,迎接机器学习的未来