Ultralytics YOLO27: 加入候补名单。
获取 YOLO 许可
活动

借助 Hugging Face 的 Transformer 推动开源计算机视觉发展

回顾 Merve Noyan 在 YOLO Vision 2023 上关于使用 Hugging Face 开展开源计算机视觉的演讲:迁移学习、视觉 Transformer 和 Transformers API。

Nuvola LadiNuvola Ladi3 分钟阅读
借助 Hugging Face Transformers 开展开源计算机视觉

随着我们继续回顾 YOLO VISION 2023 (YV23) 活动的精彩内容,让我们认识 Hugging Face 的开发者倡导工程师 Merve Noyan。Hugging Face 是领先的 NLP 平台,提供预训练模型,助力高效开发语言应用。Merve 在演讲中分享了她对开源计算机视觉领域的见解。

以下是她关于迁移学习、Transformer 和开源计算机视觉生态系统的演讲回顾。

揭开迁移学习的面纱:快速回顾#

Merve 以迁移学习的简要介绍开场。迁移学习是一种将知识从一个神经网络迁移到另一个神经网络的技术。可以想象,先在早期层训练模型学习边缘和角点等通用特征,然后针对特定任务对模型进行微调。这正是迁移学习的核心,它能够减少对数据的依赖并提高准确率。

Merve 介绍了 ResNet 和 Inception 等经典卷积骨干网络,为随后登场的 Transformer 模型作了铺垫。

走进 Transformer:揭开谜题#

Transformer 有什么特别之处?Merve 用一个谜题来打比方,展示了它们与传统卷积模型的不同之处。Transformer 的一项关键优势在于能够进行自监督学习,无需标注数据即可提取特征。她介绍的 Transformer 模型包括 Vision Transformer、数据高效图像 Transformer(DeiT)、CLIP 和 Swin Transformer。

Ultralytics 还支持一款用于目标检测的 Transformer 模型:RT-DETR。该模型具有高效的混合编码器、IoU 感知查询选择机制,以及可调节的推理速度。值得注意的是,它遵循其他 Ultralytics YOLOv8 模型熟悉的使用模式,提供预测、训练、验证和导出选项。

一站式解决方案#

随后,Merve 介绍了 Hugging Face 提供的资源:其平台拥有 8,000 多个用于经典计算机视觉任务的模型,以及 10,000 个用于多模态应用的模型。Hugging Face Hub 托管着 3,000 多个数据集,是开发者和爱好者都能受益的实用资源。Merve 强调,得益于 Hugging Face 一致的 API,用户体验十分顺畅,而且能针对各种使用场景获取开箱即用的模型。

用 Hugging Face 动手实践#

演讲接着转向实践演示,展示了使用模型是多么简单。从实例化模型和处理器,到使用 Trainer API 微调,Merve 清楚地表明,Hugging Face Transformers 库是以开发者为中心设计的。她还介绍了自己特别喜欢的 Pipeline API,它简化了用户的工作流。

Merve Noyan 在马德里举办的 Ultralytics YOLO Vision 2023 上演示目标检测流水线幻灯片

图 1. Merve Noyan 在马德里 Google for Startups 园区的 YV23 活动上演讲。

应用一览#

Merve 在演讲结束时介绍了一些应用,包括视觉问答模型、用于图像描述的 BLIP,以及用于图像分割的 Segment Anything Model。Hugging Face 生态系统的 Pipeline API 成为焦点,让你无需深入了解技术细节,就能轻松使用模型。

压轴环节是 Merve 展示如何用扩散模型制作视觉错觉,这一引人入胜的体验为 AI 世界增添了趣味。

简单来说!#

总的来说,Merve 的演讲激励我们进一步探索开源计算机视觉的能力。Hugging Face 让 AI 更易于使用,也更有趣,帮助开发者将想法付诸实践。期待开源社区的未来,以及它将带来的创新!

观看 Hugging Face 计算机视觉演讲完整版!

作者

Nuvola Ladi
Nuvola Ladi

数字内容经理 · Ultralytics

Nuvola Ladi 是 Ultralytics 的数字内容经理,负责创作涵盖视觉 AI 和 Ultralytics YOLO 的内容,并代表公司参加 PyTorch Conference 2025 等行业活动。她常驻西班牙,拥有 IE University 的视觉与数字媒体硕士学位。加入 Ultralytics 之前,她曾在 XVA Gallery & Hotel 和 Rolex 等机构任职。

评论

提出问题、分享你的结果,或帮助其他人。

探索解决方案

体育领域的计算机视觉

体育领域的计算机视觉

了解 Ultralytics YOLO 如何通过球员和球追踪、表现分析、教练洞察及运动员康复,推动体育视觉技术的发展。
了解详情
航空影像计算机视觉

航空影像计算机视觉

使用 Ultralytics YOLO 将无人机和航空影像转化为农业、水产养殖、保护工作和地理空间分析的实时洞察。
了解详情
航空航天中的计算机视觉

航空航天中的计算机视觉

使用 Ultralytics YOLO 将计算机视觉应用于航空航天领域,包括飞机检查、跑道 FOD 检测、机场地面作业和复合材料缺陷检测。
了解详情
安防领域的计算机视觉

安防领域的计算机视觉

使用 Ultralytics YOLO 模型守护每个场所。视觉 AI 可用于周界监控、威胁检测、车牌识别和工作场所安全。
了解详情
机器人领域的计算机视觉

机器人领域的计算机视觉

使用 Ultralytics YOLO 模型提升智能机器的能力。机器人领域的视觉 AI 可用于自主导航、感知、目标跟踪和实时控制。
了解详情
物流中的计算机视觉

物流中的计算机视觉

借助 Ultralytics YOLO 模型优化物流流程。视觉 AI 可用于包裹检查、分拣、车辆跟踪和仓库安全实时监控。
了解详情
零售中的计算机视觉

零售中的计算机视觉

借助 Ultralytics YOLO 模型重新构想零售。视觉 AI 可用于库存跟踪、货架监控、排队管理和更深入的客户洞察。
了解详情
医疗领域的计算机视觉

医疗领域的计算机视觉

借助 Ultralytics YOLO 模型构建医疗解决方案。医疗领域的视觉 AI 可加快医学影像处理、优化诊断并监测患者。
了解详情
制造业中的计算机视觉

制造业中的计算机视觉

利用 Ultralytics YOLO 模型优化制造流程。视觉 AI 可用于质量控制、缺陷检测、个人防护装备合规检查和装配线自动化。
了解详情
汽车领域的计算机视觉

汽车领域的计算机视觉

利用 Ultralytics YOLO 模型在汽车领域应用计算机视觉。视觉 AI 可提升道路安全、驾驶辅助和车辆自动化水平,让道路更智能。
了解详情
农业中的计算机视觉

农业中的计算机视觉

借助 Ultralytics YOLO 模型,将视觉 AI 引入智慧农业。为作物监测、牲畜追踪和精准农业提供支持,从而提高产量并实现更智能的生产。
了解详情

让我们携手构建 AI 的未来!

开启你的旅程,迎接机器学习的未来