Разбираемся в обучении на малом количестве примеров, обучении без примеров и трансферном обучении

Системы искусственного интеллекта (AI) могут выполнять сложные задачи — распознавать лица, классифицировать изображения и управлять автомобилями — практически без участия человека. Для этого они изучают данные, распознают закономерности и используют их для прогнозирования или принятия решений. По мере развития ИИ мы наблюдаем, как модели ИИ всё более эффективно учатся, адаптируются и выполняют задачи.

Например, компьютерное зрение — это область ИИ, которая помогает машинам интерпретировать и понимать визуальную информацию об окружающем мире. Разработка традиционных моделей компьютерного зрения во многом опирается на большие размеченные датасеты для обучения. Сбор и разметка таких данных могут требовать много времени и средств.

Чтобы справиться с этими трудностями, исследователи предложили инновационные подходы: обучение на малом числе примеров (FSL), при котором модель учится на ограниченном количестве примеров; обучение без примеров (ZSL), позволяющее распознавать ранее не встречавшиеся объекты; и трансферное обучение (TL), при котором знания предварительно обученных моделей применяются к новым задачам.

В этой статье мы рассмотрим, как работают эти парадигмы обучения, выделим их ключевые различия и обсудим реальные примеры применения.

Обзор парадигм обучения#

Давай разберёмся, что такое обучение на малом числе примеров, обучение без примеров и трансферное обучение в контексте компьютерного зрения и как работают эти подходы.

Обучение на малом числе примеров#

Обучение на малом числе примеров — это метод, с помощью которого системы учатся распознавать новые объекты, используя всего несколько примеров. Например, если показать модели несколько изображений пингвина, пеликана и тупика, она поймёт, как выглядят эти птицы. Эта небольшая группа изображений называется «опорным набором».

Позже, если показать модели новое изображение, например пингвина, она сравнит его с изображениями из опорного набора и выберет наиболее похожее. Этот метод полезен, когда трудно собрать большое количество данных: система всё равно может учиться и адаптироваться всего на нескольких примерах.

Рис. 1 Обзор принципа работы обучения на малом числе примеров.

Обучение без примеров#

Обучение без примеров позволяет машинам распознавать объекты, которых они раньше не видели, и не требует примеров этих объектов. Для установления связей используются семантические данные, например описания.

Например, если модель научилась распознавать таких животных, как кошки, львы и лошади, освоив признаки вроде «маленький и пушистый», «крупная дикая кошка» или «вытянутая морда», она сможет использовать эти знания, чтобы определить новое животное, например тигра. Даже если модель раньше не видела тигра, она может правильно распознать его по описанию вроде «похожее на льва животное с темными полосами». Благодаря этому машинам проще учиться и адаптироваться без большого количества примеров. Детекторы с открытым словарем, такие как YOLOE, применяют ту же идею для обнаружения объектов, находя их только по текстовым запросам.

Рис. 2 Обучение без примеров позволяет распознавать новые объекты по описаниям.

Трансферное обучение#

Трансферное обучение — это парадигма обучения, при которой модель использует знания, полученные при решении одной задачи, чтобы справиться с похожей новой задачей. Этот метод особенно полезен для задач компьютерного зрения, таких как обнаружение объектов, классификация изображений и распознавание закономерностей.

Например, в компьютерном зрении предварительно обученная модель может распознавать общие категории объектов, например животных, а затем с помощью трансферного обучения её можно дообучить распознавать конкретные категории, например разные породы собак. Повторное использование знаний, полученных при решении предыдущих задач, упрощает обучение моделей компьютерного зрения на небольших датасетах и экономит время и силы.

Рис. 3. Обзор принципа работы трансферного обучения.

Интересно, какие модели поддерживают трансферное обучение? Ultralytics YOLO11 (позже ее сменила Ultralytics YOLO26) — отличный пример модели компьютерного зрения, которая умеет это делать. Это современная модель обнаружения объектов, предварительно обученная на большом универсальном наборе данных. Затем ее можно дообучить и обучить на пользовательских данных на меньшем специализированном наборе данных для конкретных задач.

Сравнение парадигм обучения#

Теперь, когда мы рассмотрели обучение на малом числе примеров, обучение без примеров и трансферное обучение, давай сравним эти подходы и разберёмся, чем они отличаются.

Рис. 4. Ключевые различия между обучением на малом числе примеров, обучением без примеров и трансферным обучением. Изображение создано автором.

Обучение на малом числе примеров полезно, когда у тебя есть лишь небольшое количество размеченных данных. Оно позволяет модели ИИ учиться всего на нескольких примерах. Обучение без примеров, напротив, не требует размеченных данных: вместо этого система использует описания или контекст, чтобы справляться с новыми задачами. Трансферное обучение устроено иначе: оно использует знания предварительно обученных моделей и позволяет быстро адаптировать их к новым задачам с минимальным количеством дополнительных данных. У каждого метода есть свои преимущества, в зависимости от типа данных и решаемой задачи.

Применение различных парадигм обучения в реальном мире#

Эти парадигмы обучения уже меняют многие отрасли, помогая находить инновационные решения сложных проблем. Давай рассмотрим подробнее, как их можно применять в реальном мире.

Диагностика редких заболеваний с помощью обучения на малом числе примеров#

Обучение на малом числе примеров особенно ценно в здравоохранении, в частности при анализе медицинских изображений. Оно помогает врачам диагностировать редкие заболевания всего по нескольким примерам или даже описаниям, без необходимости собирать большие объемы данных. Это особенно полезно при ограниченном количестве данных — такая ситуация часто возникает, поскольку собрать большие наборы данных о редких заболеваниях бывает сложно.

Например, SHEPHERD использует обучение на малом числе примеров и биомедицинские графы знаний для диагностики редких генетических заболеваний. Система сопоставляет сведения о пациенте, например симптомы и результаты анализов, с сетью известных генов и заболеваний. Это помогает определить вероятную генетическую причину заболевания и найти похожие случаи даже при ограниченном количестве данных.

Рис. 5. Модель SHEPHERD диагностирует редкие заболевания по минимальному объему данных.

Улучшение обнаружения заболеваний растений с помощью обучения без примеров#

В сельском хозяйстве важно быстро выявлять заболевания растений: задержка с обнаружением может привести к масштабному повреждению посевов, снижению урожайности и значительным финансовым потерям. Традиционные методы часто требуют больших датасетов и экспертных знаний, которые не всегда доступны, особенно в отдалённых районах или местах с ограниченными ресурсами. Здесь на помощь приходят достижения в области ИИ, например обучение без примеров.

Представь, что фермер выращивает помидоры и картофель и замечает такие симптомы, как пожелтение листьев или коричневые пятна. Обучение без примеров помогает выявлять такие заболевания, как фитофтороз, без больших датасетов. Используя описания симптомов, модель может классифицировать заболевания, с которыми раньше не сталкивалась. Этот подход работает быстро, легко масштабируется и позволяет фермерам обнаруживать различные проблемы растений. Он помогает эффективнее следить за состоянием посевов, своевременно принимать меры и сокращать потери.

Рис. 6. Распознавание болезней растений с помощью обучения без примеров.

Автономные транспортные средства и трансферное обучение#

Автономным транспортным средствам часто приходится адаптироваться к разным условиям, чтобы безопасно передвигаться. Трансферное обучение позволяет использовать ранее полученные знания, чтобы быстро приспосабливаться к новым условиям, не начиная обучение с нуля. В сочетании с компьютерным зрением, которое помогает транспортным средствам интерпретировать визуальную информацию, эти технологии обеспечивают более плавное движение по разным типам местности и в различных погодных условиях, делая автономное вождение эффективнее и надёжнее.

Хороший пример практического применения — система управления парковкой, использующая Ultralytics YOLO11 для мониторинга парковочных мест. YOLO11 — предварительно обученная модель обнаружения объектов, которую можно дообучить с помощью трансферного обучения для выявления свободных и занятых парковочных мест в реальном времени. Обучаясь на небольшом датасете изображений парковки, модель учится точно находить свободные и занятые места, а также места, зарезервированные для отдельных категорий.

Рис. 7. Управление парковкой с помощью Ultralytics YOLO11.

Интегрированная с другими технологиями, эта система может направлять водителей к ближайшему свободному месту, помогая сократить время поиска и уменьшить пробки. Перенос обучения позволяет реализовать это, используя уже имеющиеся возможности Ultralytics YOLO11 для обнаружения объектов: модель адаптируется к конкретным задачам управления парковкой, и обучать её с нуля не нужно. Такой подход экономит время и ресурсы, создавая высокоэффективное и масштабируемое решение, которое оптимизирует работу парковок и улучшает общее взаимодействие с пользователями.

Новые тенденции в парадигмах обучения#

Будущее парадигм обучения в компьютерном зрении связано с разработкой более интеллектуальных и экологичных систем Vision AI. В частности, всё популярнее становятся гибридные подходы, сочетающие обучение на малом числе примеров, обучение без примеров и перенос обучения. Объединяя преимущества этих методов, модели могут осваивать новые задачи на минимальном объёме данных и применять полученные знания в разных областях.

Интересный пример — использование адаптированных глубинных эмбеддингов для тонкой настройки моделей с опорой на знания, полученные при решении предыдущих задач, и небольшое количество новых данных. Это упрощает работу с ограниченными наборами данных.

Аналогично, обучение на X примерах предназначено для решения задач при разном объёме данных. Оно использует слабый контроль, при котором модели обучаются на ограниченных или зашумлённых метках, а также чёткие инструкции, помогающие им быстро адаптироваться даже при наличии лишь нескольких примеров или их полном отсутствии. Эти гибридные подходы показывают, как сочетание разных методов обучения помогает системам ИИ эффективнее решать сложные задачи.

Главные выводы#

Обучение на малом числе примеров, обучение без примеров и перенос обучения решают разные задачи в компьютерном зрении, поэтому подходят для разных сценариев. Выбор метода зависит от конкретного применения и объёма доступных данных. Например, обучение на малом числе примеров хорошо работает при ограниченных данных, а обучение без примеров подходит для работы с ранее неизвестными или незнакомыми классами.

В будущем ключевым направлением, вероятно, станет объединение этих методов в гибридные модели, сочетающие зрение, язык и аудио. Эти разработки призваны сделать системы ИИ более гибкими, эффективными и способными решать сложные задачи, открывая новые возможности для инноваций в этой области.

Узнавай больше об ИИ: присоединяйся к нашему сообществу и загляни в наш репозиторий GitHub. Узнай, как ИИ в беспилотных автомобилях и компьютерное зрение в сельском хозяйстве меняют будущее. Ознакомься с доступными вариантами лицензирования YOLO, чтобы начать работу!