Разбираемся в обучении на малом количестве примеров, без примеров и переносе обучения

Системы искусственного интеллекта (AI) могут решать сложные задачи, такие как распознавание лиц, классификация изображений и управление автомобилями, при минимальном участии человека. Они делают это, изучая данные, распознавая закономерности и используя их для прогнозирования или принятия решений. По мере развития AI мы наблюдаем всё более сложные способы, с помощью которых модели AI могут обучаться, адаптироваться и выполнять задачи с поразительной эффективностью.

Например, компьютерное зрение — это отрасль AI, посвящённая тому, чтобы научить машины интерпретировать и понимать визуальную информацию из окружающего мира. Разработка традиционных моделей компьютерного зрения сильно зависит от больших размеченных наборов данных для обучения. Сбор и разметка таких данных могут занимать много времени и быть дорогостоящими.

Чтобы справиться с этими задачами, исследователи предложили инновационные подходы, такие как обучение по малому числу примеров (FSL), при котором модель учится на ограниченном количестве примеров; обучение без примеров (ZSL), позволяющее распознавать ранее не встречавшиеся объекты; и перенос обучения (TL), при котором знания предварительно обученных моделей применяются к новым задачам.

В этой статье мы рассмотрим, как работают эти парадигмы обучения, выделим их ключевые различия и изучим реальные варианты применения. Начнём!

Обзор парадигм обучения#

Давай разберёмся, что такое обучение по малому числу примеров, обучение без примеров и перенос обучения применительно к компьютерному зрению и как они работают.

Обучение по малому числу примеров#

Обучение по малому числу примеров — это метод, при котором системы учатся распознавать новые объекты, используя всего несколько примеров. Например, если показать модели несколько изображений пингвина, пеликана и тупика (эта небольшая группа называется «опорным набором»), она учится понимать, как выглядят эти птицы.

Позже, если показать модели новое изображение, например пингвина, она сравнит его с изображениями из опорного набора и выберет наиболее близкое совпадение. Этот метод полезен, когда сбор большого объёма данных затруднён: система всё равно может обучаться и адаптироваться, используя всего несколько примеров.

Рис. 1. Обзор работы обучения по малому числу примеров.

Обучение без примеров#

Обучение без примеров позволяет машинам распознавать объекты, которых они никогда раньше не видели, без необходимости использовать их примеры. Для установления связей применяются семантические сведения, например описания.

Например, если машина узнала о таких животных, как кошки, львы и лошади, понимая признаки вроде «маленький и пушистый», «крупная дикая кошка» или «длинная морда», она может использовать эти знания для распознавания нового животного, например тигра. Даже если она никогда раньше не видела тигра, она может правильно распознать его по описанию вроде «животное, похожее на льва, с тёмными полосами». Благодаря этому машинам проще обучаться и адаптироваться без необходимости использовать множество примеров.

Рис. 2. Обучение без примеров распознаёт новые объекты с помощью описаний.

Перенос обучения#

Перенос обучения — это парадигма обучения, при которой модель использует знания, полученные при решении одной задачи, для решения новой, похожей задачи. Этот метод особенно полезен для задач компьютерного зрения, таких как обнаружение объектов, классификация изображений и распознавание закономерностей.

Например, в компьютерном зрении предварительно обученная модель может распознавать общие объекты, например животных, а затем с помощью переноса обучения дообучаться для распознавания конкретных объектов, таких как разные породы собак. Повторное использование знаний из предыдущих задач упрощает обучение моделей компьютерного зрения на небольших наборах данных, экономя время и силы.

Рис. 3. Обзор работы переноса обучения.

Возможно, ты задаёшься вопросом, какие модели поддерживают перенос обучения. Ultralytics YOLO11 — отличный пример модели компьютерного зрения, которая это умеет. Это современная модель обнаружения объектов, предварительно обученная на большом общем наборе данных. После этого её можно дообучить и обучить на собственных данных на меньшем специализированном наборе данных для решения конкретных задач.

Сравнение парадигм обучения#

Теперь, когда мы обсудили обучение по малому числу примеров, обучение без примеров и перенос обучения, давай сравним их и разберёмся в различиях.

Рис. 4. Ключевые различия между обучением по малому числу примеров, обучением без примеров и переносом обучения. Изображение: автор.

Обучение по малому числу примеров полезно, когда у тебя есть лишь небольшой объём размеченных данных. Оно позволяет модели AI учиться всего на нескольких примерах. Обучение без примеров, напротив, не требует размеченных данных. Вместо этого оно использует описания или контекст, чтобы помочь системе справляться с новыми задачами. Перенос обучения применяет другой подход: использует знания предварительно обученных моделей, позволяя им быстро адаптироваться к новым задачам с минимальным количеством дополнительных данных. У каждого метода есть свои преимущества, зависящие от типа данных и задачи, над которой ты работаешь.

Реальные применения различных парадигм обучения#

Эти парадигмы обучения уже меняют ситуацию во многих отраслях, решая сложные задачи с помощью инновационных решений. Давай подробнее рассмотрим, как их можно применять в реальном мире.

Диагностика редких заболеваний с помощью обучения по малому числу примеров#

Обучение по малому числу примеров открывает новые возможности для здравоохранения, особенно в области медицинской визуализации. Оно может помочь врачам диагностировать редкие заболевания всего по нескольким примерам или даже описаниям без необходимости использовать большие объёмы данных. Это особенно полезно при ограниченном количестве данных, что часто бывает в таких случаях, поскольку сбор больших наборов данных для редких заболеваний может быть затруднён.

Например, SHEPHERD использует обучение по малому числу примеров и биомедицинские графы знаний для диагностики редких генетических заболеваний. Система сопоставляет информацию о пациенте, например симптомы и результаты анализов, с сетью известных генов и заболеваний. Это помогает определить вероятную генетическую причину и найти похожие случаи даже при ограниченном количестве данных.

Рис. 5. Модель Shepherd диагностирует редкие заболевания по минимальному объёму данных.

Улучшение обнаружения заболеваний растений с помощью обучения без примеров#

В сельском хозяйстве важно быстро выявлять заболевания растений, поскольку задержки могут привести к масштабному повреждению посевов, снижению урожайности и значительным финансовым потерям. Традиционные методы часто зависят от больших наборов данных и экспертных знаний, которые не всегда доступны, особенно в удалённых районах и регионах с ограниченными ресурсами. Здесь на помощь приходят достижения AI, такие как обучение без примеров.

Представим, что фермер выращивает помидоры и картофель и замечает такие симптомы, как пожелтение листьев или коричневые пятна. Обучение без примеров может помочь выявить заболевания, например фитофтороз, без необходимости использовать большие наборы данных. Используя описания симптомов, модель может классифицировать заболевания, которых раньше не встречала. Этот подход быстр, масштабируем и позволяет фермерам выявлять различные проблемы растений. Он помогает эффективнее контролировать состояние посевов, своевременно принимать меры и сокращать потери.

Рис. 6. Выявление заболеваний растений с помощью обучения без примеров.

Автономные транспортные средства и перенос обучения#

Автономным транспортным средствам часто приходится адаптироваться к разным условиям, чтобы безопасно перемещаться. Перенос обучения помогает им использовать ранее полученные знания и быстро адаптироваться к новым условиям без повторного обучения с нуля. В сочетании с компьютерным зрением, которое помогает транспортным средствам интерпретировать визуальную информацию, эти технологии обеспечивают более плавную навигацию в разных условиях местности и погоды, делая автономное вождение эффективнее и надёжнее.

Хороший пример практического применения — система управления парковкой, использующая Ultralytics YOLO11 для мониторинга парковочных мест. YOLO11 — предварительно обученная модель обнаружения объектов, которую можно дообучить с помощью переноса обучения для обнаружения свободных и занятых парковочных мест в реальном времени. Обучая модель на небольшом наборе изображений парковки, можно научить её точно обнаруживать свободные, занятые и даже зарезервированные места.

Рис. 7. Управление парковкой с помощью Ultralytics YOLO11.

В сочетании с другими технологиями эта система может направлять водителей к ближайшему свободному месту, помогая сократить время поиска и дорожные заторы. Перенос обучения делает это возможным, опираясь на существующие возможности Ultralytics YOLO11 по обнаружению объектов и позволяя модели адаптироваться к конкретным требованиям управления парковкой без повторного обучения с нуля. Такой подход экономит время и ресурсы, создавая высокоэффективное и масштабируемое решение, которое улучшает работу парковки и повышает удобство для пользователей.

Новые тенденции в парадигмах обучения#

Будущее парадигм обучения в компьютерном зрении связано с разработкой более интеллектуальных и устойчивых систем AI для компьютерного зрения. В частности, набирает популярность использование гибридных подходов, объединяющих обучение по малому числу примеров, обучение без примеров и перенос обучения. Сочетая преимущества этих методов, модели могут обучаться новым задачам на минимальном объёме данных и применять знания в разных областях.

Интересный пример — использование адаптированных глубоких эмбеддингов для дообучения моделей с применением знаний из предыдущих задач и небольшого объёма новых данных, что упрощает работу с ограниченными наборами данных.

Аналогичным образом, обучение X-shot предназначено для решения задач с разным объёмом данных. Оно использует слабый надзор, при котором модели учатся на ограниченных или зашумлённых метках, а также чёткие инструкции, помогающие им быстро адаптироваться даже при наличии небольшого количества предварительных примеров или их полном отсутствии. Эти гибридные подходы показывают, как интеграция разных методов обучения помогает системам AI эффективнее решать сложные задачи.

Основные выводы#

Обучение по малому числу примеров, обучение без примеров и перенос обучения решают разные задачи компьютерного зрения, поэтому подходят для различных сценариев. Выбор подхода зависит от конкретного применения и доступного объёма данных. Например, обучение по малому числу примеров хорошо работает с ограниченным количеством данных, а обучение без примеров отлично подходит для работы с ранее не встречавшимися или незнакомыми классами.

В будущем, вероятно, основное внимание будет уделяться объединению этих методов для создания гибридных моделей, интегрирующих зрение, язык и аудио. Эти достижения призваны сделать системы AI более гибкими, эффективными и способными решать сложные задачи, открывая новые возможности для инноваций в этой области.

Узнай больше об AI, присоединившись к нашему сообществу и посетив наш репозиторий на GitHub. Узнай, как AI в беспилотных автомобилях и компьютерное зрение в сельском хозяйстве меняют будущее. Ознакомься с доступными вариантами лицензии YOLO, чтобы начать!