Unsupervised Learning

Обучение без учителя — это направление машинного обучения, которое находит структуру в данных без меток. Модель получает только входные данные — например, изображения, показания датчиков или записи о клиентах — и учится выявлять их структуру: какие примеры похожи друг на друга, какие признаки меняются одновременно и какие точки отличаются от остальных. Для обучения с учителем нужен правильный ответ для каждого обучающего примера, но большинство собранных данных таких ответов не имеет. Поэтому методы обучения без учителя часто становятся первым способом исследовать новый набор данных и источником группировок, компактных признаков и оценок аномальности, на которых затем строятся другие модели.

Основные семейства методов#

Кластеризация группирует похожие примеры. Кластеризация методом k-средних относит каждую точку к ближайшему из k центроидов, DBSCAN формирует кластеры из плотных областей и помечает изолированные точки как шум, а модели гауссовых смесей описывают перекрывающиеся вероятностные распределения с помощью алгоритма максимизации математического ожидания.

Снижение размерности сжимает множество признаков до небольшого числа, сохраняя основную часть информации. Метод главных компонент (PCA) находит направления наибольшей дисперсии, а t-SNE и UMAP размещают многомерные точки на 2D-карте для визуализации данных. Автоэнкодеры учатся аналогичному сжатию с помощью нейронной сети, которая должна восстановить собственный вход.

Модели оценки плотности показывают, насколько вероятен каждый вход, и позволяют выполнять обнаружение аномалий, обучаясь только на нормальных данных: модель, обученная исключительно на целых деталях или обычных транзакциях, помечает как аномалию всё, что считает маловероятным. Анализ ассоциативных правил, например алгоритм Apriori, находит товары, которые часто покупают вместе, или события, часто встречающиеся вместе в журналах.

Обучение и оценка без меток#

Без целевых значений каждый метод оптимизирует критерий, заданный на самих входных данных: k-средних минимизирует расстояние от точек до центров кластеров, PCA и автоэнкодеры минимизируют ошибку реконструкции, а модели смесей максимизируют правдоподобие данных. Точность нельзя измерить напрямую, поэтому результаты оценивают по внутренним показателям, например коэффициенту силуэта, по полезности результата для последующих задач или по меткам, отложенным исключительно для оценки.

В этом примере scikit-learn кластеризует 1 797 изображений рукописных цифр по значениям пикселей, а затем сравнивает полученные кластеры с метками цифр, которые алгоритм не видел:

from sklearn.cluster import KMeans
from sklearn.datasets import load_digits
from sklearn.metrics import adjusted_rand_score

# Load 1,797 handwritten digit images as 64 pixel values each, then set the labels aside
X, y = load_digits(return_X_y=True)

# Group the images into 10 clusters using the pixels alone
kmeans = KMeans(n_clusters=10, n_init=10, random_state=0)
clusters = kmeans.fit_predict(X)

# Compare the clusters with the digit labels the model never saw
print(f"Adjusted Rand index: {adjusted_rand_score(y, clusters):.2f}")

Скорректированный индекс Рэнда равен 1,0 при полном совпадении и примерно 0 при случайном совпадении; в этом примере он составляет 0,67. Нули, четвёрки и шестёрки почти полностью попадают каждый в свой кластер, а один кластер смешивает 100 единиц со 100 восьмёрками.

Обучение без учителя, полуобучение и самостоятельное обучение#

Полуобучение объединяет небольшой размеченный набор с большим неразмеченным, обычно сначала обучаясь на метках, а затем — на уверенных предсказаниях самой модели. Самостоятельное обучение обычно относят к обучению без учителя; именно так большинство крупных моделей глубокого обучения учатся на неразмеченных данных: они создают целевые значения на основе самих данных, например следующее слово в предложении или скрытые фрагменты изображения, как в маскированных автоэнкодерах. Большие языковые модели предварительно обучаются таким образом на неразмеченном тексте, а DINOv2 от Meta обучилась универсальным признакам изображений на 142 миллионах изображений без меток. Обучение с подкреплением — отдельный подход, в котором сигналом служит вознаграждение за действия, а не структура фиксированного набора данных.

Применение#

Команды компьютерного зрения используют методы без учителя, чтобы исследовать наборы данных до разметки или обучения: кластеризация эмбеддингов изображений выявляет почти дубликаты, выбросы и сцены, встречающиеся слишком часто и способные сместить модель. Панель «Кластеризация» в Ultralytics Platform выполняет эту работу для целого набора данных: она строит эмбеддинги всех изображений, размещает их на двумерной карте, а при выборе «Цвет по кластерам» отмечает каждый остров визуально похожих изображений, начиная с крупнейшего, и перечисляет точки вне островов как «Разрозненные». Всплеск почти одинаковых кадров видео или несколько случайных выбросов заметны ещё до обучения модели YOLO26 на этих данных.

Промышленный контроль опирается на методы обнаружения аномалий. Дефекты редки и разнообразны, поэтому многие системы обнаружения дефектов обучаются только на внешнем виде исправных деталей и помечают любую область изображения, которая от него отличается. Банки применяют ту же идею к транзакциям для обнаружения мошенничества, а розничные компании кластеризуют историю покупок по сегментам клиентов для маркетинга и рекомендательных систем. В геномике отдельных клеток исследователи кластеризуют профили экспрессии генов тысяч клеток и отображают их с помощью UMAP, чтобы обнаружить типы клеток без предварительных знаний о них.