Linear Regression

Линейная регрессия — это фундаментальный статистический метод и базовый алгоритм обучения с учителем, используемый для моделирования зависимости между зависимой переменной (целевой) и одной или несколькими независимыми переменными (признаками). В отличие от алгоритмов классификации, которые предсказывают дискретные категории, линейная регрессия прогнозирует непрерывный результат, что делает ее незаменимой для задач, где цель состоит в прогнозировании конкретных числовых значений. Ее простота и интерпретируемость служат отправной точкой для понимания более сложных концепций машинного обучения (ML), поскольку она знакомит с основными механизмами того, как модели обучаются на данных путем минимизации ошибки.

Link to this sectionОсновные механизмы и обучение#

Основная задача этого метода — найти «линию наилучшего соответствия» (или гиперплоскость в пространствах с большей размерностью), которая лучше всего описывает закономерность данных. Для этого алгоритм вычисляет взвешенную сумму входных признаков плюс член смещения (bias). В процессе обучения модель итеративно корректирует эти внутренние параметры, известные как веса и смещения, чтобы уменьшить расхождение между своими предсказаниями и реальными истинными значениями.

Это расхождение количественно оценивается с помощью функции потерь, причем наиболее распространенным выбором является среднеквадратичная ошибка (MSE). Для эффективной минимизации потерь используется алгоритм оптимизации, такой как градиентный спуск, который обновляет веса. Если модель слишком точно подстраивается под шум в обучающих данных, она рискует столкнуться с переобучением, тогда как модель, слишком простая для улавливания базовой тенденции, страдает от недообучения.

Link to this sectionРеальные применения в ИИ#

Хотя принципы линейной регрессии часто ассоциируются с простым прогнозным моделированием в аналитике данных, они глубоко встроены в современные архитектуры глубокого обучения (DL).

• Финансовое прогнозирование: Аналитики используют регрессию для прогнозирования цен на жилье, стоимости акций или выручки от продаж на основе исторических данных, таких как площадь, расположение или предыдущие рыночные тенденции.
• Компьютерное зрение и обнаружение объектов: Современные детекторы объектов, такие как семейство моделей YOLO26, используют регрессию в своих детекционных головах. В частности, модель выполняет «регрессию ограничивающих рамок» (bounding box regression) для предсказания точных непрерывных координат (центр x, центр y, ширина, высота) объекта на изображении.

Link to this sectionЛинейная регрессия против логистической регрессии#

Важно отличать этот термин от логистической регрессии. Хотя обе модели являются линейными, их результаты существенно различаются. Линейная регрессия предсказывает непрерывное числовое значение (например, цену автомобиля). Напротив, логистическая регрессия используется для задач классификации, предсказывая вероятность того, что входной объект принадлежит к определенной категории (например, является ли электронное письмо «спамом» или «не спамом»), путем пропуска линейного выхода через функцию активации, такую как сигмоида.

Link to this sectionПример: Регрессия в обнаружении объектов#

В контексте компьютерного зрения, когда модель вроде YOLO26 обнаруживает объект, координаты ограничивающей рамки являются результатом задачи регрессии. Модель предсказывает непрерывные значения для точного определения местоположения объекта.

from ultralytics import YOLO

# Load the YOLO26 model (nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
# The model uses regression to determine the exact box placement
results = model("https://ultralytics.com/images/bus.jpg")

# Display the continuous regression outputs (x, y, width, height)
for box in results[0].boxes:
    print(f"Box Regression Output (xywh): {box.xywh.numpy()}")

Пользователи, желающие обучать собственные модели, использующие возможности регрессии для специализированных наборов данных, могут воспользоваться платформой Ultralytics для упрощенной разметки и обучения в облаке. Понимание этих базовых принципов регрессии обеспечивает прочный фундамент для освоения сложных задач в области искусственного интеллекта (AI) и компьютерного зрения.