Linear Regression

Линейная регрессия — это фундаментальный статистический метод и базовый алгоритм обучения с учителем, используемый для моделирования связи между зависимой переменной (целевой) и одной или несколькими независимыми переменными (признаками). В отличие от алгоритмов классификации, которые предсказывают дискретные категории, линейная регрессия прогнозирует непрерывный результат, что делает её незаменимой для задач, где целью является прогнозирование конкретных числовых значений. Ее простота и интерпретируемость служат отправной точкой для понимания более сложных концепций машинного обучения (ML), поскольку в ней заложены основные механизмы того, как модели обучаются на данных путем минимизации ошибок.

Основные механизмы и обучение#

Основная задача этого метода заключается в поиске «линии наилучшего соответствия» (или гиперплоскости в пространствах большей размерности), которая наилучшим образом описывает закономерность в данных. Для этого алгоритм вычисляет взвешенную сумму входных признаков плюс член смещения. В процессе обучения модель итеративно корректирует эти внутренние параметры, известные как веса и смещения, чтобы уменьшить расхождение между своими прогнозами и реальными фактическими данными.

Это расхождение количественно оценивается с помощью функции потерь, причем наиболее распространенным выбором является среднеквадратическая ошибка (MSE). Чтобы эффективно минимизировать потери, для обновления весов используется алгоритм оптимизации, такой как градиентный спуск. Если модель слишком точно подстраивается под шум в обучающих данных, возникает риск переобучения, в то время как модель, которая слишком проста для улавливания основной тенденции, страдает от недообучения.

Реальные применения в ИИ#

Хотя принципы линейной регрессии часто ассоциируются с простым прогнозным моделированием в аналитике данных, они глубоко укоренены в продвинутых архитектурах глубокого обучения (DL).

• Финансовое прогнозирование: Аналитики используют регрессию для прогнозирования цен на жилье, стоимости акций или выручки от продаж на основе исторических данных, таких как площадь, расположение или предыдущие рыночные тенденции.
• Компьютерное зрение и обнаружение объектов: Современные детекторы объектов, такие как семейство моделей YOLO26, используют регрессию в своих головах обнаружения. В частности, модель выполняет «регрессию ограничивающих прямоугольников» для предсказания точных непрерывных координат (центра по оси x, центра по оси y, ширины, высоты) объекта на изображении.

Линейная регрессия против логистической регрессии#

Важно отличать этот термин от логистической регрессии. Хотя обе они являются линейными моделями, их результаты существенно различаются. Линейная регрессия предсказывает непрерывное числовое значение (например, цену автомобиля). Напротив, логистическая регрессия используется для задач классификации, предсказывая вероятность того, что входной объект принадлежит к определенной категории (например, является ли письмо «спамом» или «не спамом»), путем пропускания линейного выхода через функцию активации, такую как сигмоидная функция.

Пример: Регрессия в обнаружении объектов#

В контексте компьютерного зрения, когда модель вроде Ultralytics YOLO26 обнаруживает объект, координаты ограничивающей рамки являются результатом задачи регрессии. Модель предсказывает непрерывные значения для точного определения местоположения объекта.

from ultralytics import YOLO

# Load the YOLO26 model (nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
# The model uses regression to determine the exact box placement
results = model("https://ultralytics.com/images/bus.jpg")

# Display the continuous regression outputs (x, y, width, height)
for box in results[0].boxes:
    print(f"Box Regression Output (xywh): {box.xywh.numpy()}")

Пользователи, желающие обучать пользовательские модели, которые задействуют эти возможности регрессии для специализированных наборов данных, могут использовать Ultralytics Platform для упрощенной разметки и облачного обучения. Понимание этих базовых принципов регрессии обеспечивает прочную основу для освоения сложных задач в области искусственного интеллекта (AI) и компьютерного зрения.