Предвзятое отношение к данным

Источники и типы необъективности данных

Предвзятость к данным - это не одна проблема, она может проявляться несколькими способами в процессе сбора и аннотирования данных:

• Ошибка отбора: возникает, когда выборка данных не является случайной, что приводит к перепредставленности или недопредставленности определенных групп или сценариев. Например, набор данных для автономного вождения, обученного в основном на дневных изображениях, полученных в ясную погоду, может плохо работать ночью или в дождь.
• Предвзятость измерений: возникает из-за проблем в инструментах или процессе сбора данных. Например, использование камер разного качества для разных демографических групп в наборе данных по распознаванию лиц может внести погрешность.
• Label Bias (Annotation Bias): Возникает из-за несоответствий или предрассудков на этапе маркировки данных, когда люди-аннотаторы могут по-разному интерпретировать или маркировать данные, основываясь на субъективных взглядах или неявных предубеждениях. Изучение различных типов когнитивных предубеждений может пролить свет на потенциальные человеческие факторы.
• Историческая предвзятость: Отражает существующие общественные предубеждения, присутствующие в мире, которые запечатлены в данных. Если исторические данные показывают, что определенные группы были менее представлены в определенных ролях, то ИИ, обученный на этих данных, может увековечить это предубеждение.

Понимание этих источников имеет решающее значение для смягчения их воздействия, что подчеркивается в таких ресурсах, как блогUltralytics о понимании предвзятости ИИ.

Почему необъективность данных имеет значение

Последствия предвзятости наборов данных могут быть серьезными, влияя на производительность модели и справедливость общества:

• Снижение точности и надежности: Модели, обученные на предвзятых данных, часто демонстрируют более низкую точность, когда сталкиваются с данными из недопредставленных групп или сценариями. Это ограничивает способность модели к обобщению, о чем говорится в таких исследованиях, как "Наборы данных: Сырье для ИИ".
• Несправедливые или дискриминационные результаты: Предвзятые модели могут приводить к систематическому ущемлению интересов определенных групп, что вызывает серьезные опасения относительно справедливости ИИ и этики ИИ. Это особенно важно в приложениях с высокими ставками, таких как прием на работу, одобрение кредитов и диагностика в здравоохранении.
• Усиление стереотипов: Системы ИИ могут непреднамеренно увековечить вредные стереотипы, если будут обучаться на данных, отражающих общественные предрассудки.
• Эрозия доверия: Общественное доверие к технологиям ИИ может быть подорвано, если системы будут восприниматься как несправедливые или ненадежные из-за скрытых предубеждений. Такие организации, как Partnership on AI и AI Now Institute, работают над устранением этих более широких социальных последствий.

Примеры из реальной жизни

1. Системы распознавания лиц: В ранних наборах данных для распознавания лиц часто были перепредставлены светлокожие мужчины. Соответственно, коммерческие системы демонстрировали значительно более низкую точность распознавания темнокожих женщин, о чем свидетельствуют исследования таких институтов, как NIST, и таких организаций, как Algorithmic Justice League. Такое неравенство создает риски в самых разных приложениях - от маркировки фотографий до проверки личности и правоохранительных органов.
2. Анализ медицинских изображений: Модель ИИ, обученная выявлять рак кожи с помощью анализа медицинских изображений, может плохо работать с темными оттенками кожи, если набор данных для обучения состоит в основном из изображений светлокожих пациентов. Такая предвзятость может привести к пропуску или задержке диагноза для недопредставленных групп пациентов, что повлияет на справедливость ИИ в здравоохранении.

Различение предвзятости данных и смежных понятий

Важно отличать Dataset Bias от похожих терминов:

• Предвзятость в ИИ: это широкий термин, охватывающий любую систематическую ошибку, приводящую к несправедливым результатам. Предвзятость набора данных - основная причина предвзятости в ИИ, но предвзятость также может быть обусловлена самим алгоритмом(Algorithmic Bias) или контекстом развертывания.
• Алгоритмическая погрешность: сюда относятся погрешности, которые вносятся архитектурой модели, процессом обучения или целями оптимизации, не зависящими от качества исходных данных. Например, алгоритм может отдавать предпочтение общей точности в ущерб справедливости для групп меньшинств.
• Справедливость в ИИ: это цель или свойство системы ИИ, направленное на справедливое отношение к различным группам. Устранение предвзятости данных - важнейший шаг на пути к достижению справедливости, но справедливость также включает в себя алгоритмические корректировки и этические соображения, определенные такими рамками, как NIST AI Risk Management Framework.
• Bias-Variance Tradeoff: это основная концепция машинного обучения, касающаяся сложности модели. Под "Bias" здесь понимаются ошибки, связанные с чрезмерно упрощенными предположениями(underfitting), в отличие от социетальных или статистических погрешностей, встречающихся в наборах данных.

Решение проблемы предвзятости данных

Для борьбы с предвзятостью наборов данных требуются проактивные стратегии на протяжении всего рабочего процесса ML:

• Тщательный сбор данных: Стремись к тому, чтобы источники данных были разнообразными и репрезентативными и отражали целевую среду развертывания. Документирование наборов данных с помощью таких фреймворков, как Data Sheets for Datasets, может улучшить прозрачность.
• Предварительная обработка и расширение данных: Такие техники, как повторная выборка, синтез данных и целевое увеличение данных, могут помочь сбалансировать наборы данных и увеличить их репрезентативность. Инструменты в экосистеме Ultralytics поддерживают различные методы дополнения.
• Инструменты для выявления предвзятости: Используй такие инструменты, как What-If Tool отGoogle или библиотеки вроде Fairlearn, чтобы проверить наборы данных и модели на предмет потенциальной предвзятости.
• Оценка модели: Оценивай производительность модели в разных подгруппах, используя метрики справедливости наряду со стандартными метриками точности. Документируй полученные результаты, используя такие методы, как карточки моделей.
• Поддержка платформ: Такие платформы, как Ultralytics HUB, предоставляют инструменты для управления наборами данных, обучения моделей, например Ultralytics YOLO11, и облегчают строгую оценку моделей, помогая разработчикам создавать менее предвзятые системы.

Осознанно решая проблему предвзятости наборов данных, разработчики смогут создавать более прочные, надежные и справедливые системы ИИ. Более подробную информацию можно найти в таких исследованиях, как "A Survey on Bias and Fairness in Machine Learning", и в обсуждениях на таких конференциях, как ACM FAccT.