AI Ethics

Этика ИИ — это область, которая применяет моральные принципы к проектированию, разработке и использованию искусственного интеллекта (ИИ) и рассматривает, какие системы следует создавать, как они должны себя вести и кто несёт ответственность за их последствия. Ключевые вопросы — справедливость, конфиденциальность, прозрачность, безопасность, подотчётность и человеческий контроль; область опирается на философию, право, социальные науки и инженерию. На практике этика ИИ влияет на то, как команды собирают данные, оценивают модели и решают, какие продукты выпускать; она также лежит в основе регулирования, например закона ЕС об ИИ и законов Калифорнии в области ИИ.

Основные принципы#

Международные рамочные документы сходятся на схожем наборе принципов. Принципы ОЭСР по искусственному интеллекту, принятые в 2019 году и обновлённые в 2024 году, стали первым межправительственным стандартом в области ИИ; Рекомендация ЮНЕСКО об этике искусственного интеллекта была принята всеми 193 государствами-членами в 2021 году; а Рамочная программа NIST по управлению рисками ИИ (2023) преобразует схожие ценности в характеристики заслуживающего доверия ИИ, которые организации могут измерять:

• Справедливость и недискриминация: Системы не должны хуже работать для людей или ставить их в невыгодное положение из-за цвета кожи, пола, возраста или других защищённых признаков. Предвзятость в ИИ обычно возникает из-за нерепрезентативных данных или меток, а справедливость в ИИ задаёт метрики для её проверки.
• Конфиденциальность и управление данными: Персональные данные следует собирать на законных основаниях, при необходимости — с согласия, и обрабатывать только в объёме, нужном для достижения цели. Такие методы, как дифференциальная приватность и федеративное обучение, сокращают объём данных, которые модель раскрывает или централизует. В видеоаналитике конфиденциальность на этапе проектирования может означать анонимизацию людей до сохранения видеозаписи: решение Ultralytics для размытия объектов запускает детекцию YOLO26 на каждом кадре и размывает каждый обнаруженный объект, например каждого человека, прямо на месте.
• Прозрачность и объяснимость: Люди должны знать, когда взаимодействуют с системой ИИ, и иметь возможность узнать, как она создана; этим занимается область прозрачности ИИ. Решения, затрагивающие людей, должны быть объяснимы с помощью методов объяснимого искусственного интеллекта (XAI).
• Безопасность и устойчивость: Системы должны надёжно работать в условиях эксплуатации, противостоять манипуляциям, таким как атаки с использованием состязательных примеров, и безопасно завершать работу при сбоях.
• Подотчётность и контроль со стороны человека: За результаты работы каждой системы отвечает конкретный человек или организация, а люди могут следить за её работой, вмешиваться в неё или отключать её.

От принципов к закону#

Закон ЕС об искусственном интеллекте превращает эти принципы в обязательства, соразмерные уровню риска. Он вступил в силу в августе 2024 года; запреты на запрещённые практики действуют с 2 февраля 2025 года, а требования к прозрачности — с 2 августа 2026 года. После поправки Digital Omnibus 2026 года требования к сценариям высокого риска, перечисленным в приложении III, например найму, оценке кредитоспособности и образованию, применяются с 2 декабря 2027 года. Закон классифицирует каждый сценарий использования ИИ по возникающим обязательствам:

Ряд запретов напрямую касается компьютерного зрения: бесцельного сбора изображений лиц из интернета или систем видеонаблюдения для создания баз распознавания; распознавания эмоций на рабочих местах и в школах; биометрической классификации, выявляющей такие признаки, как раса или политические взгляды; а также, за редкими исключениями, удалённой биометрической идентификации в реальном времени в общественных местах для правоохранительных целей. Организации также могут сертифицировать практики управления ИИ на соответствие ISO/IEC 42001 — международному стандарту, опубликованному в 2023 году.

Этика ИИ и смежные понятия#

• Безопасность ИИ: Направлена на предотвращение аварий, злоупотреблений и потери контроля по мере роста возможностей систем. Этика ИИ также ставит вопросы о том, должна ли существовать та или иная система и кому она служит.
• Управление ИИ: Политики, процессы и законы, с помощью которых организации и правительства воплощают этические принципы в практику.
• Ответственный ИИ: Термин, которым компании обычно называют собственную практику соблюдения этических принципов ИИ; по сути, это синоним.
• Алгоритмическая предвзятость: Одна конкретная этическая проблема в этой широкой области — систематическая ошибка, приводящая к несправедливым результатам.

Этические проблемы компьютерного зрения#

• Здравоохранение: В анализе медицинских изображений модель, проверенная на сканерах и пациентах одной больницы, может пропускать находки у групп населения, которых она не видела. Поэтому этические рамочные документы требуют раздельной оценки результатов и контроля со стороны клиницистов.
• Синтетические медиа: Дипфейки позволяют совершать мошенничество, домогательства и распространять дезинформацию; Закон ЕС об искусственном интеллекте обязывает пользователей систем раскрывать их использование.
• Распознавание эмоций: В 2022 году Microsoft отказалась от функций Azure Face, которые определяли эмоциональные состояния и такие характеристики, как пол и возраст. Компания сослалась на отсутствие научного консенсуса о том, как определять эмоции, и на сомнения в том, что выводы по выражению лица применимы к разным регионам и демографическим группам.
• Согласие и происхождение наборов данных: Многие наборы данных с лицами и людьми собирали без ведома изображённых на фотографиях людей; в 2019 году Microsoft закрыла доступ к набору данных MS-Celeb-1M, включавшему около 10 миллионов фотографий 100 000 человек.
• Распознавание лиц и наблюдение: В июне 2020 года IBM прекратила предлагать универсальное распознавание лиц, а Amazon приостановила использование службы Rekognition полицией и позднее продлила мораторий на неопределённый срок. В сентябре 2024 года Управление по защите данных Нидерландов оштрафовало Clearview AI на €30,5 млн за создание базы из миллиардов фотографий лиц, собранных в интернете.