Data Privacy

Конфиденциальность данных — это право людей контролировать сбор, использование, передачу и хранение своих персональных данных, а также законы и практики, которых придерживаются организации для соблюдения этого права. В сфере искусственного интеллекта ставки выше, чем в обычной разработке ПО: модели создаются на основе больших коллекций обучающих данных, которые часто содержат сведения о людях; модели могут запоминать и воспроизводить эти данные, а такие системы, как распознавание лиц, по своей природе обрабатывают персональные данные.

Законы и основные принципы#

Общий регламент ЕС по защите данных (GDPR), действующий с мая 2018 года, устанавливает основные принципы в статье 5: персональные данные должны обрабатываться законно, справедливо и прозрачно; собираться для определённых целей (ограничение цели); ограничиваться необходимым объёмом (минимизация данных); поддерживаться в актуальном состоянии; храниться не дольше необходимого срока (ограничение срока хранения) и защищаться надлежащими мерами безопасности. Контролёр должен уметь подтвердить соблюдение этих требований (подотчётность). Статья 25 требует защиты данных на этапе проектирования и по умолчанию, а статья 22 предоставляет людям права в отношении решений, принимаемых исключительно автоматизированной обработкой. Штрафы достигают 20 миллионов евро или 4% мирового годового оборота — в зависимости от того, какая сумма больше.

Другие законы основаны на похожих принципах. Закон CCPA в Калифорнии, расширенный законом CPRA, предоставляет жителям право знать, удалять данные и отказываться от их продажи или передачи. В здравоохранении США стандарт деидентификации HIPAA предписывает удалять 18 идентификаторов в рамках метода Safe Harbor, включая фотографии лица целиком и аналогичные изображения. Закон ЕС об ИИ устанавливает правила, относящиеся непосредственно к ИИ, и с февраля 2025 года запрещает создавать базы данных распознавания лиц, без разбора собирая изображения лиц из интернета или записи камер видеонаблюдения.

Попадает ли набор данных под действие этих законов, зависит от того, можно ли идентифицировать по нему людей:

Анонимизация сложнее, чем кажется. В 2000 году Латанья Суини показала, что только по почтовому индексу, полу и дате рождения можно однозначно идентифицировать около 87% населения США. Поэтому удаление имён редко делает набор данных анонимным.

Риски конфиденциальности, связанные именно с ИИ#

Модели могут запоминать и воспроизводить обучающие примеры. Николас Карлини и его коллеги извлекли более тысячи обучающих изображений из диффузионных моделей, в том числе фотографии отдельных людей. Даже если данные нельзя извлечь напрямую, атаки с выводом о принадлежности могут раскрыть, входила ли запись конкретного человека в обучающий набор; для модели, обученной на данных пациентов с определённым заболеванием, само это обстоятельство является конфиденциальной информацией.

Другой основной риск связан со сбором данных. Изображения и тексты, собранные для одной цели, часто повторно используют для обучения без законных оснований. Несколько европейских органов по защите данных оштрафовали Clearview AI за создание базы лиц из фотографий, собранных в интернете; в 2024 году нидерландский орган назначил штраф в 30,5 миллиона евро. Внутри организаций персональные данные, которые сотрудники вставляют во внешние чат-боты через инструменты теневого ИИ, выходят из-под контроля организации.

Методы защиты конфиденциальности#

• Дифференциальная конфиденциальность: Добавляет к статистике или обучению откалиброванный шум, чтобы результаты почти ничего не раскрывали о конкретном человеке.
• Федеративное обучение: Обучает модель там, где хранятся данные, например на телефонах или серверах больниц, и передаёт только обновления модели.
• Синтетические данные: Заменяют реальные записи сгенерированными, сохраняя их статистические закономерности.
• Конфиденциальный ИИ и периферийный ИИ: Обрабатывают данные в аттестованных аппаратных анклавы или на устройстве, которое их получило.

Перед хранением или обучением удаляют идентифицирующую информацию. Конвейеры компьютерного зрения размывают лица и автомобильные номера на уличных изображениях для анализа дорожного движения в умных городах. Наборы данных для анализа медицинских изображений очищают от идентификаторов пациентов в заголовках DICOM и удаляют черты лица на снимках головы. На Ultralytics Platform действие «Размыть лица» предварительно показывает обнаруженные лица на образцах, а затем заменяет соответствующие пиксели на всех изображениях набора данных. Кроме того, можно настроить автоматическое размытие лиц при каждой новой загрузке в набор данных.

Безопасность данных — одно из требований к конфиденциальности данных: шифрование и контроль доступа защищают персональные данные от несанкционированного доступа. При этом даже идеально защищённая база данных может нарушать законодательство о конфиденциальности, если она содержит данные, собранные без законного основания или хранящиеся дольше, чем необходимо для заявленной цели.