Этичное использование ИИ — это баланс между инновациями и честностью

По мере роста популярности ИИ всё чаще обсуждается этичное использование искусственного интеллекта (AI). Многие из нас ежедневно пользуются инструментами на основе ИИ, такими как ChatGPT, поэтому вполне закономерно беспокоиться о том, внедряем ли мы ИИ безопасно и этично. Данные лежат в основе всех систем ИИ, а многие приложения ИИ используют персональные данные, например изображения твоего лица, финансовые операции, медицинские записи, сведения о твоей работе или данные о твоём местоположении. Куда попадают эти данные и как с ними обращаются? Этический ИИ помогает ответить на эти вопросы и привлечь внимание пользователей ИИ к этим проблемам.

Рис. 1. Преимущества и недостатки ИИ: поиск баланса. (FullSurge)

Обсуждая этические вопросы, связанные с ИИ, легко увлечься и начать делать поспешные выводы, представляя сценарии вроде «Терминатора» и роботов, которые захватывают власть. Но понять, как применять этичный ИИ на практике, довольно просто. Нужно создавать, внедрять и использовать ИИ справедливо, прозрачно и ответственно. В этой статье мы разберём, почему ИИ должен быть этичным, как создавать этичные инновации в сфере ИИ и что ты можешь сделать, чтобы поддержать этичное использование ИИ.

Этические проблемы, связанные с ИИ#

Прежде чем перейти к особенностям этичного ИИ, давай подробнее рассмотрим, почему эта тема стала такой важной для сообщества специалистов по ИИ и что вообще значит, что ИИ действует этично.

Почему об этичном ИИ заговорили именно сейчас?#

Этика в сфере ИИ — не новая тема для обсуждения. Её обсуждают с 1950-х годов. Тогда Алан Тьюринг представил концепцию машинного интеллекта и тест Тьюринга — способ оценить способность машины демонстрировать человеческий интеллект в разговоре. Это положило начало первым этическим дискуссиям об ИИ. С тех пор исследователи неоднократно отмечали и подчёркивали важность учёта этических аспектов ИИ и технологий. Однако лишь недавно организации и правительства начали разрабатывать нормативные требования, обязывающие соблюдать этические принципы при работе с ИИ.

На это есть три основные причины:

• Распространение ИИ: с 2015 по 2019 год число компаний, использующих сервисы ИИ, выросло на 270%, и в 2020-х годах продолжило увеличиваться.
• Общественная обеспокоенность: всё больше людей беспокоятся о будущем ИИ и его влиянии на общество. В 2021 году 37% опрошенных американцев заявили исследователям Pew Research Center, что более широкое использование ИИ в повседневной жизни вызывает у них скорее беспокойство, чем энтузиазм. К 2023 году этот показатель вырос до 52%, что свидетельствует о значительном усилении тревоги.
• Громкие случаи: Всё чаще появляются громкие случаи предвзятых или неэтичных решений на основе ИИ. Например, в 2023 году заголовки новостей облетела история о том, как адвокат использовал ChatGPT для поиска прецедентов по судебному делу, но обнаружил, что ИИ выдумал дела.

По мере развития ИИ и роста внимания к нему во всём мире обсуждение этичного ИИ становится неизбежным.

Ключевые этические проблемы ИИ#

Чтобы по-настоящему понять, что значит этичный ИИ, нужно проанализировать проблемы, с которыми он сталкивается. Они охватывают целый ряд вопросов, включая предвзятость, конфиденциальность, подотчётность и безопасность. Некоторые пробелы в обеспечении этичности ИИ со временем выявились при внедрении решений, основанных на несправедливых практиках, а другие могут обнаружиться в будущем.

Рис. 2. Этические проблемы ИИ.

Вот некоторые ключевые этические проблемы ИИ:

• Предвзятость и справедливость: Системы ИИ могут перенимать предвзятость из данных, на которых их обучают, что приводит к несправедливому отношению к отдельным группам. Например, предвзятые алгоритмы найма могут ставить представителей определённых демографических групп в невыгодное положение.
• Прозрачность и объяснимость: Из-за природы многих моделей ИИ как «чёрного ящика» людям трудно понять, как принимаются решения. Отсутствие прозрачности может подорвать доверие и подотчётность, поскольку пользователи не видят обоснования результатов, полученных с помощью ИИ.
• Конфиденциальность и слежка: Способность ИИ обрабатывать огромные объёмы персональных данных вызывает серьёзные опасения за конфиденциальность. Риск злоупотреблений при слежке высок: ИИ может отслеживать и наблюдать за людьми без их согласия.
• Подотчётность и ответственность: Определить, кто несёт ответственность, если системы ИИ причиняют вред или допускают ошибки, непросто. С автономными системами, например беспилотными автомобилями, задача становится ещё сложнее, поскольку ответственность может лежать на разных сторонах (разработчиках, производителях, пользователях).
• Защита и безопасность: Крайне важно защищать системы ИИ от кибератак и обеспечивать их безопасную работу в критически важных сферах, таких как здравоохранение и транспорт. Если злоумышленники воспользуются уязвимостями систем ИИ, это может привести к серьёзным последствиям.

Решая эти проблемы, мы можем разрабатывать системы ИИ, приносящие пользу обществу.

Внедрение этичных решений на основе ИИ#

Далее разберём, как внедрять этичные решения на основе ИИ, учитывающие каждую из описанных выше проблем. Сосредоточившись на таких ключевых направлениях, как создание непредвзятых моделей ИИ, просвещение заинтересованных сторон, приоритет конфиденциальности и обеспечение безопасности данных, организации могут создавать эффективные и этичные системы ИИ.

Создание непредвзятых моделей ИИ#

Создание непредвзятых моделей ИИ начинается с использования для обучения разнообразных и репрезентативных наборов данных. Регулярные проверки и методы выявления смещений помогают обнаруживать и устранять предвзятость. Такие методы, как повторная выборка или изменение весов, помогают сделать обучающие данные справедливее. Сотрудничество с экспертами в предметной области и привлечение к разработке разнообразных команд также помогает выявлять и устранять смещения с разных точек зрения. Эти шаги помогают предотвратить несправедливое предпочтение какими-либо группами со стороны систем ИИ.

Рис. 3. Предвзятые модели ИИ могут создавать цикл несправедливого отношения.

Повышение осведомлённости заинтересованных сторон#

Чем лучше ты понимаешь, как устроен «чёрный ящик» ИИ, тем меньше он пугает, поэтому всем участникам проекта с использованием ИИ важно понимать, как работает ИИ в том или ином приложении. Заинтересованные стороны, включая разработчиков, пользователей и лиц, принимающих решения, могут лучше учитывать этические последствия применения ИИ, если хорошо разбираются в разных понятиях, связанных с ИИ. Обучающие программы и семинары по таким темам, как предвзятость, прозрачность, подотчётность и конфиденциальность данных, помогут сформировать такое понимание. Подробная документация, объясняющая работу систем ИИ и процессы принятия ими решений, может укрепить доверие. Регулярное обсуждение и информирование об этичных практиках применения ИИ также могут стать важной частью корпоративной культуры.

Конфиденциальность как приоритет#

Приоритет конфиденциальности означает разработку надёжных политик и практик защиты персональных данных. Системы ИИ должны использовать данные, полученные с надлежащего согласия, и применять методы минимизации данных, чтобы ограничить объём обрабатываемой личной информации. Шифрование и обезличивание дополнительно защищают конфиденциальные данные.

Необходимо соблюдать требования нормативных актов о защите данных, таких как GDPR (Общий регламент по защите данных). GDPR устанавливает правила сбора и обработки персональной информации физических лиц на территории Европейского союза. Также важно открыто сообщать о сборе, использовании и хранении данных. Регулярная оценка воздействия на конфиденциальность помогает выявлять потенциальные риски и сохранять приоритет конфиденциальности.

Безопасность данных укрепляет доверие#

Помимо конфиденциальности, безопасность данных необходима для создания этичных систем ИИ. Надёжные меры кибербезопасности защищают данные от утечек и несанкционированного доступа. Чтобы не отставать от меняющихся угроз, необходимо регулярно проводить проверки безопасности и обновлять системы.

Системы ИИ должны включать такие средства защиты, как контроль доступа, безопасное хранение данных и мониторинг в реальном времени. Чёткий план реагирования на инциденты помогает организациям оперативно устранять проблемы безопасности. Демонстрируя приверженность защите данных, организации могут укрепить доверие пользователей и заинтересованных сторон.

Этичный ИИ в Ultralytics#

В Ultralytics этичный ИИ — один из основополагающих принципов нашей работы. Как говорит Гленн Джокер, основатель и генеральный директор: «Этичный ИИ — не просто возможность, а необходимость. Понимая требования законодательства и соблюдая их, мы можем гарантировать, что технологии ИИ разрабатываются и используются ответственно во всём мире. Главное — сочетать инновации с честностью и добросовестностью, чтобы ИИ служил человечеству на благо. Будем подавать пример и показывать, что ИИ может стать силой добра».

Эта философия побуждает нас ставить во главу угла справедливость, прозрачность и ответственность при разработке решений на базе ИИ. Учитывая этические принципы в процессе разработки, мы стремимся создавать технологии, которые продвигают инновации и при этом соответствуют высоким стандартам ответственности. Наша приверженность этичному ИИ помогает гарантировать, что наша работа приносит обществу пользу.

Во всём мире разрабатываются нормативные акты для ИИ#

В разных странах мира разрабатывают и внедряют нормативные акты для ИИ, которые призваны направлять этичное и ответственное использование технологий ИИ. Эти правила помогают сочетать инновации с моральными принципами и защищать людей и общество от потенциальных рисков, связанных с развитием ИИ.

Рис. 4. Ход разработки нормативных актов для ИИ в мире.

Вот несколько примеров мер по регулированию использования ИИ, принятых в разных странах:

• Европейский союз: В марте 2024 года Европейский парламент одобрил первый в мире закон об ИИ, установив чёткие правила использования искусственного интеллекта в ЕС. Регламент предусматривает строгую оценку рисков, контроль со стороны человека и требования к объяснимости, чтобы укрепить доверие пользователей в таких областях повышенного риска, как здравоохранение и распознавание лиц.
• Соединённые Штаты: Хотя федерального регулирования ИИ пока нет, появляются различные нормативные рамки и законы на уровне штатов. В документе Белого дома «План разработки Билля о правах в сфере ИИ» изложены принципы разработки ИИ. Такие штаты, как Калифорния, Нью-Йорк и Флорида, принимают важные законы, регулирующие прозрачность, ответственность и этичное использование ИИ в таких областях, как генеративный ИИ и автономные автомобили.
• Китай: Китай ввёл нормативные акты для отдельных сфер применения ИИ, таких как алгоритмические рекомендации, дипфейки и генеративный ИИ. Компании обязаны регистрировать свои модели ИИ и проводить оценку безопасности. Ожидается, что будущие законы об ИИ обеспечат более унифицированную нормативную базу, направленную на устранение рисков и укрепление соблюдения требований.

Как ты можешь содействовать ответственному использованию ИИ?#

Поддерживать этичный ИИ проще, чем кажется. Разобравшись в таких вопросах, как предвзятость, прозрачность и конфиденциальность, ты сможешь активно участвовать в обсуждении этичного ИИ. Поддерживай этические принципы и следуй им, регулярно проверяй справедливость решений и защищай конфиденциальность данных. Используя инструменты ИИ, такие как ChatGPT, открыто рассказывай об их применении: это укрепляет доверие и делает ИИ этичнее. Так ты поможешь поддерживать справедливую, прозрачную и ответственную разработку и использование ИИ.

В Ultralytics мы привержены этичному ИИ. Если хочешь больше узнать о наших решениях на базе ИИ и о том, как мы придерживаемся этических принципов, загляни в наш репозиторий на GitHub, присоединяйся к нашему сообществу и изучи наши последние решения для таких отраслей, как здравоохранение и производство.