5 сентября 2024 г.
Научитесь разрабатывать ответственные ИИ-решения с помощью Ultralytics YOLOv8, следуя лучшим практикам этики и безопасности и отдавая предпочтение честным и соответствующим требованиям ИИ-инновациям.
Будущее ИИ находится в руках разработчиков, технических энтузиастов, бизнес-лидеров и других заинтересованных сторон, которые используют инструменты и модели, подобные Ultralytics YOLOv8, для стимулирования инноваций. Однако создание эффективных решений на основе ИИ - это не только использование передовых технологий. Это еще и ответственное отношение к делу.
В последнее время ответственный ИИ стал популярной темой для обсуждения в сообществе ИИ, и все больше людей говорят о его важности и делятся своими мыслями. Начиная с онлайн-дискуссий и заканчивая отраслевыми мероприятиями, все большее внимание уделяется тому, как сделать ИИ не только мощным, но и этичным. Общей темой этих разговоров является акцент на том, чтобы все, кто участвует в проекте ИИ, придерживались ответственного подхода к ИИ на каждом этапе.
В этой статье мы начнем с изучения некоторых недавних событий и дискуссий, связанных с ответственным ИИ. Затем мы подробнее рассмотрим уникальные этические проблемы и проблемы безопасности при разработке проектов в области компьютерного зрения, а также то, как сделать так, чтобы ваша работа была одновременно инновационной и этичной. Приняв принципы ответственного ИИ, мы сможем создать ИИ, который действительно принесет пользу всем!
В последние годы наблюдается заметное стремление сделать ИИ более этичным. Если в 2019 году только 5 % организаций разработали этические принципы для ИИ, то к 2020 году это число подскочило до 45 %. Как следствие, мы начинаем видеть все больше новостей, связанных с проблемами и успехами этого этического сдвига. В частности, много шума наделала тема генеративного ИИ и его ответственного использования.
В первом квартале 2024 года широко обсуждался ИИ-чатбот Gemini компании Google, который может генерировать изображения на основе текстовых подсказок. В частности, Gemini использовался для создания изображений, на которых различные исторические фигуры, например немецкие солдаты Второй мировой войны, изображались как люди с цветом кожи. ИИ-чатбот был спроектирован таким образом, чтобы разнообразить изображение людей на создаваемых им изображениях, чтобы быть намеренно инклюзивным. Однако в некоторых случаях система неверно интерпретировала определенные контексты, в результате чего изображения считались неточными и неуместными.
Глава поискового отдела Google Прабхакар Рагхаван объяснил в своем блоге, что ИИ стал слишком осторожным и даже отказывался генерировать изображения в ответ на нейтральные подсказки. Хотя функция генерации изображений Gemini была призвана способствовать разнообразию и инклюзивности визуального контента, это вызвало обеспокоенность по поводу точности исторических представлений и более широких последствий для предвзятости и ответственной разработки ИИ. В настоящее время ведутся споры о том, как сбалансировать цель поощрения разнообразных представлений в генерируемом ИИ контенте с необходимостью обеспечения точности и защиты от искажений.
Подобные истории наглядно показывают, что по мере развития ИИ и его интеграции в нашу повседневную жизнь решения, принимаемые разработчиками и компаниями, могут существенно повлиять на общество. В следующем разделе мы рассмотрим советы и лучшие практики для ответственного создания и управления системами ИИ в 2024 году. Независимо от того, начинаете ли вы или хотите усовершенствовать свой подход, эти рекомендации помогут вам внести свой вклад в более ответственное будущее ИИ.
При создании решений для компьютерного зрения с помощью YOLOv8 важно помнить о нескольких ключевых этических соображениях, таких как предвзятость, справедливость, конфиденциальность, доступность и инклюзивность. Давайте рассмотрим эти факторы на практическом примере.
Допустим, вы разрабатываете систему видеонаблюдения для больницы, которая следит за коридорами на предмет подозрительного поведения. Система может использовать YOLOv8 для обнаружения людей, задерживающихся в запретных зонах, несанкционированного доступа или даже для выявления пациентов, которым может понадобиться помощь, например, забредших в небезопасные зоны. Система будет анализировать видеозаписи с камер наблюдения по всей больнице и в режиме реального времени отправлять предупреждения сотрудникам службы безопасности, если произойдет что-то необычное.
Если ваша модель YOLOv8 обучена на предвзятых данных, она может несправедливо ориентироваться на определенные группы людей по таким факторам, как раса или пол, что приведет к ложным предупреждениям или даже дискриминации. Чтобы избежать этого, необходимо сбалансировать набор данных и использовать методы для обнаружения и исправления любых предубеждений, например:
Конфиденциальность - еще одна важная проблема, особенно в таких учреждениях, как больницы, где используется конфиденциальная информация. YOLOv8 может фиксировать личные данные пациентов и персонала, например их лица или действия. Чтобы защитить их конфиденциальность, можно предпринять такие шаги, как анонимизация данных для удаления любой идентифицируемой информации, получение надлежащего согласия от людей перед использованием их данных или размытие лиц в видеозаписи. Также нелишним будет зашифровать данные и обеспечить их надежное хранение и передачу во избежание несанкционированного доступа.
Также важно, чтобы ваша система была доступной и инклюзивной. Вы должны убедиться, что она работает для всех, независимо от их возможностей. В условиях больницы это означает, что система должна быть удобной в использовании для всех сотрудников, пациентов и посетителей, включая людей с ограниченными возможностями или другими потребностями в доступе. Наличие разнообразной команды может иметь большое значение. Члены команды с разным опытом могут предложить новые идеи и помочь выявить потенциальные проблемы, которые могут быть упущены. Привлекая различные точки зрения, вы с большей вероятностью создадите систему, которая будет удобной и доступной для широкого круга людей.
При внедрении YOLOv8 в реальные приложения важно уделять первостепенное внимание безопасности, чтобы защитить как саму модель, так и данные, которые она использует. Возьмем, к примеру, систему управления очередями в аэропорту, которая использует компьютерное зрение с YOLOv8 для мониторинга пассажиропотока. YOLOv8 можно использовать для отслеживания перемещения пассажиров через пункты контроля безопасности, выходы на посадку и другие зоны, чтобы выявить места скопления людей и оптимизировать поток, сократив время ожидания. Система может использовать камеры, расположенные в стратегически важных местах аэропорта, для захвата видео в реальном времени, при этом YOLOv8 будет обнаруживать и подсчитывать пассажиров в режиме реального времени. Полученные с помощью этой системы данные могут быть использованы для предупреждения персонала о слишком длинных очередях, автоматического открытия новых контрольно-пропускных пунктов или корректировки численности персонала, чтобы сделать работу более плавной.
В таких условиях очень важно защитить модель YOLOv8 от атак и несанкционированного доступа. Это можно сделать с помощью шифрования файлов модели, чтобы неавторизованные пользователи не могли легко получить к ним доступ или изменить их. Вы можете развернуть модель на защищенных серверах и настроить контроль доступа для предотвращения несанкционированного доступа. Регулярные проверки и аудит безопасности помогут выявить любые уязвимости и обеспечить безопасность системы. Аналогичные методы можно использовать для защиты конфиденциальных данных, например видеозаписей пассажиров.
Чтобы еще больше укрепить безопасность, в процесс разработки можно интегрировать такие инструменты, как Snyk, GitHub CodeQL и Dependabot. Snyk помогает выявить и устранить уязвимости в коде и зависимостях, GitHub CodeQL проверяет код на наличие проблем с безопасностью, а Dependabot поддерживает зависимости в актуальном состоянии с помощью последних патчей безопасности. В Ultralytics эти инструменты были внедрены для обнаружения и предотвращения уязвимостей в системе безопасности.
Несмотря на благие намерения и следование передовым практикам, все равно могут возникнуть ошибки, оставляющие пробелы в ваших ИИ-решениях, особенно когда речь идет об этике и безопасности. Знание этих распространенных проблем поможет вам заблаговременно решить их и создать более надежные модели YOLOv8. Вот некоторые подводные камни, которых следует остерегаться, и советы, как их избежать:
Создание ИИ-решений с помощью YOLOv8 открывает множество интересных возможностей, но при этом крайне важно помнить об этике и безопасности. Сосредоточившись на справедливости, конфиденциальности, прозрачности и соблюдении правильных правил, мы сможем создать модели, которые будут хорошо работать и уважать права людей. Легко упустить из виду такие вещи, как необъективность данных, защита конфиденциальности или уверенность в том, что все могут пользоваться системой, но если уделить время решению этих вопросов, то можно изменить ход игры. Продолжая расширять границы возможностей ИИ с помощью таких инструментов, как YOLOv8, давайте помнить о человеческой стороне технологий. Вдумчивый и активный подход позволит нам создавать ответственные и передовые инновации в области ИИ!
Присоединяйтесь к нашему сообществу, чтобы узнать о последних обновлениях в области искусственного интеллекта! Кроме того, вы можете узнать больше об искусственном интеллекте, посетив наш репозиторий GitHub и изучив наши решения в различных областях, таких как производство и самостоятельное вождение.
RU
EN
ZH
KO
JA
DE
FR
ES
PT
IT
TR
VI
AR.webp)
