Новые правила регулирования ИИ в Калифорнии: акцент на этичный ИИ

От беспилотных автомобилей до здравоохранения — инновации в области искусственного интеллекта (AI) и технологические компании нового поколения начинают играть ключевую роль в преобразовании нашей повседневной жизни. Так, объём мирового рынка ИИ в 2023 году составил 196,63 млрд долларов США и, как ожидается, будет расти в среднем на 36% ежегодно с 2024 по 2030 год. Эти цифры показывают, насколько быстро развивается ИИ.

С одной стороны, стремительное развитие ИИ помогает находить решения для различных проблем во многих отраслях. С другой стороны, такие темпы подчёркивают необходимость ответственной разработки ИИ, чтобы улучшения были этичными и приносили пользу обществу.

Например, в 2016 году Microsoft запустила в X (ранее Twitter) чат-бота Tay, предназначенного для обучения на разговорах с пользователями. Однако вскоре после запуска Tay начал генерировать неуместные ответы, перенимая особенности разных взаимодействий. Microsoft быстро отключила бота, но этот случай наглядно показывает, как важно использовать надёжные данные для обучения ИИ и информировать общественность о том, как компании используют такие данные в продуктах на базе ИИ.

Рис. 1. Чат-бот Microsoft в Twitter — Tay.

Чтобы решить эту проблему, в сентябре губернатор Калифорнии Гэвин Ньюсом подписал более дюжины законов, связанных с ИИ. Они охватывают самые разные вопросы: от раскрытия сведений об обучающих данных до борьбы с дипфейками. В этой статье мы рассмотрим законы Калифорнии об ИИ и их содержание.

Законодательство Калифорнии об ИИ в 2024 году: обеспечение подотчётности#

Для повышения безопасности и надёжности разработки ИИ были приняты три важных законопроекта. Законопроект ассамблеи (AB) 2013, который вступит в силу в 2026 году, обязывает поставщиков генеративного ИИ публиковать сведения об обучающих наборах данных. В них должны быть указаны источники наборов данных, способы использования данных, количество точек данных в наборе, наличие материалов, защищённых авторским правом или используемых по лицензии, период сбора данных и другие сведения. Раскрытие этой информации поможет компаниям в сфере ИИ завоевать доверие общества.

Ещё один важный принятый законопроект — AB 1008. Он распространяет действующие законы Калифорнии о конфиденциальности на решения с генеративным ИИ. AB 1008 был предложен в ответ на обеспокоенность общества и для укрепления доверия к тому, как системы ИИ обрабатывают персональную информацию. Согласно опросу, более 81% потребителей опасаются, что компании в сфере ИИ могут использовать их данные не по назначению. Закон устанавливает чёткие ограничения на использование и монетизацию компаниями персональных данных, таких как имена, адреса и биометрические сведения. Благодаря этому компании в сфере ИИ могут заверить пользователей, что будут ответственно обращаться с их данными, даже если система ИИ получит к ним доступ.

Рис. 2. Инфографика показывает, что многие считают, что решения на основе ИИ можно улучшить в плане защиты конфиденциальности.

Аналогично, законопроект сената (SB) 896, или Закон об ответственности за генеративный ИИ, обязывает Управление по чрезвычайным ситуациям Калифорнии (CalOES) анализировать риски потенциальных угроз со стороны систем генеративного ИИ. CalOES будет сотрудничать с ведущими компаниями в сфере ИИ, такими как OpenAI и Anthropic, чтобы обсуждать и анализировать потенциальные угрозы ИИ для критически важной инфраструктуры штата.

Внедрение и регулирование ИИ в учебных заведениях#

Ранее мы рассказывали, как ИИ в образовании может персонализировать обучение, изменить методы преподавания, предоставлять обратную связь в реальном времени и помогать педагогам с помощью продвинутых инструментов и аналитики. Инновации в области ИИ действительно могут сделать учебную среду более эффективной и увлекательной для студентов. Педагоги и учителя по всему миру всё чаще используют ИИ, а успешные пилотные проекты переходят к более широкому внедрению. Исследования показывают, что более 50% учителей считают, что ИИ в классах положительно повлиял на процесс преподавания и обучения.

Рис. 3. Опрос об отношении учителей к использованию ИИ в школах.

В Калифорнии приняты два закона об использовании ИИ в образовательных учреждениях. AB 2876 обязывает Совет по образованию штата Калифорния включить грамотность в области ИИ (после 1 января 2025 года) в рамочные программы и учебные материалы по математике, естественным наукам и истории. Цель закона — обеспечить, чтобы школы Калифорнии обучали студентов основам работы искусственного интеллекта, а также его ограничениям, влиянию и этическим аспектам использования этой технологии.

Кроме того, SB 1288 обязывает руководителей школ Калифорнии создать рабочие группы (не позднее 1 января 2026 года), чтобы изучить применение ИИ в государственных школах. До 1 января 2027 года эти группы должны представить свои выводы и рекомендации соответствующим комитетам Законодательного собрания по вопросам политики и финансов. После подачи отчёта рабочая группа будет распущена, а положения закона утратят силу 1 января 2031 года.

Регулирование генеративного ИИ в здравоохранении#

Генеративный ИИ помогает развивать здравоохранение, открывая возможности для разработки новых лекарств, диагностики заболеваний, планирования лечения и создания медицинских чат-ботов. Такие приложения могут приносить пользу благодаря мониторингу в реальном времени, рекомендациям и поддержке, улучшая результаты лечения пациентов. Другие технологии, например дополненная реальность (AR), также можно использовать для планирования и моделирования хирургических операций.

Рис. 4. Примеры применения генеративного ИИ в здравоохранении.

Внедрение генеративного ИИ в здравоохранение сопряжено с определёнными сложностями, связанными с конфиденциальностью данных и регулированием. Крайне важно обеспечивать точность, надёжность и беспристрастность результатов, полученных с помощью ИИ, и одновременно защищать конфиденциальность медицинской информации.

Чтобы решить эти проблемы, Калифорния приняла два закона об использовании генеративного ИИ в здравоохранении. AB 3030 обязывает поставщиков медицинских услуг сообщать пациентам об использовании генеративного ИИ для общения с ними, особенно если сообщения содержат клиническую информацию пациента. SB 1120 ограничивает автоматизацию услуг поставщиками медицинских услуг и страховщиками. Эти новые законы также предусматривают, что использование инструментов ИИ в таких учреждениях должно проходить под надзором лицензированных врачей.

Нормативные акты Калифорнии об ИИ и дипфейках#

В штате Калифорния также приняли законы, ограничивающие использование ИИ для распространения вводящей в заблуждение или неточной информации. Закон SB 942 обязывает поставщиков генеративных систем ИИ с более чем миллионом пользователей в месяц встраивать скрытую (латентную) отметку в созданные этими системами изображения, видео и аудио, а также предлагать бесплатный инструмент для её обнаружения.

В Калифорнии приняли три новых закона (AB 1831, SB 926, SB 981), направленных на решение проблем, связанных с дипфейками. Эти законы расширяют существующие меры защиты, криминализируют неправомерное использование контента, созданного ИИ, и обязывают социальные сети создавать каналы для жалоб на дипфейки. Законы должны вступить в силу к январю 2025 года.

Законы Калифорнии об определении ИИ и его использовании в кино#

Один из принятых законопроектов был направлен на то, чтобы дать ИИ чёткое определение. AB 2885 определяет ИИ как «сконструированную или машинную систему с переменной степенью автономности, которая для достижения явных или неявных целей способна на основе получаемых входных данных делать выводы о том, как генерировать результаты, влияющие на физическую или виртуальную среду».

В индустрии развлечений также приняли два важных закона. Крупнейший в Америке профсоюз актёров кино и телевидения (SAG-AFTRA) сыграл ключевую роль в их принятии. Закон AB 2602 обязывает киностудии получать согласие актёра, прежде чем использовать ИИ для создания копии его голоса и внешности. Закон AB 1836, в свою очередь, запрещает студиям создавать цифровые копии умерших исполнителей (как, например, персонажа Питера Кушинга в фильме «Изгой-один: Звёздные войны. Истории») без согласия их наследников.

Рис. 5. Персонаж гранд-мофф Таркин создан на основе внешности покойного актёра Питера Кушинга.

Причины принятия законов Калифорнии об ИИ#

Рассмотрев эти законы, ты, возможно, задаёшься вопросом, зачем они нужны. Регулирование ИИ уже давно активно обсуждается, но с распространением дипфейков эта тема получила новый импульс и затронула самые разные сферы, включая медиа и политику. Например, использование контента, созданного ИИ, в интернете вызвало опасения по поводу дезинформации и её потенциального влияния на результаты выборов. Растёт и обеспокоенность конфиденциальностью и неправомерным использованием персональных данных в разработках ИИ. Именно эти опасения стали одной из главных причин принятия ряда новых законов.

Например, AB 2905 обязывает операторов автоматических звонков сообщать, используют ли они голоса, созданные ИИ. Кроме того, AB 2655 требует от крупных онлайн-платформ, таких как Facebook и X, удалять дипфейки, связанные с выборами, или помечать их, а также создавать каналы для сообщений о таком контенте. Если платформы не выполняют эти требования, кандидаты и избранные должностные лица могут обратиться за судебным запретом.

Другой закон, AB 2839, направлен против пользователей социальных сетей, которые публикуют или перепубликуют дипфейки, способные ввести избирателей в заблуждение. Аналогично, AB 2355 требует чётко указывать, что политическая реклама создана с помощью инструментов ИИ.

Главное о новых законах Калифорнии об ИИ#

Новые законы Калифорнии об ИИ отражают растущее стремление сочетать инновации с подотчётностью. Решая ключевые проблемы, связанные с прозрачностью данных, конфиденциальностью, дипфейками и применением ИИ в здравоохранении и образовании, эти законы призваны защищать людей и общество, одновременно способствуя ответственной разработке ИИ. По мере развития ИИ эти нормативные акты помогут обеспечить, чтобы технологический прогресс сопровождался этичными практиками и доверием общественности. Эти законы также могут побудить другие регионы мира последовать этому примеру.

Чтобы узнать больше, посети наш репозиторий GitHub и присоединяйся к нашему сообществу. Изучи примеры применения ИИ в производстве и сельском хозяйстве на страницах наших решений.