Новые правила ИИ в Калифорнии: фокус на этичном ИИ

От беспилотных автомобилей до здравоохранения — инновации в области искусственного интеллекта (ИИ) и технологические компании нового поколения начинают играть ключевую роль в изменении нашей повседневной жизни. В результате мировой объем рынка ИИ в 2023 году составил 196,63 млрд долларов США, и ожидается, что с 2024 по 2030 год он будет расти в среднем на 36% в год. Эти цифры демонстрируют, как быстро развивается ИИ.

С одной стороны, быстрое развитие ИИ создает решения для различных проблем в разных отраслях. С другой стороны, эта скорость выявляет необходимость разработки ответственного ИИ, чтобы гарантировать, что улучшения являются этичными и приносят пользу обществу.

Например, в 2016 году Microsoft запустила чат-бота Tay в X (ранее Twitter). Он был разработан для обучения в процессе общения с пользователями. Однако вскоре после запуска Tay начал генерировать ответы с непрофессиональной лексикой, впитывая различные типы взаимодействий. Хотя Microsoft оперативно отключила бота, это отличный пример того, насколько важно убедиться, что данные, используемые для AI training, надежны, а общественность осведомлена о том, как компании используют такие data для AI продуктов.

Рис. 1. Твиттер-чат-бот Microsoft, Tay.

Решая эту проблему, губернатор Калифорнии Гэвин Ньюсом в сентябре этого года подписал более дюжины законопроектов, связанных с ИИ. Эти законы регулируют всё: от раскрытия сведений об обучающих данных до работы с дипфейками. В этой статье мы рассмотрим законы Калифорнии об ИИ и узнаем, что они влекут за собой. Давай начнем!

Link to this sectionЗаконодательство Калифорнии об ИИ 2024: обеспечение подотчетности#

Три основных законопроекта были подписаны, чтобы сделать разработку ИИ более безопасной и надежной. Законопроект Ассамблеи (AB) 2013, вступающий в силу в 2026 году, требует от поставщиков генеративного ИИ публиковать подробную информацию о своих обучающих наборах данных. Эти сведения включают источники наборов данных, подробности об использовании данных, количество точек данных в наборе, наличие данных, защищенных авторским правом или лицензией, период сбора данных и т. д. Обмен этой информацией поможет компаниям, занимающимся ИИ, завоевать доверие общественности.

Еще один важный законопроект, который был подписан, — это AB 1008. Он распространяет существующие законы Калифорнии о конфиденциальности на решения в области генеративного ИИ. AB 1008 был принят для решения проблем и повышения доверия населения к тому, как системы ИИ обрабатывают личную информацию. Опрос показал, что более 81% потребителей обеспокоены тем, что ИИ-компании могут использовать их информацию не по назначению. Устанавливая четкие ограничения на то, как бизнес может использовать личную информацию (например, имена, адреса и биометрические данные) и извлекать из нее прибыль, этот закон помогает компаниям в сфере ИИ заверить пользователей в том, что их данные будут обрабатываться ответственно, даже если они станут доступны системе ИИ.

Рис. 2. Инфографика, показывающая, что многие люди считают, что решения на базе ИИ могут быть улучшены в плане конфиденциальности.

Аналогичным образом, Законопроект Сената (SB) 896, или Закон о подотчетности генеративного ИИ, требует, чтобы Управление по чрезвычайным ситуациям Калифорнии (CalOES) проводило анализ рисков потенциальных угроз, исходящих от систем генеративного ИИ. CalOES будет работать с передовыми ИИ-фирмами, такими как OpenAI и Anthropic, для обсуждения и анализа потенциальных угроз ИИ для критически важной инфраструктуры штата.

Link to this sectionВнедрение ИИ и регулирование в образовательных учреждениях#

Мы уже рассматривали, как ИИ в образовании может персонализировать обучение, переосмыслить методы преподавания, предлагать обратную связь в режиме реального времени и поддерживать педагогов с помощью передовых инструментов и аналитики. На самом деле, инновации в области ИИ могут создать более эффективную и вовлекающую учебную среду для студентов. Педагоги и учителя по всему миру все чаще используют ИИ, при этом уже идут успешные пилотные проекты и более масштабные внедрения. Исследования показывают, что более 50% учителей считают, что ИИ в классах положительно повлиял на процесс преподавания и обучения.

Рис. 3. Опрос об отношении учителей к использованию ИИ в школах.

В Калифорнии приняты два закона, касающихся использования ИИ в образовательных учреждениях. AB 2876 предписывает Совету по образованию штата Калифорния учитывать основы ИИ (после 1 января 2025 года) в своих учебных программах и материалах по математике, естественным наукам и истории. Цель этого закона — гарантировать, что школы Калифорнии будут обучать студентов основам того, как работает искусственный интеллект, а также ограничениям, влиянию и этическим аспектам использования этой технологии.

В дополнение к этому, SB 1288 требует от суперинтендантов Калифорнии создать рабочие группы (до 1 января 2026 года), чтобы изучить, как ИИ используется в государственных школах. Эти рабочие группы должны представить свои выводы и рекомендации соответствующим политическим и бюджетным комитетам Законодательного собрания к 1 января 2027 года. После представления отчета рабочая группа будет распущена, а положения закона будут отменены 1 января 2031 года.

Link to this sectionРегулирование генеративного ИИ в здравоохранении#

Генеративный ИИ совершенствует отрасль здравоохранения, способствуя инновациям в открытии новых лекарств, диагностике заболеваний, планировании лечения и медицинских чат-ботах. Эти приложения могут приносить пользу, например, обеспечивать мониторинг в режиме реального времени, консультации и поддержку для улучшения результатов лечения пациентов. Другие технологии ИИ, такие как дополненная реальность (AR), также могут использоваться для планирования и симуляции хирургических операций.

Рис. 4. Варианты использования генеративного ИИ в здравоохранении.

Интеграция генеративного ИИ в здравоохранение сопровождается определенными предостережениями, связанными с конфиденциальностью данных и регулированием. Критически важно уделять первостепенное внимание точности, надежности и справедливости результатов, генерируемых ИИ, одновременно защищая конфиденциальность медицинской информации.

Для решения этих проблем Калифорния приняла два закона об использовании генеративного ИИ в здравоохранении. AB 3030 требует, чтобы медицинские работники раскрывали факт использования ими генеративного ИИ при общении с пациентом, особенно когда эти сообщения содержат клиническую информацию пациента. SB 1120 накладывает ограничения на то, как поставщики медицинских услуг и медицинские страховщики могут автоматизировать свои услуги. Эти новые законы также обеспечивают контроль лицензированных врачей за использованием инструментов ИИ в данных условиях.

Link to this sectionНормативно-правовая база Калифорнии в отношении дипфейков#

Штат Калифорния также принял законы, направленные на ограничение использования ИИ для распространения вводящей в заблуждение или неточной информации. SB 942 требует, чтобы популярные системы генеративного ИИ четко указывали в своих исходных данных, что контент был создан ИИ. Многие ИИ-компании уже делают это, и существует несколько бесплатных инструментов (ZeroGPT, Winston AI, GLTR и др.), которые могут помочь людям прочитать эти исходные данные и обнаружить контент, созданный ИИ.

Три новых закона (AB 1831, SB 926, SB 981) были приняты в Калифорнии для решения проблем, связанных с дипфейками. Эти законы расширяют существующую защиту, криминализируют неправомерное использование контента, созданного ИИ, и требуют от платформ социальных сетей создать каналы для сообщения о дипфейк-контенте. Законы вступят в силу к январю 2025 года.

Link to this sectionЗаконы Калифорнии об определении ИИ и его использовании в кино#

Один из принятых законопроектов был сосредоточен на даче надлежащего определения ИИ. AB 2885 гласит, что ИИ определяется как «разработанная или машинная система, которая варьируется по уровню автономности и которая может, для явных или неявных целей, делать выводы на основе получаемых данных о том, как генерировать выходные данные, способные влиять на физическую или виртуальную среду».

Также были введены два интересных закона для индустрии развлечений. Крупнейший профсоюз актеров кино и телевидения Америки (SAG-AFTRA) сыграл решающую роль в принятии этих законов. AB 2602 требует, чтобы киностудии получали разрешение от актера, прежде чем использовать ИИ для создания копии его голоса и внешности. Тем временем AB 1836 запрещает студиям создавать цифровые копии умерших исполнителей (подобно персонажу Питера Кушинга в фильме «Звездные войны: Изгой-один») без согласия их наследников.

Рис. 5. Персонаж Гранд-мофф Таркин был создан с использованием внешности покойного актера Питера Кушинга.

Link to this sectionДвижущий фактор законов Калифорнии об ИИ#

По мере того, как мы знакомились с каждым из этих законов, ты, возможно, задавался вопросом, зачем они на самом деле нужны. Регулирование ИИ уже некоторое время является популярной темой для обсуждения, но оно приобрело значительный импульс с ростом популярности дипфейкового контента, который затронул различные сферы, включая СМИ и политику. Использование контента, созданного ИИ, в Интернете вызвало обеспокоенность по поводу дезинформации и ее потенциального влияния на результаты выборов, например. Также растут опасения по поводу конфиденциальности и неправомерного использования личных данных инновациями ИИ. Эти проблемы стали фактором, из-за которого сейчас введено несколько новых законов для их решения.

Например, AB 2905 обязывает роботов-звонящих раскрывать, являются ли они голосами, созданными ИИ. Кроме того, AB 2655 призывает крупные онлайн-платформы, такие как Facebook и X, удалять или маркировать дипфейки, связанные с выборами, а также создавать каналы для сообщения о таком контенте. Кандидаты и выборные должностные лица также могут добиваться судебных запретов, если платформы не соблюдают эти требования.

Еще один закон, AB 2839, нацелен на пользователей социальных сетей, которые публикуют или репостят дипфейки, способные ввести избирателей в заблуждение. Аналогично, AB 2355 предусматривает четкое раскрытие информации для политической рекламы, созданной с использованием инструментов ИИ.

Link to this sectionОсновные выводы из новых законов Калифорнии об ИИ#

Новые законы Калифорнии об ИИ отражают растущее стремление сбалансировать инновации и подотчетность. Решая ключевые проблемы в таких областях, как прозрачность данных, конфиденциальность, дипфейки, а также использование ИИ в здравоохранении и образовании, эти законы направлены на защиту личности и общества при одновременном содействии ответственной разработке ИИ. Поскольку ИИ продолжает развиваться, эти правила помогут гарантировать, что его рост будет сопровождаться этической практикой и доверием общественности. Эти законы также могут побудить другие регионы по всему миру последовать их примеру.

Чтобы узнать больше, посети наш репозиторий на GitHub и присоединяйся к нашему сообществу. Изучи применения ИИ в производстве и сельском хозяйстве на наших страницах с решениями. 🚀