Новые правила ИИ в Калифорнии: фокус на этичном ИИ
Узнай, как новые законы штата Калифорния об ИИ балансируют между инновациями и подотчетностью, охватывая конфиденциальность, дипфейки, здравоохранение, образование и безопасность.
От self-driving cars до healthcare инновации в области искусственного интеллекта (ИИ) и технологические компании нового поколения начинают играть ключевую роль в изменении нашей повседневной жизни. В результате в 2023 году объем мирового рынка ИИ составил 196,63 млрд долларов, и ожидается, что с 2024 по 2030 год он будет расти в среднем на 36% ежегодно. Эти цифры показывают, как быстро развивается ИИ.
С одной стороны, быстрое развитие ИИ создает решения для различных проблем в разных отраслях. С другой стороны, эта скорость выявляет необходимость ответственной разработки ИИ, чтобы гарантировать, что улучшения будут этичными и полезными для общества.
Например, в 2016 году Microsoft запустила чат-бота Tay в X (ранее Twitter). Он был создан для обучения в ходе общения с пользователями. Однако вскоре после выпуска Tay начал выдавать ответы с непрофессиональным языком, так как перенимал различные особенности общения. Хотя Microsoft оперативно отключила бота, это отличный пример того, насколько важно обеспечивать надежность данных, используемых для обучения ИИ, и информировать общественность о том, как компании используют такие данные для продуктов на базе ИИ.
Рис. 1. Чат-бот Microsoft в Twitter, Tay.
Решая эту проблему, губернатор Калифорнии Гевин Ньюсом подписал в сентябре более десятка законов, связанных с ИИ. Эти законы затрагивают всё: от раскрытия информации о тренировочных данных до борьбы с дипфейками. В этой статье мы рассмотрим законы Калифорнии об ИИ и то, что они в себе несут. Давай начнем!
Законодательство Калифорнии об ИИ 2024: обеспечение подотчетности#
Три ключевых законопроекта были подписаны в качестве законов, чтобы сделать развитие ИИ более безопасным и надежным. Закон Ассамблеи (AB) 2013, который вступает в силу в 2026 году, обязывает разработчиков генеративного ИИ публиковать подробную информацию о своих наборах обучающих данных. Эта информация включает в себя источники датасетов, сведения о том, как используются данные, количество точек данных в наборе, наличие в нем материалов, защищенных авторским правом или лицензией, период времени, за который были собраны данные, и т. д. Публикация этой информации поможет компаниям, занимающимся ИИ, завоевать доверие общественности.
Еще один важный подписанный законопроект — AB 1008. Он распространяет действующие в Калифорнии законы о конфиденциальности на решения на базе генеративного ИИ. AB 1008 был принят для решения проблем и повышения доверия общественности к тому, как системы ИИ обрабатывают личную информацию. Опрос показал, что более 81% потребителей опасаются, что компании, занимающиеся ИИ, могут использовать их информацию непреднамеренным образом. Установив четкие ограничения на то, как бизнес может использовать персональные данные (такие как имена, адреса и биометрические данные) и извлекать из них выгоду, этот закон помогает компаниям в сфере ИИ заверить пользователей в том, что с их данными будут обращаться ответственно, даже если они станут доступны системе ИИ.
Рис. 2. Инфографика, показывающая, что многие считают, что решения на базе ИИ могут стать лучше в вопросах конфиденциальности.
Аналогичным образом, Сенатский законопроект (SB) 896 (или Закон об ответственности в сфере генеративного ИИ) требует, чтобы Управление по чрезвычайным ситуациям Калифорнии (CalOES) проводило анализ рисков потенциальных угроз, испускаемых системами генеративного ИИ. CalOES будет сотрудничать с передовыми ИИ-компаниями, такими как OpenAI и Anthropic, для обсуждения и анализа потенциальных угроз ИИ для критически важной инфраструктуры штата.
Внедрение ИИ и регулирование в образовательных учреждениях#
Ранее мы уже рассказывали о том, как ИИ в образовании может персонализировать процесс обучения, переосмыслить методы преподавания, предлагать обратную связь в реальном времени и помогать преподавателям с помощью передовых инструментов и аналитики. Инновации в сфере ИИ действительно могут создать более эффективную и вовлекающую учебную среду для учащихся. Педагоги и учителя по всему миру все чаще используют ИИ, причем успешные пилотные проекты и более масштабные внедрения уже реализуются. Исследования показывают, что более 50% учителей считают, что ИИ в классах оказал положительное влияние на процесс преподавания и обучения.
Рис. 3. Опрос, показывающий отношение учителей к использованию ИИ в школах.
Калифорния представила два закона, касающихся использования ИИ в учебных заведениях. AB 2876 обязывает Государственный совет по образованию Калифорнии учитывать основы грамотности в сфере ИИ (после 1 января 2025 года) в своих учебных программах и материалах по математике, естественным наукам и истории. Цель этого закона — гарантировать, что школы Калифорнии обучают студентов основам того, как работает искусственный интеллект, а также ограничениям, последствиям и этическим аспектам использования этой технологии.
В дополнение к этому SB 1288 требует, чтобы суперинтенданты Калифорнии создали рабочие группы (не позднее 1 января 2026 года) для изучения того, как ИИ используется в государственных школах. Эти рабочие группы должны будут представить свои выводы и рекомендации соответствующим политическим и финансовым комитетам Законодательного собрания до 1 января 2027 года. После предоставления отчета рабочая группа будет распущена, а положения утратят силу 1 января 2031 года.
Регулирование генеративного ИИ в здравоохранении#
Генеративный ИИ совершенствует сферу здравоохранения, открывая возможности для создания новых лекарств, диагностики заболеваний, планирования лечения и медицинских чат-ботов. Эти приложения могут предоставлять такие преимущества, как мониторинг в реальном времени, консультации и поддержка для улучшения результатов лечения пациентов. Другие технологии ИИ, такие как дополненная реальность (AR), также могут использоваться для планирования и симуляции хирургических операций.
Рис. 4. Варианты использования генеративного ИИ в здравоохранении.
Интеграция генеративного ИИ в здравоохранение сопровождается определенными предостережениями, связанными с конфиденциальностью данных и регулированием. Критически важно уделять первостепенное внимание точности, надежности и справедливости результатов, генерируемых ИИ, одновременно защищая конфиденциальность медицинской информации.
Для решения этих задач Калифорния приняла два закона об использовании генеративного ИИ в здравоохранении. AB 3030 требует, чтобы поставщики медицинских услуг сообщали об использовании генеративного ИИ для общения с пациентом, особенно когда эти сообщения содержат клиническую информацию пациента. SB 1120 накладывает ограничения на то, как поставщики медицинских услуг и медицинские страховщики могут автоматизировать свои услуги. Эти новые законы также гарантируют, что лицензированные врачи контролируют использование инструментов ИИ в таких условиях.
Нормативно-правовая база Калифорнии в отношении дипфейков#
Штат Калифорния также принял законы, направленные на пресечение использования ИИ для распространения вводящей в заблуждение или неточной информации. SB 942 требует, чтобы популярные системы генеративного ИИ четко укалывали в своих исходных данных, что контент создан с помощью ИИ. Многие компании, занимающиеся ИИ, уже делают это, и существует несколько бесплатных инструментов (ZeroGPT, Winston AI, GLTR и др.), которые помогают людям читать эти исходные данные и обнаруживать контент, сгенерированный ИИ.
В Калифорнии были приняты три новых закона (AB 1831, SB 926, SB 981) для решения проблем, связанных с дипфейками. Эти законы расширяют существующую защиту, криминализируют неправомерное использование контента, созданного ИИ, и требуют от социальных сетей создания каналов для жалоб на дипфейки. Законы должны вступить в силу к январю 2025 года.
Законы Калифорнии об определении ИИ и его использовании в кино#
Один из принятых законов был сосредоточен на том, чтобы дать четкое определение ИИ. В законе AB 2885 указано, что ИИ определяется как «инженерная или машинная система, которая варьируется по уровню своей автономности и которая может для достижения явных или неявных целей делать выводы на основе получаемых данных о том, как генерировать результаты, способные влиять на физическую или виртуальную среду».
Также было принято два интересных закона для индустрии развлечений. Крупнейший профсоюз актеров кино и телевидения Америки (SAG-AFTRA) сыграл ключевую роль в принятии этих законов. AB 2602 требует, чтобы киностудии получали разрешение у актера перед использованием ИИ для создания копии его голоса и внешности. Между тем AB 1836 запрещает студиям создавать цифровые копии умерших исполнителей (подобно персонажу Питера Кушинга в фильме «Звездные войны: Изгой-один») без согласия их наследников.
Рис. 5. Персонаж, гранд-мофф Таркин, был создан с использованием внешности покойного актера Питера Кушинга.
Движущий фактор законов Калифорнии об ИИ#
По мере того как мы знакомились с каждым из этих законов, ты, возможно, задавался вопросом, зачем они действительно нужны. Регулирование ИИ уже некоторое время является популярной темой для обсуждения, но оно набрало значительный импульс с ростом популярности дипфейков, которые затронули различные сферы, включая медиа и политику. Использование контента, созданного ИИ в интернете, вызвало опасения по поводу дезинформации и ее потенциального влияния на результаты выборов, например. Растут также опасения по поводу конфиденциальности и неправомерного использования личных данных инновациями в сфере ИИ. Эти проблемы стали фактором того, почему сейчас действует несколько новых законов, направленных на их решение.
Например, AB 2905 требует, чтобы в автоматических звонках (робоколлах) сообщалось, созданы ли голоса с помощью ИИ. Кроме того, AB 2655 призывает крупные онлайн-платформы, такие как Facebook и X, удалять или маркировать дипфейки, связанные с выборами, а также создавать каналы для жалоб на такой контент. Кандидаты и избранные должностные лица также могут добиваться судебного запрета, если платформы не выполняют требования.
Другой закон, AB 2839, нацелен на пользователей соцсетей, которые публикуют или репостят дипфейки, способные ввести избирателей в заблуждение. Аналогичным образом AB 2355 предусматривает четкие правила раскрытия информации для политической рекламы, созданной с помощью инструментов ИИ.
Основные выводы из новых законов Калифорнии об ИИ#
Новые законы Калифорнии об ИИ отражают растущее стремление сбалансировать инновации и подотчетность. Решая ключевые проблемы в таких областях, как прозрачность данных, конфиденциальность, дипфейки, а также использование ИИ в здравоохранении и образовании, эти законы направлены на защиту личности и общества при одновременном содействии ответственной разработке ИИ. Поскольку ИИ продолжает развиваться, эти правила помогут гарантировать, что его рост будет сопровождаться этической практикой и доверием общественности. Эти законы также могут побудить другие регионы по всему миру последовать их примеру.
Чтобы узнать больше, посети наш репозиторий на GitHub и присоединяйся к нашему сообществу. Изучи возможности применения ИИ в производстве и сельском хозяйстве на наших страницах решений. 🚀
