Нажав кнопку "Принять все файлы cookie", вы соглашаетесь с сохранением файлов cookie на вашем устройстве для улучшения навигации по сайту, анализа его использования и помощи в наших маркетинговых усилиях. Дополнительная информация
Настройки файлов cookie
Нажав кнопку "Принять все файлы cookie", вы соглашаетесь с сохранением файлов cookie на вашем устройстве для улучшения навигации по сайту, анализа его использования и помощи в наших маркетинговых усилиях. Дополнительная информация
Узнайте, как новые законы Калифорнии об искусственном интеллекте уравновешивают инновации и ответственность, охватывая вопросы конфиденциальности, глубоких подделок, здравоохранения, образования и безопасности.
От самоуправляемых автомобилей до здравоохранения- инновации в области искусственного интеллекта (ИИ) и технологические компании нового поколения начинают играть ключевую роль в изменении нашей повседневной жизни. В 2023 году объем мирового рынка ИИ составил 196,63 миллиарда долларов, а в период с 2024 по 2030 год ожидается ежегодный рост в среднем на 36 %. Эти цифры демонстрируют, насколько быстро развивается ИИ.
С одной стороны, стремительное развитие ИИ позволяет находить решения различных проблем в разных отраслях. С другой стороны, эта скорость заставляет задуматься о необходимости ответственного подхода к развитию ИИ , чтобы убедиться в этичности и полезности улучшений для общества.
Например, в 2016 году компания Microsoft запустила на сайте X (бывший Twitter) чат-бота Tay. Он был разработан, чтобы учиться на основе разговоров с пользователями. Однако вскоре после запуска Tay начал генерировать ответы с непрофессиональной лексикой, так как уловил ряд особенностей взаимодействия. Хотя Microsoft быстро отключила бота от сети, это хороший пример того, как важно обеспечить надежность данных, используемых для обучения ИИ, и информированность общественности о том, как компании используют эти данные для ИИ-продуктов.
Рис. 1. Чатбот для Twitter компании Microsoft, Tay.
Законодательство Калифорнии по искусственному интеллекту 2024 года: Обеспечение подотчетности
Подписаны три важных законопроекта, направленных на повышение безопасности и надежности разработок ИИ. Законопроект Ассамблеи (AB) 2013, который вступит в силу в 2026 году, обязывает поставщиков генеративного ИИ публиковать подробную информацию о своих обучающих наборах данных. К ним относятся источники данных, подробная информация о том, как используются данные, количество точек данных в наборе, включены ли данные, защищенные авторским правом или лицензией, период времени, за который были собраны данные, и т. д. Обмен этой информацией поможет ИИ-компаниям укрепить доверие общества.
Еще один важный законопроект, который был подписан, - AB 1008. Он распространяет существующие в Калифорнии законы о конфиденциальности на генеративные решения ИИ. AB 1008 был принят для того, чтобы снять озабоченность и повысить доверие общественности к тому, как системы искусственного интеллекта обращаются с личной информацией. Опрос показал, что более 81 % потребителей обеспокоены тем, что компании, использующие ИИ, могут использовать их информацию не по назначению. Устанавливая четкие ограничения на использование и извлечение прибыли из личной информации, такой как имена, адреса и биометрические данные, этот закон помогает компаниям, использующим ИИ, заверить пользователей в том, что их данные будут использоваться ответственно, даже если они будут раскрыты системой ИИ.
Рис. 2. Инфографика, показывающая, что многие люди считают, что решения ИИ могут быть улучшены с точки зрения конфиденциальности.
Ранее мы уже рассказывали о том, как ИИ в образовании может персонализировать учебный процесс, пересмотреть методы преподавания, предложить обратную связь в режиме реального времени и поддержать преподавателей с помощью передовых инструментов и знаний. По сути, инновации ИИ могут создать более эффективную и увлекательную среду обучения для студентов. Педагоги и учителя во всем мире все активнее используют ИИ, реализуя успешные пилотные проекты и внедряя его в более широком масштабе. Исследования показывают, что более 50 % учителей считают, что ИИ в классах положительно повлиял на процесс преподавания и обучения.
Рис. 3. Опрос, показывающий отношение учителей к использованию ИИ в школах.
Кроме того, SB 1288 требует от суперинтендантов Калифорнии создать рабочие группы (не позднее 1 января 2026 года) для изучения того, как ИИ используется в государственных школах. Эти рабочие группы должны будут представить свои выводы и рекомендации соответствующим политическим и финансовым комитетам законодательного органа до 1 января 2027 года. После представления отчета рабочая группа будет распущена, а положения закона будут отменены 1 января 2031 года.
Нормативные акты, регулирующие применение генеративного ИИ в здравоохранении
Рис. 4. Примеры использования генеративного ИИ в здравоохранении.
Интеграция генеративного ИИ в здравоохранение сопряжена с определенными предостережениями, связанными с конфиденциальностью данных и нормативными актами. Приоритет отдается точности, надежности и справедливости результатов, полученных с помощью ИИ, при одновременном обеспечении конфиденциальности медицинской информации.
Для решения этих проблем Калифорния приняла два закона об использовании генеративного ИИ в здравоохранении. AB 3030 требует от медицинских учреждений раскрывать информацию о том, когда они используют генеративный ИИ для общения с пациентом, в частности, когда эти сообщения содержат клиническую информацию о пациенте. SB 1120 накладывает ограничения на то, как поставщики медицинских услуг и медицинские страховые компании могут автоматизировать свои услуги. Эти новые законы также гарантируют, что лицензированные врачи будут контролировать использование инструментов искусственного интеллекта в этих учреждениях.
Калифорнийская нормативная база по искусственному интеллекту для глубоких подделок
В штате Калифорния также приняты законы, направленные на ограничение использования ИИ для распространения недостоверной или неточной информации. SB 942 требует, чтобы популярные системы генеративного ИИ четко указывали в своих исходных данных, что контент был создан ИИ. Многие ИИ-компании уже делают это, а несколько бесплатных инструментов (ZeroGPT, Winston AI, GLTR и др.) могут помочь людям прочитать эти исходные данные и обнаружить контент, созданный ИИ.
В Калифорнии были приняты три новых закона(AB 1831, SB 926, SB 981), направленные на решение проблем, связанных с фейками. Эти законы расширяют существующие меры защиты, вводят уголовную ответственность за неправомерное использование контента, созданного искусственным интеллектом, и обязывают платформы социальных сетей создавать каналы отчетности о фейковом контенте. Законы должны быть введены в действие к январю 2025 года.
Калифорнийские законы об искусственном интеллекте: определение искусственного интеллекта и его использование в кино
Один из законопроектов, принятых в качестве закона, был направлен на то, чтобы дать правильное определение ИИ. В AB 2885 говорится, что ИИ определяется как "инженерная или машинная система, которая варьируется по уровню автономности и которая может, для явных или неявных целей, делать выводы из получаемых ею входных данных о том, как генерировать выходные данные, которые могут влиять на физическую или виртуальную среду".
Также были приняты два интересных закона для индустрии развлечений. Крупнейший в Америке профсоюз актеров кино и телевещания (SAG-AFTRA) сыграл решающую роль в продвижении этих законов. AB 2602 требует, чтобы киностудии получали разрешение от актера, прежде чем использовать искусственный интеллект для создания копии его голоса и лица. Кроме того, AB 1836 запрещает студиям создавать цифровые копии умерших исполнителей (как, например, персонаж Питера Кушинга в фильме "Звездные войны: Rogue One") без согласия их наследников.
Рис. 5. Персонаж Гранд Мофф Таркин был создан по образу и подобию покойного актера Питера Кушинга.
Движущая сила калифорнийских законов об искусственном интеллекте
Знакомясь с каждым из этих законов, вы, возможно, задались вопросом, зачем они на самом деле нужны. Регулирование ИИ уже давно является популярной темой для обсуждения, но оно получило значительный импульс с появлением фейкового контента, который затронул различные сферы, включая СМИ и политику. Использование контента, генерируемого искусственным интеллектом, в сети вызвало обеспокоенность по поводу дезинформации и ее потенциального влияния на результаты выборов, например. Также растут опасения по поводу неприкосновенности частной жизни и неправомерного использования персональных данных инновациями ИИ. Эти вопросы стали одной из причин принятия ряда новых законов, направленных на решение этих проблем.
Например, законопроект AB 2905 обязывает робозвонки сообщать, являются ли они голосами, сгенерированными искусственным интеллектом. Кроме того, AB 2655 призывает крупные онлайн-платформы, такие как Facebook и X, удалять или маркировать фальшивки, связанные с выборами, и создавать каналы отчетности по такому контенту. Кандидаты и выборные должностные лица также могут добиваться судебного запрета, если платформы не выполняют требования.
Другой закон, AB 2839, направлен против пользователей социальных сетей, которые публикуют или репостят глубокие подделки, способные ввести избирателей в заблуждение. Аналогичным образом, закон AB 2355 предусматривает четкое раскрытие информации о политической рекламе, сделанной с помощью инструментов искусственного интеллекта.
Основные выводы из новых законов Калифорнии об искусственном интеллекте
Новые законы Калифорнии об искусственном интеллекте отражают растущее стремление к балансу между инновациями и ответственностью. Решая ключевые проблемы в таких областях, как прозрачность данных, конфиденциальность, глубокие подделки и использование ИИ в здравоохранении и образовании, эти законы направлены на защиту личности и общества, способствуя ответственному развитию ИИ. Поскольку ИИ продолжает развиваться, эти законы помогут обеспечить, чтобы его рост сопровождался этическими нормами и доверием общества. Эти законы также могут побудить другие регионы мира последовать их примеру.
