10 октября 2024 г.
Узнайте, как новые законы Калифорнии об ИИ обеспечивают баланс между инновациями и подотчетностью, охватывая конфиденциальность, дипфейки, здравоохранение, образование и безопасность.
От самоуправляемых автомобилей до здравоохранения, инновации в области искусственного интеллекта (ИИ) и технологические компании следующего поколения начинают играть ключевую роль в изменении нашей повседневной жизни. Следовательно, глобальный размер рынка ИИ составил 196,63 миллиарда долларов в 2023 году и, как ожидается, будет расти в среднем на 36% в год с 2024 по 2030 год. Эти цифры показывают, как быстро растет ИИ.
С одной стороны, быстрое развитие ИИ создает решения различных проблем в разных отраслях. С другой стороны, такая скорость высвечивает необходимость ответственной разработки ИИ, чтобы убедиться, что улучшения являются этичными и полезными для общества.
Например, в 2016 году Microsoft запустила чат-бота Tay в X (ранее Twitter). Он был разработан для обучения на основе разговоров с пользователями. Однако вскоре после выпуска Tay начал генерировать ответы с непрофессиональной лексикой, поскольку он улавливал различные взаимодействия. Хотя Microsoft быстро отключила бота, это хороший пример важности обеспечения надежности данных, используемых для обучения ИИ, и того, чтобы общественность знала, как компании используют такие данные для продуктов ИИ.
Решая эту проблему, губернатор Калифорнии Гэвин Ньюсом в сентябре подписал более десятка законов, касающихся ИИ. Эти законы касаются всего: от раскрытия информации об обучающих данных до обработки дипфейков. В этой статье мы рассмотрим законы Калифорнии об ИИ и то, что они влекут за собой. Давайте начнем!
Были подписаны три основных законопроекта, направленных на поддержку повышения безопасности и надежности разработки ИИ. Законопроект Ассамблеи (AB) 2013, который вступит в силу в 2026 году, требует от поставщиков генеративного ИИ публиковать подробную информацию о своих наборах данных для обучения. Эти сведения включают в себя источники наборов данных, подробную информацию о том, как используются данные, количество точек данных в наборе, включены ли данные, защищенные авторским правом или лицензированные, период сбора данных и т. д. Обмен этой информацией поможет компаниям, занимающимся ИИ, завоевать доверие общественности.
Еще одним важным подписанным законопроектом стал AB 1008. Он расширяет существующие законы Калифорнии о конфиденциальности на генеративные решения ИИ. AB 1008 был представлен для решения проблем и повышения доверия общественности к тому, как системы ИИ обрабатывают личную информацию. Опрос показал, что более 81% потребителей обеспокоены тем, что компании, занимающиеся ИИ, могут использовать их информацию способами, которые они не предполагали. Устанавливая четкие ограничения на то, как предприятия могут использовать личную информацию, такую как имена, адреса и биометрические данные, и получать от нее прибыль, этот закон помогает компаниям, занимающимся ИИ, заверить пользователей в том, что их данные будут обрабатываться ответственно, даже если они будут раскрыты системой ИИ.
Аналогично, Законопроект Сената (SB) 896, или Закон об ответственности за генеративный ИИ, требует от Управления служб экстренного реагирования Калифорнии (CalOES) проводить анализ рисков потенциальных угроз, исходящих от генеративных систем ИИ. CalOES будет сотрудничать с ведущими фирмами в области ИИ, такими как OpenAI и Anthropic, для обсуждения и анализа потенциальных угроз ИИ для критически важной инфраструктуры штата.
Ранее мы изучали, как ИИ в образовании может персонализировать процесс обучения, переосмыслить методы преподавания, предлагать обратную связь в режиме реального времени и поддерживать преподавателей с помощью передовых инструментов и аналитических данных. Фактически, инновации в области ИИ могут создать более эффективную и привлекательную среду обучения для студентов. Преподаватели и учителя во всем мире все чаще используют ИИ, при этом успешно реализуются пилотные проекты и более широкие внедрения. Исследования показывают, что более 50% учителей считают, что ИИ в классах положительно повлиял на процесс преподавания и обучения.
В Калифорнии введены два закона, касающиеся использования ИИ в образовательных учреждениях. AB 2876 обязывает Государственный совет по образованию Калифорнии рассмотреть вопрос о включении ИИ-грамотности (после 1 января 2025 года) в свои математические, научные и исторические учебные программы и учебные материалы. Цель этого закона - обеспечить, чтобы школы Калифорнии обучали учащихся основам работы искусственного интеллекта, а также ограничениям, воздействию и этическим соображениям использования этой технологии.
В дополнение к этому, SB 1288 требует от суперинтендантов Калифорнии создать рабочие группы (не позднее 1 января 2026 года) для изучения того, как ИИ используется в государственных школах. Этим рабочим группам необходимо будет представить свои выводы и рекомендации в соответствующие политические и финансовые комитеты Законодательного собрания к 1 января 2027 года. После представления отчета рабочая группа будет распущена, а положения будут отменены 1 января 2031 года.
Генеративный ИИ улучшает индустрию здравоохранения, позволяя внедрять инновации для открытия новых лекарств, диагностики заболеваний, планирования лечения и медицинских чат-ботов. Эти приложения могут предоставить такие преимущества, как мониторинг в реальном времени, консультации и поддержка для улучшения результатов лечения пациентов. Другие технологии ИИ, такие как дополненная реальность (AR), также могут использоваться для планирования и моделирования хирургических процедур.
Интеграция генеративного ИИ в здравоохранение сопряжена с определенными оговорками, связанными с конфиденциальностью данных и нормативными требованиями. Приоритетное внимание к точности, надежности и справедливости результатов, генерируемых ИИ, при одновременной защите конфиденциальности медицинской информации имеет решающее значение.
Для решения этих проблем в Калифорнии были приняты два закона об использовании генеративного ИИ в здравоохранении. AB 3030 требует, чтобы поставщики медицинских услуг раскрывали информацию об использовании генеративного ИИ для общения с пациентом, особенно когда эти сообщения содержат клиническую информацию о пациенте. SB 1120 накладывает ограничения на то, как поставщики медицинских услуг и страховые компании могут автоматизировать свои услуги. Эти новые законы также обеспечивают контроль лицензированных врачей за использованием инструментов ИИ в этих условиях.
В штате Калифорния также были приняты законы, направленные на ограничение использования ИИ для распространения вводящей в заблуждение или неточной информации. SB 942 требует, чтобы популярные генеративные системы ИИ четко указывали в своих исходных данных, что контент был создан ИИ. Многие компании, занимающиеся разработкой ИИ, уже делают это, и существует несколько бесплатных инструментов (ZeroGPT, Winston AI, GLTR и т. д.), которые могут помочь людям прочитать эти исходные данные и обнаружить контент, сгенерированный ИИ.
В Калифорнии были приняты три новых закона (AB 1831, SB 926, SB 981), направленных на решение проблем, связанных с дипфейками. Эти законы расширяют существующую защиту, криминализируют неправомерное использование контента, созданного ИИ, и требуют от платформ социальных сетей создания каналов для сообщения о дипфейк-контенте. Законы должны быть введены в действие к январю 2025 года.
Один из законопроектов, который был принят в качестве закона, был посвящен надлежащему определению ИИ. В AB 2885 говорится, что ИИ определяется как «разработанная или машинная система, которая варьируется по уровню своей автономности и которая может для явных или неявных целей делать выводы из входных данных, которые она получает, о том, как генерировать выходные данные, которые могут влиять на физическую или виртуальную среду».
Также были приняты два интересных закона для индустрии развлечений. Крупнейший в Америке профсоюз актеров кино и телевидения (SAG-AFTRA) сыграл решающую роль в принятии этих законов. AB 2602 требует, чтобы киностудии получали разрешение от актера, прежде чем использовать ИИ для создания копии его голоса и внешности. Между тем, AB 1836 запрещает студиям создавать цифровые копии умерших исполнителей (подобно персонажу Питера Кушинга в «Звездных войнах: Изгой-один») без согласия их наследников.
По мере того, как мы ознакомились с каждым из этих законов, вы могли задаться вопросом, зачем они действительно нужны. Регулирование AI уже некоторое время является популярной темой для обсуждения, но оно получило значительный импульс с ростом дипфейк-контента, который повлиял на различные области, включая СМИ и политику. Использование AI-сгенерированного контента в Интернете вызвало обеспокоенность по поводу дезинформации и ее потенциального влияния на результаты выборов, например. Растет также опасение по поводу конфиденциальности и злоупотребления персональными данными со стороны AI-инноваций. Эти вопросы стали фактором, объясняющим, почему в настоящее время действует несколько новых законов, направленных на решение этих проблем.
Например, AB 2905 требует, чтобы автоматизированные телефонные звонки раскрывали, сгенерированы ли они голосами ИИ. Кроме того, AB 2655 призывает крупные онлайн-платформы, такие как Facebook и X, удалять или маркировать дипфейки, связанные с выборами, и создавать каналы для сообщений о таком контенте. Кандидаты и избранные должностные лица также могут обращаться за судебным запретом, если платформы не соблюдают требования.
Другой закон, AB 2839, нацелен на пользователей социальных сетей, которые публикуют или перепубликуют дипфейки, которые могут ввести избирателей в заблуждение. Аналогичным образом, AB 2355 предусматривает четкое раскрытие информации для политической рекламы, созданной с использованием инструментов ИИ.
Новые законы Калифорнии об ИИ отражают растущую приверженность сбалансированному подходу к инновациям и подотчетности. Решая ключевые проблемы в таких областях, как прозрачность данных, конфиденциальность, дипфейки и использование ИИ в здравоохранении и образовании, эти законы направлены на защиту отдельных лиц и общества, а также на содействие ответственному развитию ИИ. Поскольку ИИ продолжает развиваться, эти правила помогут обеспечить, чтобы его рост сопровождался этическими нормами и общественным доверием. Эти законы могут также побудить другие регионы мира последовать этому примеру.
Чтобы узнать больше, посетите наш репозиторий GitHub и взаимодействуйте с нашим сообществом. Изучите приложения ИИ в производстве и сельском хозяйстве на страницах наших решений. 🚀
