Новые правила в области ИИ в Калифорнии: акцент на этичный ИИ
Узнай, как новые законы Калифорнии об ИИ сочетают инновации и подотчетность, охватывая конфиденциальность, дипфейки, здравоохранение, образование и безопасность.
От беспилотных автомобилей до здравоохранения — инновации в области искусственного интеллекта (AI) и технологические компании нового поколения начинают играть ключевую роль в преобразовании нашей повседневной жизни. В результате мировой объём рынка ИИ в 2023 году составил 196,63 млрд долларов и, как ожидается, будет расти в среднем на 36% ежегодно с 2024 по 2030 год. Эти цифры показывают, насколько быстро развивается ИИ.
С одной стороны, стремительное развитие ИИ создаёт решения для различных проблем в разных отраслях. С другой стороны, такие темпы подчёркивают необходимость ответственной разработки ИИ, чтобы инновации были этичными и приносили пользу обществу.
Например, в 2016 году Microsoft запустила в X (ранее Twitter) чат-бота Tay. Он был создан для обучения на основе бесед с пользователями. Однако вскоре после запуска Tay начал генерировать ответы с непрофессиональной лексикой, поскольку перенял особенности самых разных взаимодействий. Хотя Microsoft быстро отключила бота, этот случай хорошо показывает, насколько важно обеспечивать надёжность данных, используемых для обучения ИИ, и информировать общественность о том, как компании используют такие данные в продуктах на основе ИИ.
Рис. 1. Чат-бот Microsoft в Twitter, Tay.
В ответ на эту обеспокоенность губернатор Калифорнии Гэвин Ньюсом в сентябре подписал более десятка законов, связанных с ИИ. Эти законы регулируют самые разные вопросы: от раскрытия сведений об данных для обучения до борьбы с дипфейками. В этой статье мы рассмотрим законы Калифорнии в области ИИ и их содержание. Давай начнём!
Законодательство Калифорнии в сфере ИИ в 2024 году: обеспечение подотчётности#
Для повышения безопасности и надёжности разработки ИИ были подписаны три важных законопроекта. Законопроект Ассамблеи (AB) 2013, вступающий в силу в 2026 году, обязывает поставщиков генеративного ИИ публиковать сведения о своих наборах данных для обучения. Эти сведения включают источники наборов данных, информацию о том, как используются данные, количество точек данных в наборе, наличие защищённых авторским правом или лицензированных данных, период сбора данных и т. д. Публикация этой информации поможет компаниям в сфере ИИ укрепить доверие общества.
Еще одним важным законопроектом, который был подписан, стал AB 1008. Он распространяет действующие законы Калифорнии о конфиденциальности на решения на основе генеративного ИИ. Законопроект AB 1008 был представлен для устранения опасений и повышения общественного доверия к тому, как системы ИИ обрабатывают персональную информацию. Опрос показал, что более 81% потребителей обеспокоены тем, что компании, занимающиеся ИИ, могут использовать их информацию непредусмотренным ими образом. Устанавливая четкие ограничения на то, как компании могут использовать персональную информацию и получать от нее прибыль, включая имена, адреса и биометрические данные, этот закон помогает компаниям, занимающимся ИИ, заверить пользователей в ответственном обращении с их данными, даже если система ИИ раскроет их.
Рис. 2. Инфографика показывает, что многие считают: решения на основе ИИ можно совершенствовать с точки зрения конфиденциальности.
Аналогично, законопроект Сената (SB) 896, или Закон об ответственности за генеративный ИИ, обязывает Управление экстренных служб Калифорнии (CalOES) проводить анализ рисков, связанных с потенциальными угрозами со стороны систем генеративного ИИ. CalOES будет сотрудничать с ведущими компаниями в сфере ИИ, такими как OpenAI и Anthropic, чтобы обсуждать и анализировать потенциальные угрозы ИИ для критически важной инфраструктуры штата.
Внедрение и регулирование ИИ в образовательных учреждениях#
Ранее мы рассматривали, как ИИ в образовании может персонализировать процесс обучения, преобразовать методы преподавания, обеспечивать обратную связь в реальном времени и помогать педагогам с помощью современных инструментов и аналитических сведений. На самом деле инновации в области ИИ могут создать более эффективную и увлекательную среду обучения для студентов. Педагоги и преподаватели по всему миру всё чаще используют ИИ: уже реализуются успешные пилотные проекты и более масштабные инициативы. Исследования показывают, что более 50% учителей считают, что ИИ в классах положительно повлиял на процесс преподавания и обучения.
Рис. 3. Опрос о том, как учителя относятся к использованию ИИ в школах.
Калифорния приняла два закона, регулирующих использование ИИ в образовательных учреждениях. AB 2876 обязывает Государственный совет по образованию Калифорнии учитывать грамотность в области ИИ (после 1 января 2025 года) в рамках учебных программ и учебных материалов по математике, естественным наукам и истории. Цель этого закона — обеспечить обучение учащихся в школах Калифорнии основам принципов работы искусственного интеллекта, а также ограничениям, последствиям и этическим аспектам использования этой технологии.
Кроме того, SB 1288 обязывает руководителей школьных округов Калифорнии создать рабочие группы (не позднее 1 января 2026 года), чтобы изучить использование ИИ в государственных школах. Эти рабочие группы должны представить свои выводы и рекомендации соответствующим комитетам Законодательного собрания по вопросам политики и финансов до 1 января 2027 года. После представления отчёта рабочая группа будет распущена, а положения закона утратят силу 1 января 2031 года.
Правила использования генеративного ИИ в здравоохранении#
Генеративный ИИ развивает отрасль здравоохранения, способствуя инновациям в поиске новых лекарств, диагностике заболеваний, планировании лечения и медицинских чат-ботах. Такие приложения могут обеспечивать мониторинг, рекомендации и поддержку в реальном времени, помогая улучшать результаты лечения пациентов. Другие технологии ИИ, например дополненная реальность (AR), также можно использовать для планирования и моделирования хирургических процедур.
Рис. 4. Варианты использования генеративного ИИ в здравоохранении.
Интеграция генеративного ИИ в здравоохранение связана с определёнными нюансами, касающимися конфиденциальности данных и регулирования. Крайне важно обеспечивать точность, надёжность и справедливость результатов, генерируемых ИИ, одновременно защищая конфиденциальность медицинской информации.
Чтобы решить эти проблемы, Калифорния приняла два закона об использовании генеративного ИИ в здравоохранении. AB 3030 требует от поставщиков медицинских услуг сообщать о том, когда они используют генеративный ИИ для общения с пациентом, особенно если такие сообщения содержат клиническую информацию о пациенте. SB 1120 ограничивает способы автоматизации услуг поставщиками медицинских услуг и медицинскими страховщиками. Эти новые законы также гарантируют, что использование инструментов ИИ в таких условиях будет проходить под контролем лицензированных врачей.
Нормативно-правовая база Калифорнии в отношении дипфейков на основе ИИ#
Штат Калифорния также принял законы, направленные на ограничение использования ИИ для распространения вводящей в заблуждение или неточной информации. SB 942 требует, чтобы популярные системы генеративного ИИ чётко указывали в исходных данных, что контент создан ИИ. Многие компании в сфере ИИ уже делают это, а несколько доступных бесплатных инструментов (ZeroGPT, Winston AI, GLTR и т. д.) помогают пользователям просматривать эти исходные данные и обнаруживать контент, созданный ИИ.
В Калифорнии были приняты три новых закона (AB 1831, SB 926, SB 981) для решения проблем, связанных с дипфейками. Эти законы расширяют существующие меры защиты, вводят уголовную ответственность за неправомерное использование контента, созданного ИИ, и требуют от социальных сетей создать каналы для жалоб на дипфейки. Законы должны вступить в силу к январю 2025 года.
Законы Калифорнии об определении ИИ и его использовании в киноиндустрии#
Один из принятых законопроектов был посвящён формулировке точного определения ИИ. В AB 2885 указано, что ИИ — это «спроектированная или основанная на машинных технологиях система, степень автономности которой может различаться и которая для достижения явных или неявных целей способна на основе получаемых входных данных делать выводы о том, как генерировать результаты, влияющие на физическую или виртуальную среду».
В индустрии развлечений также были приняты два интересных закона. Крупнейший профсоюз актёров кино и телевидения США (SAG-AFTRA) сыграл ключевую роль в их продвижении. AB 2602 требует от киностудий получать разрешение актёра перед использованием ИИ для создания копии его голоса и внешности. Тем временем AB 1836 запрещает студиям создавать цифровые копии умерших исполнителей (подобно персонажу Питера Кушинга в «Звёздных войнах: Изгой-один») без согласия их наследников.
Рис. 5. Персонаж Гранд-мофф Таркин был создан с использованием внешности покойного актёра Питера Кушинга.
Что движет законами Калифорнии в области ИИ#
Рассматривая каждый из этих законов, ты мог задуматься, зачем они вообще нужны. Правила регулирования ИИ уже некоторое время остаются популярной темой для обсуждения, но с распространением дипфейков они получили значительный импульс, затронув различные сферы, включая медиа и политику. Использование контента, созданного ИИ, в интернете, например, вызвало обеспокоенность дезинформацией и её потенциальным влиянием на результаты выборов. Растёт также обеспокоенность по поводу конфиденциальности и неправомерного использования персональных данных инновациями в области ИИ. Эти проблемы стали одной из причин принятия нескольких новых законов.
Например, AB 2905 обязывает операторов автоматических звонков сообщать, сгенерированы ли голоса ИИ. Кроме того, AB 2655 требует от крупных онлайн-платформ, таких как Facebook и X, удалять дипфейки, связанные с выборами, или маркировать их, а также создавать каналы для жалоб на такой контент. Кандидаты и избранные должностные лица также могут добиваться судебного запрета, если платформы не выполняют эти требования.
Другой закон, AB 2839, направлен против пользователей социальных сетей, которые публикуют или повторно распространяют дипфейки, способные ввести избирателей в заблуждение. Аналогично, AB 2355 устанавливает требования к чёткому раскрытию информации в политической рекламе, созданной с помощью инструментов ИИ.
Основные выводы о новых законах Калифорнии в сфере ИИ#
Новые законы Калифорнии в сфере ИИ отражают растущую готовность находить баланс между инновациями и подотчётностью. Уделяя внимание ключевым вопросам, таким как прозрачность данных, конфиденциальность, дипфейки и использование ИИ в здравоохранении и образовании, эти законы призваны защищать людей и общество, одновременно способствуя ответственному развитию ИИ. По мере дальнейшего развития ИИ эти правила помогут обеспечить его рост на основе этичных практик и общественного доверия. Эти законы также могут побудить другие регионы мира последовать этому примеру.
Чтобы узнать больше, посети наш репозиторий на GitHub и присоединяйся к нашему сообществу. Изучи применения ИИ в производстве и сельском хозяйстве на страницах наших решений. 🚀
