Các quy định AI mới tại California: Tập trung vào AI đạo đức

Từ self-driving cars đến healthcare, các đổi mới trí tuệ nhân tạo (AI) và các công ty công nghệ thế hệ mới đang bắt đầu đóng vai trò cốt lõi trong việc định hình lại daily lives của chúng ta. Do đó, market size of AI toàn cầu đạt 196,63 tỷ USD vào năm 2023 và dự kiến sẽ tăng trưởng trung bình 36% mỗi năm từ năm 2024 đến năm 2030. Những con số này cho thấy AI đang phát triển nhanh chóng như thế nào.

Một mặt, sự phát triển nhanh chóng của AI đang tạo ra các solutions cho nhiều vấn đề khác nhau trên các ngành công nghiệp khác nhau. Mặt khác, tốc độ này làm nổi bật nhu cầu phát triển responsible AI để đảm bảo rằng các cải tiến mang tính ethical và mang lại lợi ích cho xã hội.

Ví dụ, vào năm 2016, Microsoft đã ra mắt một chatbot tên là Tay trên X (trước đây là Twitter). Nó được thiết kế để học hỏi từ các cuộc trò chuyện với người dùng. Tuy nhiên, ngay sau khi phát hành, Tay bắt đầu tạo ra các phản hồi với ngôn ngữ kém chuyên nghiệp khi nó tiếp thu nhiều kiểu tương tác khác nhau. Mặc dù Microsoft nhanh chóng gỡ bỏ chatbot này, nhưng đây là một ví dụ điển hình về tầm quan trọng của việc đảm bảo rằng dữ liệu được sử dụng cho AI training là đáng tin cậy và công chúng nhận thức được cách các công ty đang sử dụng data đó cho các sản phẩm AI.

Fig 1. Chatbot Twitter của Microsoft, Tay.

Giải quyết mối lo ngại này, Thống đốc bang California, Gavin Newsom, đã ký ban hành hơn một dozen AI-related bills thành luật vào tháng 9 này. Các đạo luật này giải quyết mọi vấn đề, từ việc công bố chi tiết về training data đến việc xử lý deepfakes. Trong bài viết này, chúng ta sẽ khám phá các đạo luật AI của California và ý nghĩa của chúng. Hãy cùng bắt đầu nhé!

Pháp luật về AI tại California năm 2024: Đảm bảo trách nhiệm giải trình#

Ba đạo luật lớn đã được ký ban hành nhằm hỗ trợ AI development trở nên bảo mật và đáng tin cậy hơn. Đạo luật Assembly Bill (AB) 2013, có hiệu lực vào năm 2026, yêu cầu các nhà cung cấp generative AI phải công bố thông tin chi tiết về các training datasets của họ. Các thông tin chi tiết này bao gồm sources of the datasets, chi tiết về cách dữ liệu được sử dụng, số lượng điểm dữ liệu trong tập hợp, dữ liệu có bản quyền hoặc được cấp phép có được bao gồm hay không, khoảng thời gian thu thập dữ liệu, v.v. Việc chia sẻ thông tin này sẽ giúp các công ty AI xây dựng lòng tin với công chúng.

Một đạo luật quan trọng khác đã được ký kết là AB 1008. Đạo luật này mở rộng các luật bảo mật hiện hành của California sang các generative AI solutions. AB 1008 được giới thiệu nhằm giải quyết những lo ngại và nâng cao niềm tin của công chúng đối với cách các hệ thống AI xử lý thông tin cá nhân. Một khảo sát cho thấy hơn 81% of consumers lo ngại rằng các AI companies có thể sử dụng thông tin của họ theo những cách mà họ không lường trước. Bằng cách thiết lập các giới hạn rõ ràng về cách các businesses có thể sử dụng và kiếm lợi nhuận từ thông tin cá nhân, như tên, địa chỉ và biometric data, đạo luật này giúp các công ty AI trấn an người dùng rằng dữ liệu của họ sẽ được xử lý một cách có trách nhiệm, ngay cả khi bị lộ bởi một hệ thống AI.

Fig 2. Một infographic cho thấy nhiều người tin rằng các giải pháp AI có thể cải thiện liên quan đến quyền riêng tư.

Tương tự, Senate Bill (SB) 896, hay Đạo luật Trách nhiệm Giải trình Generative AI, yêu cầu California’s Office of Emergency Services (CalOES) thực hiện phân tích rủi ro đối với các mối đe dọa tiềm ẩn do các generative AI systems gây ra. CalOES sẽ hợp tác với các công ty AI tiên phong, chẳng hạn như OpenAI và Anthropic, để thảo luận và phân tích các mối đe dọa tiềm ẩn của AI đối với cơ sở hạ tầng trọng yếu của tiểu bang.

Việc áp dụng và quản lý AI tại các tổ chức giáo dục#

Chúng ta đã từng khám phá cách AI in education có thể cá nhân hóa trải nghiệm học tập, định hình lại các phương pháp giảng dạy, cung cấp phản hồi thời gian thực và hỗ trợ các nhà giáo dục bằng các công cụ và thông tin chi tiết nâng cao. Trên thực tế, các đổi mới AI có thể tạo ra một môi trường học tập hiệu quả và engaging studying environment hơn cho học sinh. Các nhà giáo dục và giáo viên trên toàn thế giới đang sử dụng AI thường xuyên hơn, với các dự án thử nghiệm thành công và việc triển khai rộng rãi hơn đang được tiến hành. Các nghiên cứu cho thấy hơn 50% giáo viên cảm thấy AI in classrooms đã tác động tích cực đến quá trình giảng dạy và học tập.

Fig 3. Khảo sát cho thấy cảm nhận của giáo viên về việc sử dụng AI trong các trường học.

California đã giới thiệu hai đạo luật liên quan đến việc sử dụng AI in educational institutions. AB 2876 bắt buộc Hội đồng Giáo dục Tiểu bang California phải xem xét kiến thức về AI (sau ngày 1 tháng 1 năm 2025) trong các khung chương trình giảng dạy và tài liệu hướng dẫn môn math, science và history. Mục đích của đạo luật này là đảm bảo rằng các trường học ở California giáo dục học sinh về những kiến thức cơ bản về how artificial intelligence works, cũng như các giới hạn, impacts và ethical considerations của việc sử dụng công nghệ này.

Ngoài ra, SB 1288 yêu cầu các giám đốc học区 của California thành lập các nhóm công tác (vào hoặc trước ngày 1 tháng 1 năm 2026) để khám phá cách AI đang được sử dụng trong các trường công lập. Các nhóm công tác này sẽ cần phải gửi các phát hiện và khuyến nghị của họ cho các ủy ban chính sách và tài chính có liên quan của Cơ quan Lập pháp trước ngày 1 tháng 1 năm 2027. Sau khi báo cáo được nộp, nhóm công tác sẽ giải thể và các điều khoản sẽ bị bãi bỏ vào ngày 1 tháng 1 năm 2031.

Các quy định xung quanh AI tạo sinh trong chăm sóc sức khỏe#

Generative AI đang cải thiện ngành healthcare bằng cách cho phép các đổi mới trong việc discovering new drugs, diagnosing diseases, planning treatments và chatbot y tế. Các ứng dụng này có thể mang lại các lợi ích như theo dõi thời gian thực, lời khuyên và hỗ trợ nhằm improve patient outcomes. Các công nghệ AI khác, như augmented reality (AR), cũng có thể được sử dụng để lên kế hoạch và mô phỏng các quy trình phẫu thuật.

Fig 4. Các trường hợp sử dụng của Generative AI trong Y tế.

Việc tích hợp AI tạo sinh vào chăm sóc sức khỏe đi kèm với một số lưu ý liên quan đến quyền riêng tư dữ liệu và các quy định. Việc ưu tiên tính chính xác, độ tin cậy và sự công bằng của các kết quả do AI tạo ra, đồng thời bảo vệ quyền riêng tư của thông tin sức khỏe là rất quan trọng.

Để giải quyết những thách thức này, California đã thông qua hai đạo luật về việc sử dụng generative AI trong y tế. AB 3030 yêu cầu các nhà cung cấp dịch vụ y tế phải công khai khi họ sử dụng generative AI để giao tiếp với bệnh nhân, đặc biệt là khi các tin nhắn đó chứa thông tin lâm sàng của bệnh nhân. SB 1120 đặt ra các giới hạn về cách các nhà cung cấp dịch vụ y tế và các công ty bảo hiểm y tế có thể tự động hóa các dịch vụ của họ. Các đạo luật mới này cũng đảm bảo rằng các bác sĩ có giấy phép giám sát việc sử dụng các công cụ AI trong các bối cảnh này.

Khung pháp lý về AI của California đối với deepfake#

Bang California cũng đã thông qua các đạo luật liên quan đến việc kiềm chế sử dụng AI để lan truyền thông tin sai lệch hoặc không chính xác. SB 942 yêu cầu các hệ thống generative AI phổ biến phải chỉ ra rõ ràng trong dữ liệu nguồn của chúng rằng nội dung được tạo bởi AI. Nhiều công ty AI đã làm điều này, và một số công cụ miễn phí hiện có (như ZeroGPT, Winston AI, GLTR, v.v.) có thể giúp mọi người đọc dữ liệu nguồn này và phát hiện nội dung do AI tạo ra.

Ba đạo luật mới (AB 1831, SB 926, SB 981) đã được thông qua tại California để giải quyết các vấn đề liên quan đến deepfakes. Các đạo luật này mở rộng các biện pháp bảo vệ hiện hành, hình sự hóa việc lạm dụng nội dung do AI tạo ra, và yêu cầu các nền tảng mạng xã hội thiết lập các kênh báo cáo đối với nội dung deepfake. Các đạo luật này dự kiến được triển khai vào tháng 1 năm 2025.

Luật AI của California về định nghĩa AI và việc sử dụng nó trong phim ảnh#

Một trong những dự luật được thông qua thành luật tập trung vào việc đưa ra một định nghĩa chính xác cho AI. AB 2885 nêu rõ AI được định nghĩa là “một hệ thống được thiết kế hoặc dựa trên máy móc có mức độ tự chủ khác nhau và có thể, đối với các mục tiêu rõ ràng hoặc ngầm định, suy luận từ đầu vào mà nó nhận được để tạo ra các đầu ra có thể ảnh hưởng đến môi trường vật lý hoặc ảo.”

Ngoài ra còn có hai đạo luật thú vị được ban hành dành cho ngành giải trí. Hiệp hội diễn viên điện ảnh và phát thanh lớn nhất nước Mỹ (SAG-AFTRA) đã đóng một vai trò quan trọng trong việc thúc đẩy các đạo luật này có hiệu lực. AB 2602 yêu cầu các hãng phim phải có sự cho phép của diễn viên trước khi sử dụng AI để tạo ra bản sao giọng nói và ngoại hình của họ. Trong khi đó, AB 1836 cấm các hãng phim tạo ra bản sao kỹ thuật số của những nghệ sĩ đã qua đời (tương tự như nhân vật của Peter Cushing trong Star Wars: Rogue One) mà không có sự đồng ý từ người thừa kế của họ.

Fig 5. Nhân vật Grand Moff Tarkin được tạo ra bằng cách sử dụng ngoại hình của cố diễn viên Peter Cushing.

Yếu tố thúc đẩy đằng sau các luật về AI tại California#

Khi chúng ta tìm hiểu từng đạo luật này, bạn có thể đã tự hỏi tại sao chúng thực sự cần thiết. Các quy định về AI đã là một chủ đề thảo luận phổ biến từ một thời gian nay, nhưng chúng đã thu hút được đà phát triển đáng kể với sự gia tăng của nội dung deepfake, điều đã ảnh hưởng đến nhiều lĩnh vực khác nhau, bao gồm media and politics. Việc sử dụng nội dung do AI tạo ra trực tuyến đã làm dấy lên những lo ngại về thông tin sai lệch và impact on election outcomes tiềm ẩn của nó, chẳng hạn. Cũng có những lo ngại ngày càng tăng về quyền riêng tư và việc lạm dụng dữ liệu cá nhân bởi các đổi mới AI. Những vấn đề này đã là một yếu tố lý do tại sao một số đạo luật mới hiện đã có hiệu lực để giải quyết những vấn đề đó.

Ví dụ, AB 2905 buộc các cuộc gọi tự động (robocalls) phải tiết lộ liệu chúng có phải là giọng nói do AI tạo ra hay không. Hơn nữa, AB 2655 yêu cầu các nền tảng trực tuyến lớn như Facebook và X phải gỡ bỏ hoặc dán nhãn các deepfake liên quan đến bầu cử và thiết lập các kênh báo cáo cho nội dung đó. Các ứng viên và quan chức đắc cử cũng có thể tìm kiếm sự cứu trợ bằng lệnh cấm (injunctive relief) nếu các nền tảng không tuân thủ.

Một đạo luật khác, AB 2839, nhắm vào những người dùng mạng xã hội đăng tải hoặc đăng lại các deepfake có thể gây hiểu lầm cho cử tri. Tương tự, AB 2355 quy định rõ ràng việc công bố thông tin đối với các quảng cáo chính trị được tạo ra bằng cách sử dụng các công cụ AI.

Những điểm chính từ các luật AI mới của California#

Các luật AI mới của California phản ánh cam kết ngày càng tăng trong việc cân bằng giữa đổi mới và trách nhiệm giải trình. Bằng cách giải quyết các mối quan ngại chính trong các lĩnh vực như tính minh bạch dữ liệu, quyền riêng tư, deepfake và việc sử dụng AI trong chăm sóc sức khỏe và giáo dục, các luật này nhằm mục đích bảo vệ các cá nhân và xã hội đồng thời thúc đẩy phát triển AI có trách nhiệm. Khi AI tiếp tục phát triển, các quy định này sẽ giúp đảm bảo rằng sự tăng trưởng của nó đi kèm với các thực hành đạo đức và niềm tin của công chúng. Các luật này cũng có thể khuyến khích các khu vực khác trên thế giới thực hiện theo.

Để tìm hiểu thêm, hãy truy cập GitHub repository của chúng tôi và tham gia cùng community của chúng tôi. Khám phá các ứng dụng AI trong manufacturing và agriculture trên các trang giải pháp của chúng tôi. 🚀