Các quy định AI mới tại California: Tập trung vào AI có đạo đức

Từ xe tự lái đến y tế, các đổi mới về trí tuệ nhân tạo (AI) và công nghệ thế hệ mới đang bắt đầu đóng vai trò quan trọng trong việc định hình lại cuộc sống hằng ngày. Do đó, quy mô thị trường AI toàn cầu đạt 196,63 tỷ USD vào năm 2023 và dự kiến tăng trưởng trung bình 36% mỗi năm trong giai đoạn 2024–2030. Những con số này cho thấy AI đang phát triển nhanh đến mức nào.

Một mặt, sự phát triển nhanh chóng của AI đang tạo ra các giải pháp cho nhiều vấn đề trong những ngành khác nhau. Mặt khác, tốc độ này cho thấy sự cần thiết của việc phát triển AI có trách nhiệm để bảo đảm những cải tiến mang tính đạo đức và có lợi cho xã hội.

Ví dụ, năm 2016, Microsoft ra mắt chatbot Tay trên X (trước đây là Twitter). Chatbot được thiết kế để học từ các cuộc trò chuyện với người dùng. Tuy nhiên, ngay sau khi ra mắt, Tay bắt đầu tạo ra các phản hồi có ngôn từ thiếu chuyên nghiệp khi tiếp nhận nhiều kiểu tương tác khác nhau. Microsoft nhanh chóng ngừng hoạt động chatbot, nhưng đây là ví dụ điển hình cho thấy tầm quan trọng của việc bảo đảm dữ liệu dùng để huấn luyện AI đáng tin cậy, đồng thời giúp công chúng hiểu cách các công ty sử dụng dữ liệu đó cho sản phẩm AI.

Hình 1. Chatbot Tay của Microsoft trên Twitter.

Để giải quyết mối lo ngại này, Thống đốc California Gavin Newsom đã ký ban hành hơn một chục dự luật liên quan đến AI trong tháng 9 này. Các luật này đề cập đến nhiều vấn đề, từ công khai thông tin về dữ liệu huấn luyện đến xử lý deepfake. Trong bài viết này, chúng ta sẽ tìm hiểu các luật AI của California và nội dung của những luật đó.

Luật AI California năm 2024: Bảo đảm trách nhiệm giải trình#

Ba dự luật lớn đã được ký ban hành nhằm giúp việc phát triển AI an toàn và đáng tin cậy hơn. Dự luật Hạ viện (AB) 2013, có hiệu lực vào năm 2026, yêu cầu các nhà cung cấp AI tạo sinh công bố thông tin về bộ dữ liệu huấn luyện. Những thông tin này bao gồm nguồn của bộ dữ liệu, cách sử dụng dữ liệu, số lượng điểm dữ liệu trong bộ dữ liệu, liệu dữ liệu có bản quyền hoặc được cấp phép hay không, khoảng thời gian thu thập dữ liệu, v.v. Việc chia sẻ thông tin này sẽ giúp các công ty AI xây dựng niềm tin của công chúng.

Một dự luật quan trọng khác được ký ban hành là AB 1008. Dự luật này mở rộng các luật bảo mật hiện hành của California để áp dụng cho các giải pháp AI tạo sinh. AB 1008 được đưa ra nhằm giải quyết những lo ngại và cải thiện niềm tin của công chúng về cách các hệ thống AI xử lý thông tin cá nhân. Một khảo sát cho thấy hơn 81% người tiêu dùng lo ngại các công ty AI có thể sử dụng thông tin của họ theo những cách không mong muốn. Bằng cách đặt ra giới hạn rõ ràng về cách doanh nghiệp có thể sử dụng và kiếm lợi từ thông tin cá nhân như tên, địa chỉ và dữ liệu sinh trắc học, luật này giúp các công ty AI trấn an người dùng rằng dữ liệu của họ sẽ được xử lý có trách nhiệm, ngay cả khi bị một hệ thống AI làm lộ.

Hình 2. Infographic cho thấy nhiều người tin rằng các giải pháp AI có thể cải thiện khả năng bảo vệ quyền riêng tư.

Tương tự, Dự luật Thượng viện (SB) 896, hay Đạo luật Trách nhiệm giải trình về AI tạo sinh, yêu cầu Văn phòng Dịch vụ Khẩn cấp California (CalOES) phân tích rủi ro từ các mối đe dọa tiềm tàng do hệ thống AI tạo sinh gây ra. CalOES sẽ làm việc với các công ty AI hàng đầu như OpenAI và Anthropic để thảo luận, phân tích các mối đe dọa tiềm tàng của AI đối với cơ sở hạ tầng trọng yếu của tiểu bang.

Việc ứng dụng và quản lý AI tại các cơ sở giáo dục#

Trước đây, chúng tôi đã tìm hiểu cách AI trong giáo dục có thể cá nhân hóa trải nghiệm học tập, định hình lại phương pháp giảng dạy, đưa ra phản hồi theo thời gian thực và hỗ trợ nhà giáo dục bằng các công cụ cùng thông tin chuyên sâu tiên tiến. Trên thực tế, các đổi mới về AI có thể tạo ra môi trường học tập hiệu quả và hấp dẫn hơn cho học sinh. Các nhà giáo dục và giáo viên trên khắp thế giới đang sử dụng AI thường xuyên hơn, với các dự án thí điểm thành công và những đợt triển khai rộng hơn đang được tiến hành. Các nghiên cứu cho thấy hơn 50% giáo viên cảm nhận rằng AI trong lớp học đã tác động tích cực đến quá trình dạy và học.

Hình 3. Khảo sát về quan điểm của giáo viên đối với việc sử dụng AI trong trường học.

California đã ban hành hai luật liên quan đến việc sử dụng AI trong các cơ sở giáo dục. AB 2876 yêu cầu Hội đồng Giáo dục Tiểu bang California xem xét nội dung kiến thức AI (sau ngày 1 tháng 1 năm 2025) trong khung chương trình và tài liệu giảng dạy môn toán, khoa học và lịch sử. Mục tiêu của luật này là bảo đảm các trường học ở California giáo dục học sinh về những kiến thức cơ bản trong cách trí tuệ nhân tạo hoạt động, cũng như các giới hạn, tác động và cân nhắc đạo đức khi sử dụng công nghệ này.

Ngoài ra, SB 1288 yêu cầu các giám đốc học khu tại California thành lập các nhóm công tác (trước hoặc vào ngày 1 tháng 1 năm 2026) để tìm hiểu cách AI đang được sử dụng trong các trường công lập. Các nhóm công tác này cần gửi kết quả và khuyến nghị cho các ủy ban chính sách và tài chính có liên quan của Cơ quan Lập pháp trước ngày 1 tháng 1 năm 2027. Sau khi báo cáo được nộp, nhóm công tác sẽ giải thể và các điều khoản sẽ hết hiệu lực vào ngày 1 tháng 1 năm 2031.

Các quy định về AI tạo sinh trong lĩnh vực chăm sóc sức khỏe#

AI tạo sinh đang cải thiện ngành y tế bằng cách hỗ trợ các đổi mới trong khám phá thuốc mới, chẩn đoán bệnh, lập kế hoạch điều trị và chatbot y tế. Những ứng dụng này có thể mang lại lợi ích như theo dõi, tư vấn và hỗ trợ theo thời gian thực để cải thiện kết quả điều trị cho bệnh nhân. Các công nghệ khác như thực tế tăng cường (AR) cũng có thể được sử dụng để lập kế hoạch và mô phỏng quy trình phẫu thuật.

Hình 4. Các trường hợp sử dụng AI tạo sinh trong chăm sóc sức khỏe.

Việc tích hợp AI tạo sinh vào lĩnh vực y tế đi kèm một số lưu ý liên quan đến quyền riêng tư dữ liệu và quy định. Điều thiết yếu là ưu tiên độ chính xác, độ tin cậy và tính công bằng của kết quả do AI tạo ra, đồng thời bảo vệ quyền riêng tư của thông tin sức khỏe.

Để giải quyết những thách thức này, California đã thông qua hai luật về việc sử dụng AI tạo sinh trong lĩnh vực chăm sóc sức khỏe. AB 3030 yêu cầu nhà cung cấp dịch vụ chăm sóc sức khỏe thông báo khi sử dụng AI tạo sinh để giao tiếp với bệnh nhân, đặc biệt là khi các thông điệp đó chứa thông tin lâm sàng của bệnh nhân. SB 1120 đặt ra các giới hạn về cách nhà cung cấp dịch vụ chăm sóc sức khỏe và công ty bảo hiểm y tế tự động hóa dịch vụ. Các luật mới này cũng bảo đảm bác sĩ được cấp phép giám sát việc sử dụng công cụ AI trong những môi trường này.

Khung pháp lý về AI của California đối với deepfake#

Bang California cũng đã thông qua các đạo luật nhằm hạn chế việc sử dụng AI để lan truyền thông tin sai lệch hoặc không chính xác. SB 942 yêu cầu nhà cung cấp hệ thống AI tạo sinh có hơn một triệu người dùng hằng tháng nhúng thông báo ẩn (tiềm ẩn) vào hình ảnh, video và âm thanh do hệ thống tạo ra, đồng thời cung cấp miễn phí công cụ phát hiện thông báo đó.

California đã thông qua ba luật mới (AB 1831, SB 926, SB 981) để giải quyết các vấn đề liên quan đến deepfake. Các luật này mở rộng những biện pháp bảo vệ hiện hành, hình sự hóa việc sử dụng sai mục đích nội dung do AI tạo ra và yêu cầu các nền tảng mạng xã hội thiết lập kênh báo cáo nội dung deepfake. Các luật dự kiến được triển khai trước tháng 1 năm 2025.

Các luật AI của California về định nghĩa AI và việc sử dụng AI trong phim ảnh#

Một trong những dự luật được ban hành tập trung vào việc đưa ra định nghĩa phù hợp về AI. AB 2885 quy định AI là “một hệ thống được thiết kế hoặc dựa trên máy móc, có mức độ tự chủ khác nhau và có thể dựa trên đầu vào nhận được để suy luận cách tạo ra đầu ra nhằm tác động đến môi trường vật lý hoặc môi trường ảo, theo các mục tiêu được nêu rõ hoặc ngầm định”.

Hai đạo luật đáng chú ý khác cũng được ban hành cho ngành giải trí. Nghiệp đoàn diễn viên điện ảnh và truyền hình lớn nhất nước Mỹ (SAG-AFTRA) đóng vai trò then chốt trong việc thúc đẩy các đạo luật này được thông qua. AB 2602 yêu cầu các hãng phim phải xin phép diễn viên trước khi sử dụng AI để tạo bản sao giọng nói và hình ảnh của họ. Trong khi đó, AB 1836 cấm các hãng phim tạo bản sao kỹ thuật số của nghệ sĩ đã qua đời (tương tự nhân vật Peter Cushing trong Rogue One: A Star Wars Story) nếu chưa được người thừa kế của họ đồng ý.

Hình 5. Nhân vật Grand Moff Tarkin được tạo bằng cách sử dụng hình ảnh của cố diễn viên Peter Cushing.

Động lực thúc đẩy các luật AI của California#

Sau khi tìm hiểu từng luật này, bạn có thể tự hỏi vì sao chúng cần thiết. Quy định về AI đã là chủ đề được thảo luận phổ biến trong một thời gian, nhưng đã thu hút sự chú ý đáng kể khi nội dung deepfake gia tăng, ảnh hưởng đến nhiều lĩnh vực, bao gồm truyền thông và chính trị. Chẳng hạn, việc sử dụng nội dung do AI tạo ra trên mạng đã làm dấy lên lo ngại về thông tin sai lệch và tác động tiềm tàng đến kết quả bầu cử. Những lo ngại về quyền riêng tư và việc các đổi mới AI lạm dụng dữ liệu cá nhân cũng ngày càng gia tăng. Đây là một trong những lý do chính khiến một số luật mới được ban hành.

Ví dụ, AB 2905 yêu cầu các cuộc gọi tự động phải công bố liệu chúng có sử dụng giọng nói do AI tạo ra hay không. Ngoài ra, AB 2655 yêu cầu các nền tảng trực tuyến lớn như Facebook và X gỡ bỏ hoặc gắn nhãn deepfake liên quan đến bầu cử, đồng thời tạo kênh báo cáo nội dung đó. Các ứng viên và quan chức dân cử cũng có thể yêu cầu biện pháp khẩn cấp theo lệnh tòa nếu các nền tảng không tuân thủ.

Một luật khác, AB 2839, nhắm đến người dùng mạng xã hội đăng hoặc đăng lại deepfake có thể gây hiểu lầm cho cử tri. Tương tự, AB 2355 quy định rằng quảng cáo chính trị được tạo bằng công cụ AI phải có thông báo rõ ràng.

Những điểm chính trong các luật AI mới của California#

Các luật AI mới của California thể hiện cam kết ngày càng tăng trong việc cân bằng đổi mới với trách nhiệm giải trình. Bằng cách giải quyết những mối lo ngại chính về tính minh bạch của dữ liệu, quyền riêng tư, deepfake và việc sử dụng AI trong chăm sóc sức khỏe và giáo dục, các luật này hướng đến bảo vệ cá nhân và xã hội đồng thời thúc đẩy phát triển AI có trách nhiệm. Khi AI tiếp tục phát triển, các quy định này sẽ giúp bảo đảm công nghệ phát triển song hành với các hoạt động có đạo đức và niềm tin của công chúng. Những luật này cũng có thể khuyến khích các khu vực khác trên thế giới làm theo.

Để tìm hiểu thêm, hãy truy cập repository GitHub và tham gia cộng đồng của chúng tôi. Khám phá các ứng dụng AI trong sản xuất và nông nghiệp trên các trang giải pháp của chúng tôi.