Các quy định AI mới tại California: Tập trung vào AI có đạo đức

Từ xe tự lái đến chăm sóc sức khỏe, các đổi mới về trí tuệ nhân tạo (AI) và các công ty công nghệ thế hệ mới đang bắt đầu đóng vai trò quan trọng trong việc định hình lại cuộc sống hằng ngày của chúng ta. Do đó, quy mô thị trường AI toàn cầu đạt 196,63 tỷ USD vào năm 2023 và dự kiến tăng trưởng trung bình 36% mỗi năm trong giai đoạn 2024–2030. Những con số này cho thấy AI đang phát triển nhanh đến mức nào.

Một mặt, sự phát triển nhanh chóng của AI đang tạo ra các giải pháp cho nhiều vấn đề trong các ngành khác nhau. Mặt khác, tốc độ này làm nổi bật nhu cầu phát triển AI có trách nhiệm nhằm bảo đảm những cải tiến là có đạo đức và mang lại lợi ích cho xã hội.

Chẳng hạn, năm 2016, Microsoft đã ra mắt một chatbot có tên Tay trên X (trước đây là Twitter). Chatbot này được thiết kế để học từ các cuộc trò chuyện với người dùng. Tuy nhiên, không lâu sau khi ra mắt, Tay bắt đầu tạo ra các phản hồi với ngôn ngữ thiếu chuyên nghiệp do tiếp nhận nhiều kiểu tương tác khác nhau. Mặc dù Microsoft nhanh chóng đưa bot này ngoại tuyến, đây là một ví dụ rõ ràng về tầm quan trọng của việc bảo đảm dữ liệu dùng cho huấn luyện AI là đáng tin cậy, đồng thời công chúng biết các công ty đang sử dụng dữ liệu đó như thế nào cho các sản phẩm AI.

Hình 1. Chatbot Tay của Microsoft trên Twitter.

Để giải quyết mối lo ngại này, Thống đốc California Gavin Newsom đã ký ban hành hơn một chục dự luật liên quan đến AI vào tháng 9 năm nay. Các luật này đề cập đến nhiều vấn đề, từ việc công khai thông tin về dữ liệu huấn luyện đến xử lý deepfake. Trong bài viết này, chúng ta sẽ tìm hiểu các luật về AI của California và những điều chúng bao hàm. Hãy bắt đầu!

Luật AI của California năm 2024: Bảo đảm trách nhiệm giải trình#

Ba dự luật lớn đã được ký ban hành nhằm hỗ trợ phát triển AI theo hướng an toàn và đáng tin cậy hơn. Dự luật Hạ viện (AB) 2013, có hiệu lực vào năm 2026, yêu cầu các nhà cung cấp AI tạo sinh công bố thông tin chi tiết về bộ dữ liệu huấn luyện của họ. Những thông tin này bao gồm nguồn của các bộ dữ liệu, cách dữ liệu được sử dụng, số lượng điểm dữ liệu trong bộ dữ liệu, liệu có bao gồm dữ liệu có bản quyền hoặc được cấp phép hay không, khoảng thời gian thu thập dữ liệu, v.v. Việc chia sẻ thông tin này sẽ giúp các công ty AI xây dựng lòng tin với công chúng.

Một dự luật quan trọng khác được ký ban hành là AB 1008. Dự luật này mở rộng các luật hiện hành về quyền riêng tư của California sang các giải pháp AI tạo sinh. AB 1008 được đưa ra nhằm giải quyết các mối lo ngại và củng cố niềm tin của công chúng vào cách các hệ thống AI xử lý thông tin cá nhân. Một khảo sát cho thấy hơn 81% người tiêu dùng lo ngại rằng các công ty AI có thể sử dụng thông tin của họ theo những cách ngoài dự định. Bằng cách đặt ra các giới hạn rõ ràng về cách doanh nghiệp có thể sử dụng và thu lợi từ thông tin cá nhân, chẳng hạn như tên, địa chỉ và dữ liệu sinh trắc học, luật này giúp các công ty AI trấn an người dùng rằng dữ liệu của họ sẽ được xử lý một cách có trách nhiệm, ngay cả khi bị một hệ thống AI làm lộ.

Hình 2. Infographic cho thấy nhiều người tin rằng các giải pháp AI có thể được cải thiện về phương diện quyền riêng tư.

Tương tự, Dự luật Thượng viện (SB) 896, hay Đạo luật về Trách nhiệm giải trình đối với AI tạo sinh, yêu cầu Văn phòng Dịch vụ Khẩn cấp California (CalOES) thực hiện các phân tích rủi ro đối với những mối đe dọa tiềm ẩn do các hệ thống AI tạo sinh gây ra. CalOES sẽ phối hợp với các công ty AI tiên phong như OpenAI và Anthropic để thảo luận và phân tích các mối đe dọa tiềm ẩn của AI đối với cơ sở hạ tầng trọng yếu của bang.

Việc áp dụng và quản lý AI tại các cơ sở giáo dục#

Trước đây, chúng ta đã tìm hiểu cách AI trong giáo dục có thể cá nhân hóa trải nghiệm học tập, định hình lại phương pháp giảng dạy, cung cấp phản hồi theo thời gian thực và hỗ trợ nhà giáo dục bằng các công cụ cùng thông tin chuyên sâu tiên tiến. Trên thực tế, các đổi mới về AI có thể tạo ra môi trường học tập hấp dẫn hơn và hiệu quả hơn cho học sinh. Các nhà giáo dục và giáo viên trên khắp thế giới đang sử dụng AI thường xuyên hơn, với các dự án thí điểm thành công và những đợt triển khai trên quy mô rộng hơn đang được tiến hành. Các nghiên cứu cho thấy hơn 50% giáo viên cảm thấy AI trong lớp học đã tác động tích cực đến quá trình dạy và học.

Hình 3. Khảo sát về cảm nhận của giáo viên đối với việc sử dụng AI trong trường học.

California đã ban hành hai luật liên quan đến việc sử dụng AI trong các cơ sở giáo dục. AB 2876 yêu cầu Hội đồng Giáo dục Bang California xem xét nội dung kiến thức về AI (sau ngày 1 tháng 1 năm 2025) trong các khung chương trình và tài liệu giảng dạy về toán học, khoa học và lịch sử. Mục tiêu của luật này là bảo đảm các trường học tại California giảng dạy cho học sinh những kiến thức cơ bản về cách trí tuệ nhân tạo hoạt động, cũng như các hạn chế, tác động và khía cạnh đạo đức khi sử dụng công nghệ này.

Ngoài ra, SB 1288 yêu cầu các giám đốc học khu của California thành lập các nhóm công tác (trước hoặc vào ngày 1 tháng 1 năm 2026) để tìm hiểu cách AI đang được sử dụng trong các trường công lập. Các nhóm công tác này sẽ phải gửi phát hiện và khuyến nghị của mình đến các ủy ban chính sách và tài chính có liên quan của Cơ quan Lập pháp trước ngày 1 tháng 1 năm 2027. Sau khi báo cáo được đệ trình, nhóm công tác sẽ bị giải thể và các điều khoản sẽ bị bãi bỏ vào ngày 1 tháng 1 năm 2031.

Các quy định về AI tạo sinh trong lĩnh vực chăm sóc sức khỏe#

AI tạo sinh đang cải thiện ngành chăm sóc sức khỏe bằng cách thúc đẩy các đổi mới trong việc khám phá thuốc mới, chẩn đoán bệnh, lập kế hoạch điều trị và phát triển chatbot y tế. Những ứng dụng này có thể mang lại các lợi ích như theo dõi, tư vấn và hỗ trợ theo thời gian thực để cải thiện kết quả điều trị cho bệnh nhân. Các công nghệ AI khác, chẳng hạn như thực tế tăng cường (AR), cũng có thể được sử dụng để lập kế hoạch và mô phỏng các quy trình phẫu thuật.

Hình 4. Các trường hợp sử dụng AI tạo sinh trong chăm sóc sức khỏe.

Việc tích hợp AI tạo sinh vào lĩnh vực chăm sóc sức khỏe đi kèm với một số điểm cần lưu ý liên quan đến quyền riêng tư dữ liệu và các quy định. Việc ưu tiên độ chính xác, độ tin cậy và tính công bằng của các kết quả do AI tạo ra, đồng thời bảo vệ quyền riêng tư của thông tin sức khỏe, là yếu tố then chốt.

Để giải quyết những thách thức này, California đã thông qua hai luật về việc sử dụng AI tạo sinh trong lĩnh vực chăm sóc sức khỏe. AB 3030 yêu cầu các nhà cung cấp dịch vụ chăm sóc sức khỏe công khai thời điểm họ sử dụng AI tạo sinh để trao đổi với bệnh nhân, cụ thể là khi các tin nhắn đó chứa thông tin lâm sàng của bệnh nhân. SB 1120 đặt ra các giới hạn về cách các nhà cung cấp dịch vụ chăm sóc sức khỏe và doanh nghiệp bảo hiểm y tế có thể tự động hóa dịch vụ của mình. Các luật mới này cũng bảo đảm rằng các bác sĩ được cấp phép sẽ giám sát việc sử dụng các công cụ AI trong những môi trường này.

Khung pháp lý về AI của California đối với deepfake#

Bang California cũng đã thông qua các luật liên quan đến việc hạn chế sử dụng AI để lan truyền thông tin gây hiểu lầm hoặc không chính xác. SB 942 yêu cầu các hệ thống AI tạo sinh phổ biến phải chỉ rõ trong dữ liệu nguồn rằng nội dung được tạo bởi AI. Nhiều công ty AI đã thực hiện việc này, và một số công cụ miễn phí hiện có (ZeroGPT, Winston AI, GLTR, v.v.) có thể giúp mọi người đọc dữ liệu nguồn này và phát hiện nội dung do AI tạo ra.

Ba luật mới (AB 1831, SB 926, SB 981) đã được thông qua tại California để giải quyết các vấn đề liên quan đến deepfake. Những luật này mở rộng các biện pháp bảo vệ hiện có, hình sự hóa việc sử dụng sai mục đích nội dung do AI tạo ra và yêu cầu các nền tảng mạng xã hội tạo kênh báo cáo nội dung deepfake. Các luật dự kiến được triển khai trước tháng 1 năm 2025.

Các luật về AI của California liên quan đến định nghĩa AI và việc sử dụng AI trong ngành điện ảnh#

Một trong những dự luật được ban hành tập trung vào việc đưa ra định nghĩa chính xác cho AI. AB 2885 quy định AI được định nghĩa là “một hệ thống được thiết kế hoặc vận hành dựa trên máy móc, có mức độ tự chủ khác nhau và có thể, với các mục tiêu rõ ràng hoặc ngầm định, suy luận từ đầu vào nhận được cách tạo ra các đầu ra có khả năng tác động đến môi trường vật lý hoặc ảo.”

Ngoài ra, hai luật đáng chú ý đã được áp dụng cho ngành giải trí. Công đoàn diễn viên điện ảnh và phát thanh truyền hình lớn nhất Hoa Kỳ (SAG-AFTRA) đóng vai trò quan trọng trong việc thúc đẩy hai luật này có hiệu lực. AB 2602 yêu cầu các hãng phim phải được diễn viên cho phép trước khi sử dụng AI để tạo bản sao giọng nói và hình dáng của họ. Trong khi đó, AB 1836 cấm các hãng phim tạo bản sao kỹ thuật số của những nghệ sĩ đã qua đời (tương tự nhân vật của Peter Cushing trong Star Wars: Rogue One) nếu không có sự đồng ý từ người thừa kế của họ.

Hình 5. Nhân vật Grand Moff Tarkin được tạo bằng hình dáng của diễn viên quá cố Peter Cushing.

Động lực thúc đẩy các luật về AI của California#

Khi tìm hiểu về từng luật này, có thể bạn đã tự hỏi tại sao chúng thực sự cần thiết. Các quy định về AI đã là chủ đề được thảo luận rộng rãi trong một thời gian, nhưng đã tạo được động lực đáng kể cùng với sự gia tăng của nội dung deepfake, vốn đã ảnh hưởng đến nhiều lĩnh vực, bao gồm truyền thông và chính trị. Việc sử dụng nội dung do AI tạo ra trên mạng đã làm dấy lên những lo ngại về thông tin sai lệch và tác động tiềm ẩn đến kết quả bầu cử, chẳng hạn. Những lo ngại về quyền riêng tư và việc các đổi mới AI sử dụng sai mục đích dữ liệu cá nhân cũng ngày càng gia tăng. Các vấn đề này là một trong những lý do khiến một số luật mới được ban hành để giải quyết chúng.

Ví dụ, AB 2905 yêu cầu các cuộc gọi tự động phải công khai liệu giọng nói được sử dụng có phải do AI tạo ra hay không. Hơn nữa, AB 2655 yêu cầu các nền tảng trực tuyến lớn như Facebook và X gỡ bỏ hoặc gắn nhãn deepfake liên quan đến bầu cử, đồng thời tạo kênh báo cáo cho loại nội dung này. Các ứng viên và quan chức được bầu cũng có thể yêu cầu biện pháp khẩn cấp của tòa án nếu các nền tảng không tuân thủ.

Một luật khác, AB 2839, nhắm đến những người dùng mạng xã hội đăng hoặc đăng lại deepfake có thể đánh lừa cử tri. Tương tự, AB 2355 quy định phải có thông báo công khai rõ ràng đối với các quảng cáo chính trị được tạo bằng công cụ AI.

Những điểm chính rút ra từ các luật AI mới của California#

Các luật AI mới của California phản ánh cam kết ngày càng tăng trong việc cân bằng đổi mới với trách nhiệm giải trình. Bằng cách giải quyết những mối lo ngại then chốt trong các lĩnh vực như tính minh bạch của dữ liệu, quyền riêng tư, deepfake và việc sử dụng AI trong chăm sóc sức khỏe và giáo dục, các luật này hướng đến bảo vệ cá nhân và xã hội, đồng thời thúc đẩy phát triển AI có trách nhiệm. Khi AI tiếp tục phát triển, các quy định này sẽ giúp bảo đảm quá trình tăng trưởng đi kèm với các thực hành có đạo đức và lòng tin của công chúng. Những luật này cũng có thể khuyến khích các khu vực khác trên thế giới áp dụng cách tiếp cận tương tự.

Để tìm hiểu thêm, hãy truy cập repository GitHub của chúng tôi và tham gia cộng đồng. Khám phá các ứng dụng AI trong lĩnh vực sản xuất và nông nghiệp trên các trang giải pháp của chúng tôi. 🚀