Các quy định AI mới tại California: Tập trung vào AI đạo đức

Từ xe tự lái đến chăm sóc sức khỏe, các đổi mới trong trí tuệ nhân tạo (AI) và các công ty công nghệ thế hệ mới đang bắt đầu đóng vai trò then chốt trong việc định hình lại cuộc sống hàng ngày của chúng ta. Kết quả là, quy mô thị trường AI toàn cầu đạt 196,63 tỷ USD vào năm 2023 và dự kiến sẽ tăng trưởng trung bình 36% mỗi năm từ 2024 đến 2030. Những con số này cho thấy AI đang phát triển nhanh chóng như thế nào.

Một mặt, sự phát triển nhanh chóng của AI đang tạo ra các giải pháp cho nhiều vấn đề khác nhau trong các ngành công nghiệp. Mặt khác, tốc độ này cũng làm nổi bật nhu cầu phát triển AI có trách nhiệm để đảm bảo rằng các cải tiến mang tính đạo đức và có lợi cho xã hội.

Ví dụ, vào năm 2016, Microsoft đã ra mắt một chatbot, Tay, trên X (trước đây là Twitter). Nó được thiết kế để học hỏi từ các cuộc trò chuyện với người dùng. Tuy nhiên, ngay sau khi ra mắt, Tay đã bắt đầu tạo ra các phản hồi sử dụng ngôn từ thiếu chuyên nghiệp do tiếp nhận nhiều tương tác khác nhau. Mặc dù Microsoft đã nhanh chóng đưa bot này ngoại tuyến, đây là một ví dụ điển hình về tầm quan trọng của việc đảm bảo rằng dữ liệu được sử dụng cho AI training là đáng tin cậy và công chúng nhận thức được cách các công ty sử dụng data đó cho các sản phẩm AI.

Hình 1. Chatbot Twitter của Microsoft, Tay.

Để giải quyết mối lo ngại này, Thống đốc California, Gavin Newsom, đã ký hơn một chục dự luật liên quan đến AI thành luật vào tháng 9 này. Các luật này giải quyết mọi vấn đề từ việc tiết lộ chi tiết về dữ liệu huấn luyện cho đến cách xử lý deepfake. Trong bài viết này, chúng ta sẽ khám phá các luật về AI của California và những gì chúng bao hàm. Hãy cùng bắt đầu!

Link to this sectionPháp luật về AI tại California năm 2024: Đảm bảo trách nhiệm giải trình#

Ba dự luật lớn đã được ký thành luật nhằm hỗ trợ phát triển AI trở nên an toàn và đáng tin cậy hơn. Dự luật Quốc hội (AB) 2013, có hiệu lực vào năm 2026, yêu cầu các nhà cung cấp AI tạo sinh phải công bố chi tiết về tập dữ liệu huấn luyện của họ. Những chi tiết này bao gồm nguồn của các tập dữ liệu, thông tin chi tiết về cách sử dụng dữ liệu, số lượng điểm dữ liệu trong tập hợp, việc có bao gồm dữ liệu có bản quyền hay được cấp phép hay không, khoảng thời gian thu thập dữ liệu, v.v. Việc chia sẻ thông tin này sẽ giúp các công ty AI xây dựng niềm tin với công chúng.

Một dự luật quan trọng khác đã được ký là AB 1008. Nó mở rộng các luật về quyền riêng tư hiện có của California sang các giải pháp AI tạo sinh. AB 1008 được đưa ra để giải quyết các mối lo ngại và cải thiện niềm tin của công chúng vào cách các hệ thống AI xử lý thông tin cá nhân. Một cuộc khảo sát cho thấy hơn 81% người tiêu dùng lo ngại rằng các công ty AI có thể sử dụng thông tin của họ theo những cách không mong muốn. Bằng cách thiết lập các giới hạn rõ ràng về cách các doanh nghiệp có thể sử dụng và kiếm lợi từ thông tin cá nhân như tên, địa chỉ và dữ liệu sinh trắc học, luật này giúp các công ty AI trấn an người dùng rằng dữ liệu của họ sẽ được xử lý có trách nhiệm, ngay cả khi bị hệ thống AI phơi bày.

Hình 2. Đồ họa thông tin cho thấy nhiều người tin rằng các giải pháp AI có thể cải thiện về mặt quyền riêng tư.

Tương tự, Dự luật Thượng viện (SB) 896, hay Đạo luật Trách nhiệm giải trình AI tạo sinh, yêu cầu Văn phòng Dịch vụ Khẩn cấp California (CalOES) thực hiện phân tích rủi ro đối với các mối đe dọa tiềm tàng do hệ thống AI tạo sinh gây ra. CalOES sẽ làm việc với các công ty AI tiên phong như OpenAI và Anthropic để thảo luận và phân tích các mối đe dọa tiềm tàng của AI đối với cơ sở hạ tầng trọng yếu của bang.

Link to this sectionViệc áp dụng và quản lý AI tại các tổ chức giáo dục#

Chúng tôi đã tìm hiểu trước đó về việc AI trong giáo dục có thể cá nhân hóa trải nghiệm học tập, định nghĩa lại các phương pháp giảng dạy, cung cấp phản hồi theo thời gian thực và hỗ trợ các nhà giáo dục với các công cụ và thông tin chuyên sâu tiên tiến như thế nào. Thực tế, các đổi mới AI có thể tạo ra một môi trường học tập hiệu quả và hấp dẫn hơn cho sinh viên. Các nhà giáo dục và giáo viên trên khắp thế giới đang sử dụng AI thường xuyên hơn, với các dự án thí điểm thành công và các triển khai rộng rãi hơn đang được thực hiện. Các nghiên cứu cho thấy hơn 50% giáo viên cảm thấy AI trong lớp học đã tác động tích cực đến quá trình dạy và học.

Hình 3. Khảo sát cho thấy cảm nhận của giáo viên về việc sử dụng AI trong trường học.

California đã giới thiệu hai luật liên quan đến việc sử dụng AI trong các tổ chức giáo dục. AB 2876 yêu cầu Hội đồng Giáo dục Bang California cân nhắc về kiến thức AI (sau ngày 1 tháng 1 năm 2025) trong các khung chương trình và tài liệu giảng dạy về toán học, khoa học và lịch sử. Mục đích của luật này là đảm bảo rằng các trường học tại California giáo dục học sinh về những điều cơ bản về cách trí tuệ nhân tạo hoạt động, cũng như các hạn chế, tác động và cân nhắc về đạo đức khi sử dụng công nghệ này.

Ngoài ra, SB 1288 yêu cầu các giám đốc học khu tại California thành lập các nhóm làm việc (vào hoặc trước ngày 1 tháng 1 năm 2026) để khám phá cách AI đang được sử dụng trong các trường công lập. Các nhóm làm việc này sẽ cần nộp các phát hiện và khuyến nghị của họ cho các ủy ban chính sách và tài chính liên quan của Cơ quan Lập pháp trước ngày 1 tháng 1 năm 2027. Sau khi báo cáo được nộp, nhóm làm việc sẽ bị giải thể và các điều khoản sẽ bị bãi bỏ vào ngày 1 tháng 1 năm 2031.

Link to this sectionCác quy định xung quanh AI tạo sinh trong chăm sóc sức khỏe#

AI tạo sinh đang cải thiện ngành chăm sóc sức khỏe bằng cách kích hoạt các đổi mới để khám phá thuốc mới, chẩn đoán bệnh, lên kế hoạch điều trị và các chatbot y tế. Các ứng dụng này có thể mang lại những lợi ích như giám sát theo thời gian thực, tư vấn và hỗ trợ để cải thiện kết quả của bệnh nhân. Các công nghệ AI khác, như thực tế tăng cường (AR), cũng có thể được sử dụng để lập kế hoạch và mô phỏng các thủ tục phẫu thuật.

Hình 4. Các trường hợp sử dụng AI tạo sinh trong chăm sóc sức khỏe.

Việc tích hợp AI tạo sinh vào chăm sóc sức khỏe đi kèm với một số lưu ý liên quan đến quyền riêng tư dữ liệu và các quy định. Việc ưu tiên tính chính xác, độ tin cậy và sự công bằng của các kết quả do AI tạo ra, đồng thời bảo vệ quyền riêng tư của thông tin sức khỏe là rất quan trọng.

Để giải quyết những thách thức này, California đã thông qua hai luật về việc sử dụng AI tạo sinh trong chăm sóc sức khỏe. AB 3030 kêu gọi các nhà cung cấp dịch vụ chăm sóc sức khỏe tiết lộ khi họ sử dụng AI tạo sinh để giao tiếp với bệnh nhân, đặc biệt là khi những tin nhắn đó chứa thông tin lâm sàng của bệnh nhân. SB 1120 đặt ra các giới hạn về cách các nhà cung cấp dịch vụ chăm sóc sức khỏe và công ty bảo hiểm y tế có thể tự động hóa các dịch vụ của họ. Các luật mới này cũng đảm bảo rằng các bác sĩ được cấp phép giám sát việc sử dụng các công cụ AI trong các môi trường này.

Link to this sectionKhung pháp lý về AI của California đối với deepfake#

Bang California cũng đã thông qua các luật liên quan đến việc hạn chế sử dụng AI để lan truyền thông tin sai lệch hoặc không chính xác. SB 942 yêu cầu các hệ thống AI tạo sinh phổ biến phải chỉ rõ trong dữ liệu nguồn của chúng rằng nội dung đó được tạo ra bởi AI. Nhiều công ty AI đã thực hiện điều này và một số công cụ miễn phí (ZeroGPT, Winston AI, GLTR, v.v.) có thể giúp mọi người đọc dữ liệu nguồn này và phát hiện nội dung do AI tạo ra.

Ba luật mới (AB 1831, SB 926, SB 981) đã được thông qua tại California để giải quyết các vấn đề liên quan đến deepfake. Các luật này mở rộng các biện pháp bảo vệ hiện có, hình sự hóa việc lạm dụng nội dung do AI tạo ra và yêu cầu các nền tảng mạng xã hội tạo các kênh báo cáo cho nội dung deepfake. Các luật này dự kiến sẽ được thực hiện vào tháng 1 năm 2025.

Link to this sectionLuật AI của California về định nghĩa AI và việc sử dụng nó trong phim ảnh#

Một trong những dự luật được thông qua thành luật tập trung vào việc đưa ra định nghĩa phù hợp cho AI. AB 2885 quy định rằng AI được định nghĩa là “một hệ thống dựa trên máy móc hoặc được thiết kế có mức độ tự chủ khác nhau và có thể, vì các mục tiêu rõ ràng hoặc ẩn ý, suy luận từ đầu vào mà nó nhận được để tạo ra các đầu ra có thể ảnh hưởng đến môi trường vật lý hoặc ảo.”

Ngoài ra còn có hai luật thú vị được đặt ra cho ngành giải trí. Công đoàn diễn viên phim và phát thanh truyền hình lớn nhất nước Mỹ (SAG-AFTRA) đã đóng vai trò quan trọng trong việc thúc đẩy các luật này có hiệu lực. AB 2602 yêu cầu các hãng phim phải xin phép diễn viên trước khi sử dụng AI để tạo ra bản sao giọng nói và ngoại hình của họ. Trong khi đó, AB 1836 cấm các hãng phim tạo ra các bản sao kỹ thuật số của những nghệ sĩ đã qua đời (tương tự như nhân vật của Peter Cushing trong Star Wars: Rogue One) mà không có sự đồng ý từ những người thừa kế của họ.

Hình 5. Nhân vật Grand Moff Tarkin được tạo ra bằng cách sử dụng ngoại hình của cố diễn viên Peter Cushing.

Link to this sectionYếu tố thúc đẩy đằng sau các luật về AI tại California#

Khi chúng ta tìm hiểu sâu về từng luật này, bạn có thể đã tự hỏi tại sao chúng thực sự cần thiết. Các quy định về AI đã là một chủ đề thảo luận phổ biến trong một thời gian, nhưng chúng đã đạt được đà phát triển đáng kể với sự gia tăng của nội dung deepfake, vốn đã ảnh hưởng đến nhiều lĩnh vực, bao gồm truyền thông và chính trị. Việc sử dụng nội dung do AI tạo ra trực tuyến đã làm dấy lên những lo ngại về thông tin sai lệch và tác động tiềm tàng của nó đối với kết quả bầu cử, chẳng hạn. Cũng có những lo ngại ngày càng tăng về quyền riêng tư và việc lạm dụng dữ liệu cá nhân bởi các đổi mới AI. Những vấn đề này là một yếu tố khiến một số luật mới hiện đã được áp dụng để giải quyết chúng.

Ví dụ, AB 2905 bắt buộc các cuộc gọi tự động (robocall) phải tiết lộ liệu chúng có phải là giọng nói do AI tạo ra hay không. Hơn nữa, AB 2655 yêu cầu các nền tảng trực tuyến lớn như Facebook và X gỡ bỏ hoặc gắn nhãn các nội dung deepfake liên quan đến bầu cử và tạo các kênh báo cáo cho nội dung đó. Các ứng cử viên và quan chức được bầu cũng có thể tìm kiếm các biện pháp giảm nhẹ bằng lệnh cấm nếu các nền tảng không tuân thủ.

Một luật khác, AB 2839, nhắm vào những người dùng mạng xã hội đăng hoặc đăng lại nội dung deepfake có thể gây hiểu lầm cho cử tri. Tương tự, AB 2355 quy định các tiết lộ rõ ràng cho các quảng cáo chính trị được thực hiện bằng các công cụ AI.

Link to this sectionNhững điểm chính từ các luật AI mới của California#

Các luật AI mới của California phản ánh cam kết ngày càng tăng trong việc cân bằng giữa đổi mới và trách nhiệm giải trình. Bằng cách giải quyết các mối quan ngại chính trong các lĩnh vực như tính minh bạch dữ liệu, quyền riêng tư, deepfake và việc sử dụng AI trong chăm sóc sức khỏe và giáo dục, các luật này nhằm mục đích bảo vệ các cá nhân và xã hội đồng thời thúc đẩy phát triển AI có trách nhiệm. Khi AI tiếp tục phát triển, các quy định này sẽ giúp đảm bảo rằng sự tăng trưởng của nó đi kèm với các thực hành đạo đức và niềm tin của công chúng. Các luật này cũng có thể khuyến khích các khu vực khác trên thế giới thực hiện theo.

Để tìm hiểu thêm, hãy truy cập GitHub repository của chúng tôi, và tham gia cùng cộng đồng của chúng tôi. Khám phá các ứng dụng AI trong manufacturing và agriculture trên các trang giải pháp của chúng tôi. 🚀