Ngày 10 tháng 10 năm 2024
Khám phá cách luật AI mới của California cân bằng giữa đổi mới và trách nhiệm giải trình, bao gồm quyền riêng tư, deepfake, chăm sóc sức khỏe, giáo dục và an ninh.
Từ xe tự lái đến chăm sóc sức khỏe, những đổi mới về trí tuệ nhân tạo (AI) và các công ty công nghệ thế hệ tiếp theo đang bắt đầu đóng một vai trò quan trọng trong việc định hình lại cuộc sống hàng ngày của chúng ta. Do đó, quy mô thị trường AI toàn cầu là 196,63 tỷ đô la vào năm 2023 và dự kiến sẽ tăng trung bình 36% hàng năm từ năm 2024 đến năm 2030. Những con số này cho thấy AI đang phát triển nhanh như thế nào.
Một mặt, sự phát triển nhanh chóng của AI đang tạo ra các giải pháp cho nhiều vấn đề khác nhau trong các ngành công nghiệp khác nhau. Mặt khác, tốc độ này làm nổi bật sự cần thiết của việc phát triển AI có trách nhiệm để đảm bảo rằng những cải tiến mang tính đạo đức và có lợi cho xã hội.
Ví dụ: Vào năm 2016, Microsoft đã ra mắt một chatbot, Tay, trên X (trước đây là Twitter). Nó được thiết kế để học hỏi từ các cuộc trò chuyện với người dùng. Tuy nhiên, ngay sau khi phát hành, Tay bắt đầu tạo ra các phản hồi với ngôn ngữ không chuyên nghiệp khi nó tiếp thu một loạt các tương tác. Mặc dù Microsoft đã nhanh chóng gỡ bot xuống, nhưng đó là một ví dụ điển hình về tầm quan trọng của việc đảm bảo rằng dữ liệu được sử dụng để đào tạo AI là đáng tin cậy và công chúng nhận thức được cách các công ty đang sử dụng dữ liệu đó cho các sản phẩm AI.
Để giải quyết mối lo ngại này, Thống đốc California, Gavin Newsom, đã ký hơn một chục dự luật liên quan đến AI thành luật vào tháng 9 này. Các luật này giải quyết mọi vấn đề, từ việc tiết lộ chi tiết về dữ liệu huấn luyện đến xử lý deepfake. Trong bài viết này, chúng ta sẽ khám phá luật AI của California và những gì nó kéo theo. Hãy bắt đầu nào!
Ba dự luật lớn đã được ký thành luật để hỗ trợ phát triển AI trở nên an toàn và đáng tin cậy hơn. Assembly Bill (AB) 2013, có hiệu lực vào năm 2026, yêu cầu các nhà cung cấp AI tạo sinh phải công bố chi tiết về bộ dữ liệu huấn luyện của họ. Các chi tiết này bao gồm nguồn của bộ dữ liệu, chi tiết về cách dữ liệu được sử dụng, số lượng điểm dữ liệu trong bộ, liệu dữ liệu có bản quyền hoặc được cấp phép có được bao gồm hay không, khoảng thời gian dữ liệu được thu thập, v.v. Chia sẻ thông tin này sẽ giúp các công ty AI xây dựng lòng tin của công chúng.
Một dự luật quan trọng khác đã được ký là AB 1008. Nó mở rộng luật bảo mật hiện hành của California sang các giải pháp AI tạo sinh. AB 1008 được giới thiệu để giải quyết những lo ngại và cải thiện sự tin tưởng của công chúng về cách các hệ thống AI xử lý thông tin cá nhân. Một cuộc khảo sát cho thấy hơn 81% người tiêu dùng lo ngại rằng các công ty AI có thể sử dụng thông tin của họ theo những cách mà họ không dự định. Bằng cách đặt ra các giới hạn rõ ràng về cách các doanh nghiệp có thể sử dụng và thu lợi từ thông tin cá nhân, như tên, địa chỉ và dữ liệu sinh trắc học, luật này giúp các công ty AI trấn an người dùng rằng dữ liệu của họ sẽ được xử lý có trách nhiệm, ngay cả khi bị lộ bởi một hệ thống AI.
Tương tự, Dự luật Thượng viện (SB) 896, hay Đạo luật Trách nhiệm giải trình về AI tạo sinh, yêu cầu Văn phòng Dịch vụ Khẩn cấp của California (CalOES) thực hiện phân tích rủi ro về các mối đe dọa tiềm tàng do hệ thống AI tạo sinh gây ra. CalOES sẽ làm việc với các công ty AI tiên phong, chẳng hạn như OpenAI và Anthropic, để thảo luận và phân tích các mối đe dọa tiềm tàng của AI đối với cơ sở hạ tầng quan trọng của tiểu bang.
Trước đây, chúng tôi đã khám phá cách AI trong giáo dục có thể cá nhân hóa trải nghiệm học tập, định hình lại phương pháp giảng dạy, cung cấp phản hồi theo thời gian thực và hỗ trợ các nhà giáo dục bằng các công cụ và thông tin chi tiết tiên tiến. Trên thực tế, những đổi mới AI có thể tạo ra một môi trường học tập hấp dẫn và hiệu quả hơn cho học sinh. Các nhà giáo dục và giáo viên trên toàn thế giới đang sử dụng AI thường xuyên hơn, với các dự án thí điểm thành công và triển khai rộng rãi hơn đang được tiến hành. Các nghiên cứu cho thấy hơn 50% giáo viên cảm thấy AI trong lớp học đã tác động tích cực đến quá trình dạy và học.
California đã giới thiệu hai luật liên quan đến việc sử dụng AI trong các cơ sở giáo dục. AB 2876 yêu cầu Ban Giáo dục Tiểu bang California xem xét kiến thức về AI (sau ngày 1 tháng 1 năm 2025) trong toán học, khoa học và lịch sử khung chương trình và tài liệu giảng dạy. Mục đích của luật này là để đảm bảo rằng các trường học của California giáo dục học sinh về những điều cơ bản về cách trí tuệ nhân tạo hoạt động, cũng như những hạn chế, tác động và cân nhắc về đạo đức của việc sử dụng công nghệ.
Ngoài ra, SB 1288 yêu cầu các giám đốc học khu California thành lập các nhóm làm việc (vào hoặc trước ngày 1 tháng 1 năm 2026) để khám phá cách AI đang được sử dụng trong các trường công lập. Các nhóm làm việc này sẽ cần phải đệ trình các phát hiện và khuyến nghị của họ lên các ủy ban chính sách và tài chính có liên quan của Cơ quan lập pháp trước ngày 1 tháng 1 năm 2027. Sau khi báo cáo được đệ trình, nhóm làm việc sẽ bị giải tán và các điều khoản sẽ bị bãi bỏ vào ngày 1 tháng 1 năm 2031.
AI tạo sinh đang cải thiện ngành chăm sóc sức khỏe bằng cách cho phép các đổi mới để khám phá các loại thuốc mới, chẩn đoán bệnh, lập kế hoạch điều trị và chatbot y tế. Các ứng dụng này có thể cung cấp các lợi ích như theo dõi, tư vấn và hỗ trợ theo thời gian thực để cải thiện kết quả cho bệnh nhân. Các công nghệ AI khác, như thực tế tăng cường (AR), cũng có thể được sử dụng để lập kế hoạch và mô phỏng các quy trình phẫu thuật.
Việc tích hợp AI tạo sinh vào lĩnh vực chăm sóc sức khỏe đi kèm với một số lưu ý liên quan đến quyền riêng tư và các quy định về dữ liệu. Ưu tiên tính chính xác, độ tin cậy và tính công bằng của các kết quả do AI tạo ra, đồng thời bảo vệ quyền riêng tư của thông tin sức khỏe là rất quan trọng.
Để giải quyết những thách thức này, California đã thông qua hai luật về việc sử dụng AI tạo sinh trong lĩnh vực chăm sóc sức khỏe. AB 3030 kêu gọi các nhà cung cấp dịch vụ chăm sóc sức khỏe tiết lộ khi họ sử dụng AI tạo sinh để giao tiếp với bệnh nhân, đặc biệt khi những tin nhắn đó chứa thông tin lâm sàng của bệnh nhân. SB 1120 đặt ra các hạn chế về cách các nhà cung cấp dịch vụ chăm sóc sức khỏe và các công ty bảo hiểm y tế có thể tự động hóa các dịch vụ của họ. Các luật mới này cũng đảm bảo rằng các bác sĩ được cấp phép giám sát việc sử dụng các công cụ AI trong các cài đặt này.
Tiểu bang California cũng đã thông qua luật liên quan đến việc hạn chế sử dụng AI để lan truyền thông tin sai lệch hoặc không chính xác. SB 942 yêu cầu các hệ thống AI tạo sinh phổ biến phải chỉ rõ trong dữ liệu nguồn của chúng rằng nội dung được tạo bởi AI. Nhiều công ty AI đã làm điều này và một số công cụ miễn phí ngoài kia (ZeroGPT, Winston AI, GLTR, v.v.) có thể giúp mọi người đọc dữ liệu nguồn này và phát hiện nội dung do AI tạo.
Ba luật mới (AB 1831, SB 926, SB 981) đã được thông qua ở California để giải quyết các vấn đề liên quan đến deepfake. Các luật này mở rộng các biện pháp bảo vệ hiện có, hình sự hóa việc lạm dụng nội dung do AI tạo ra và yêu cầu các nền tảng truyền thông xã hội tạo các kênh báo cáo cho nội dung deepfake. Các luật này dự kiến sẽ được thực hiện vào tháng 1 năm 2025.
Một trong những dự luật đã được thông qua thành luật tập trung vào việc đưa ra một định nghĩa thích hợp cho AI. AB 2885 quy định rằng AI được định nghĩa là "một hệ thống được thiết kế hoặc dựa trên máy móc có mức độ tự chủ khác nhau và có thể, đối với các mục tiêu rõ ràng hoặc ngụ ý, suy ra từ đầu vào mà nó nhận được cách tạo ra các đầu ra có thể ảnh hưởng đến môi trường vật lý hoặc ảo."
Ngoài ra, có hai luật thú vị được ban hành cho ngành giải trí. Liên đoàn diễn viên điện ảnh và phát thanh truyền hình lớn nhất của Mỹ (SAG-AFTRA) đóng một vai trò quan trọng trong việc đưa những luật này có hiệu lực. AB 2602 yêu cầu các hãng phim phải xin phép diễn viên trước khi sử dụng AI để tạo bản sao giọng nói và hình ảnh của họ. Trong khi đó, AB 1836 cấm các hãng phim tạo bản sao kỹ thuật số của những người biểu diễn đã qua đời (tương tự như nhân vật Peter Cushing trong Star Wars: Rogue One) mà không có sự đồng ý từ gia sản của họ.
Khi chúng ta hiểu rõ hơn về từng điều luật này, bạn có thể tự hỏi tại sao chúng thực sự cần thiết. Các quy định về AI đã là một chủ đề thảo luận phổ biến trong một thời gian, nhưng chúng đã đạt được động lực đáng kể với sự trỗi dậy của nội dung deepfake, vốn đã tác động đến nhiều lĩnh vực khác nhau, bao gồm cả truyền thông và chính trị. Việc sử dụng nội dung do AI tạo ra trực tuyến đã gây ra những lo ngại về thông tin sai lệch và tác động tiềm tàng của nó đến kết quả bầu cử, chẳng hạn. Cũng có những lo ngại ngày càng tăng về quyền riêng tư và việc lạm dụng dữ liệu cá nhân bởi các cải tiến AI. Những vấn đề này là một yếu tố khiến một số luật mới hiện đang được áp dụng để giải quyết những vấn đề này.
Ví dụ: AB 2905 yêu cầu các cuộc gọi tự động phải tiết lộ xem chúng có phải là giọng nói do AI tạo ra hay không. Hơn nữa, AB 2655 kêu gọi các nền tảng trực tuyến lớn như Facebook và X xóa hoặc gắn nhãn deepfake liên quan đến các cuộc bầu cử và tạo các kênh báo cáo cho nội dung đó. Các ứng cử viên và quan chức được bầu cũng có thể tìm kiếm lệnh cấm nếu các nền tảng không tuân thủ.
Một đạo luật khác, AB 2839, nhắm vào những người dùng mạng xã hội đăng hoặc đăng lại deepfake có thể gây hiểu lầm cho cử tri. Tương tự, AB 2355 quy định việc công khai rõ ràng đối với quảng cáo chính trị được tạo bằng các công cụ AI.
Luật AI mới của California phản ánh cam kết ngày càng tăng trong việc cân bằng giữa đổi mới và trách nhiệm giải trình. Bằng cách giải quyết các mối lo ngại chính trong các lĩnh vực như tính minh bạch của dữ liệu, quyền riêng tư, deepfake và việc sử dụng AI trong lĩnh vực chăm sóc sức khỏe và giáo dục, những luật này nhằm bảo vệ các cá nhân và xã hội đồng thời thúc đẩy sự phát triển AI có trách nhiệm. Khi AI tiếp tục phát triển, các quy định này sẽ giúp đảm bảo rằng sự tăng trưởng của nó đi kèm với các thông lệ đạo đức và sự tin tưởng của công chúng. Những luật này cũng có thể khuyến khích các khu vực khác trên thế giới làm theo.
Để tìm hiểu thêm, hãy truy cập kho lưu trữ GitHub của chúng tôi và tham gia cộng đồng của chúng tôi. Khám phá các ứng dụng AI trong sản xuất và nông nghiệp trên các trang giải pháp của chúng tôi. 🚀
