AI theo hiến pháp hướng đến việc điều chỉnh các model AI theo các giá trị của con người

Trí tuệ nhân tạo (AI) đang nhanh chóng trở thành một phần quan trọng trong cuộc sống hằng ngày. AI đang được tích hợp vào các công cụ sử dụng trong những lĩnh vực như chăm sóc sức khỏe, tuyển dụng, tài chính và an toàn công cộng. Khi các hệ thống này mở rộng, những lo ngại về đạo đức và độ tin cậy của chúng cũng ngày càng được lên tiếng.

Ví dụ, đôi khi các hệ thống AI được xây dựng mà không cân nhắc tính công bằng hoặc an toàn có thể tạo ra kết quả thiên lệch hoặc không đáng tin cậy. Nguyên nhân là nhiều model vẫn chưa có cách rõ ràng để phản ánh và tuân theo các giá trị của con người.

Để giải quyết những thách thức này, các nhà nghiên cứu hiện đang tìm hiểu một phương pháp được gọi là AI theo hiến chương. Nói đơn giản, phương pháp này đưa một bộ nguyên tắc bằng văn bản vào quy trình huấn luyện model. Những nguyên tắc này giúp model đánh giá hành vi của chính mình, ít phụ thuộc hơn vào phản hồi của con người và đưa ra câu trả lời an toàn, dễ hiểu hơn.

Cho đến nay, phương pháp này chủ yếu được sử dụng với mô hình ngôn ngữ lớn (LLM). Tuy nhiên, cùng cấu trúc đó có thể giúp định hướng các hệ thống thị giác máy tính đưa ra quyết định có đạo đức khi phân tích dữ liệu hình ảnh.

Trong bài viết này, chúng ta sẽ tìm hiểu cách AI theo hiến chương hoạt động, xem xét các ví dụ thực tế và thảo luận về những ứng dụng tiềm năng trong các hệ thống thị giác máy tính.

Hình 1. Đặc điểm của AI theo hiến chương. Ảnh do tác giả thực hiện.

AI theo hiến chương là gì?#

AI hợp hiến là phương pháp huấn luyện model định hướng hành vi của các model AI bằng cách đưa ra một tập hợp quy tắc đạo đức rõ ràng. Các quy tắc này đóng vai trò như quy tắc ứng xử. Thay vì dựa vào model để tự suy luận điều gì là chấp nhận được, phương pháp này yêu cầu model tuân theo một bộ nguyên tắc được viết sẵn nhằm định hình phản hồi trong quá trình huấn luyện.

Khái niệm này được giới thiệu bởi Anthropic, một công ty nghiên cứu tập trung vào an toàn AI, đơn vị đã phát triển dòng LLM Claude như một phương pháp giúp các hệ thống AI tự giám sát tốt hơn trong quá trình ra quyết định.

Thay vì chỉ dựa vào phản hồi của con người, model học cách tự phê bình và tinh chỉnh câu trả lời dựa trên một bộ nguyên tắc được xác định trước. Phương pháp này tương tự một hệ thống pháp luật, trong đó thẩm phán tham chiếu hiến pháp trước khi đưa ra phán quyết.

Trong trường hợp này, model vừa là thẩm phán vừa là người học, sử dụng cùng một bộ quy tắc để xem xét và tinh chỉnh hành vi của chính mình. Quy trình này tăng cường khả năng căn chỉnh của model AI và hỗ trợ phát triển các hệ thống AI an toàn, có trách nhiệm.

AI theo hiến chương hoạt động như thế nào?#

Mục tiêu của AI theo hiến chương là dạy model AI đưa ra quyết định an toàn và công bằng bằng cách tuân theo một bộ quy tắc rõ ràng bằng văn bản. Dưới đây là giải thích đơn giản về cách quy trình này hoạt động:

• Xác định hiến chương: Tạo một danh sách bằng văn bản gồm các nguyên tắc đạo đức mà model cần tuân theo. Hiến chương nêu rõ AI nên tránh điều gì và cần phản ánh những giá trị nào.
• Huấn luyện bằng các ví dụ có giám sát: Model được cung cấp các câu trả lời mẫu tuân theo hiến chương. Những ví dụ này giúp AI hiểu thế nào là hành vi có thể chấp nhận.
• Nhận diện và áp dụng các khuôn mẫu: Theo thời gian, model bắt đầu nhận ra các khuôn mẫu này. Model học cách áp dụng cùng những giá trị đó khi trả lời câu hỏi mới hoặc xử lý tình huống mới.
• Phê bình và tinh chỉnh đầu ra: Model xem xét câu trả lời của chính mình và điều chỉnh dựa trên hiến chương. Giai đoạn tự xem xét này giúp model cải thiện mà không chỉ dựa vào phản hồi của con người.
• Tạo câu trả lời phù hợp và an toàn hơn: Model học từ các quy tắc nhất quán, giúp giảm thiên lệch và tăng độ tin cậy khi ứng dụng trong thực tế. Phương pháp này giúp model phù hợp hơn với các giá trị của con người và dễ quản lý hơn.

Hình 2. Tổng quan về việc sử dụng AI theo hiến chương để huấn luyện model.

Các nguyên tắc cốt lõi trong thiết kế AI có đạo đức#

Để model AI tuân theo các quy tắc đạo đức, trước tiên cần xác định rõ những quy tắc đó. Với AI theo hiến chương, các quy tắc này dựa trên một tập hợp những nguyên tắc cốt lõi.

Ví dụ, dưới đây là bốn nguyên tắc tạo nên nền tảng của một hiến chương AI hiệu quả:

• Tính minh bạch: Cần dễ dàng hiểu được cách model đi đến một câu trả lời. Nếu câu trả lời dựa trên sự kiện, ước tính hoặc khuôn mẫu, người dùng cần được thông tin rõ ràng. Điều này xây dựng lòng tin và giúp mọi người đánh giá liệu họ có thể dựa vào đầu ra của model hay không.
• Bình đẳng: Phản hồi cần nhất quán với những người dùng khác nhau. Model không nên thay đổi đầu ra dựa trên tên, xuất thân hoặc địa điểm của một người. Bình đẳng giúp ngăn ngừa thiên kiến và thúc đẩy sự đối xử công bằng.
• Trách nhiệm giải trình: Cần có cách truy xuất quy trình huấn luyện model và những yếu tố ảnh hưởng đến hành vi của model. Khi xảy ra sự cố, các nhóm cần xác định được nguyên nhân và cải thiện hệ thống. Điều này hỗ trợ tính minh bạch và trách nhiệm giải trình lâu dài.
• An toàn: Model cần tránh tạo ra nội dung có thể gây hại. Nếu một yêu cầu dẫn đến đầu ra nguy hiểm hoặc không an toàn, hệ thống cần nhận biết và dừng lại. Điều này bảo vệ cả người dùng lẫn tính toàn vẹn của hệ thống.

Ví dụ về AI theo hiến chương trong các mô hình ngôn ngữ lớn#

AI theo hiến pháp đã chuyển từ lý thuyết sang thực tiễn và hiện đang dần được sử dụng trong các model lớn tương tác với hàng triệu người dùng. Hai ví dụ phổ biến nhất là LLM của OpenAI và Anthropic.

Mặc dù hai tổ chức áp dụng các phương pháp khác nhau để tạo ra những hệ thống AI có đạo đức hơn, cả hai đều có chung một ý tưởng: dạy model tuân theo một bộ nguyên tắc định hướng bằng văn bản. Hãy cùng xem xét kỹ hơn các ví dụ này.

Phương pháp AI theo hiến chương của OpenAI#

OpenAI giới thiệu một tài liệu có tên Model Spec trong quy trình huấn luyện các model ChatGPT. Tài liệu này đóng vai trò như một bản hiến chương. Tài liệu nêu rõ những mục tiêu mà model cần hướng đến trong câu trả lời, bao gồm các giá trị như hữu ích, trung thực và an toàn. Tài liệu cũng xác định thế nào là đầu ra có hại hoặc gây hiểu lầm.

Khung này được sử dụng để tinh chỉnh các model của OpenAI bằng cách chấm điểm câu trả lời theo mức độ tuân thủ quy tắc. Theo thời gian, quá trình này đã giúp định hình ChatGPT để tạo ra ít đầu ra có hại hơn và phù hợp hơn với mong muốn thực tế của người dùng.

Hình 3. Ví dụ về ChatGPT sử dụng Model Spec của OpenAI để trả lời.

Các model AI có đạo đức của Anthropic#

Hiến pháp ban đầu của Claude, được Anthropic thay thế bằng phiên bản mới vào tháng 1 năm 2026, dựa trên các nguyên tắc đạo đức từ những nguồn như Tuyên ngôn Quốc tế Nhân quyền, hướng dẫn nền tảng như điều khoản dịch vụ của Apple và nghiên cứu từ các phòng thí nghiệm AI khác. Những nguyên tắc này giúp bảo đảm câu trả lời của Claude an toàn, công bằng và phù hợp với các giá trị quan trọng của con người.

Claude cũng sử dụng Học tăng cường từ phản hồi của AI (RLAIF), trong đó model xem xét và điều chỉnh câu trả lời dựa trên các hướng dẫn đạo đức này, thay vì dựa vào phản hồi của con người. Quy trình này cho phép Claude cải thiện theo thời gian, giúp model dễ mở rộng quy mô hơn và đưa ra câu trả lời hữu ích, có đạo đức, không gây hại tốt hơn, ngay cả trong những tình huống khó xử.

Hình 4. Tìm hiểu phương pháp AI theo hiến chương của Anthropic.

Ứng dụng AI theo hiến chương vào thị giác máy tính#

Vì AI theo hiến chương đang tạo ảnh hưởng tích cực đến hành vi của các mô hình ngôn ngữ, câu hỏi tự nhiên được đặt ra là: Liệu một phương pháp tương tự có thể giúp các hệ thống dựa trên thị giác phản hồi công bằng và an toàn hơn không?

Mặc dù các model thị giác máy tính xử lý hình ảnh thay vì văn bản, nhu cầu về định hướng đạo đức cũng quan trọng không kém. Chẳng hạn, tính công bằng và thiên lệch là những yếu tố then chốt cần cân nhắc, vì các hệ thống này cần được huấn luyện để đối xử bình đẳng với mọi người và tránh kết quả có hại hoặc không công bằng khi phân tích dữ liệu hình ảnh.

Hình 5. Thách thức đạo đức liên quan đến thị giác máy tính. Ảnh do tác giả thực hiện.

Hiện tại, việc sử dụng các phương pháp AI hợp hiến trong thị giác máy tính vẫn đang ở giai đoạn đầu, với các nghiên cứu trong lĩnh vực này vẫn tiếp tục.

Ví dụ, Meta gần đây đã giới thiệu CLUE, một framework áp dụng suy luận tương tự hiến chương cho các tác vụ an toàn hình ảnh. Framework này chuyển các quy tắc an toàn bao quát thành những bước chính xác mà AI đa phương thức (các hệ thống AI xử lý và hiểu nhiều loại dữ liệu) có thể tuân theo. Điều này giúp hệ thống suy luận rõ ràng hơn và giảm kết quả có hại.

Ngoài ra, CLUE giúp đánh giá độ an toàn của hình ảnh hiệu quả hơn bằng cách đơn giản hóa các quy tắc phức tạp, cho phép model AI hành động nhanh chóng và chính xác mà không cần nhiều sự tham gia của con người. Bằng cách sử dụng một bộ nguyên tắc định hướng, CLUE giúp các hệ thống kiểm duyệt hình ảnh dễ mở rộng quy mô hơn mà vẫn đảm bảo kết quả chất lượng cao.

Điểm chính cần ghi nhớ#

Khi các hệ thống AI đảm nhận nhiều trách nhiệm hơn, trọng tâm đang chuyển từ việc chúng có thể làm gì sang việc chúng nên làm gì. Sự chuyển dịch này rất quan trọng vì các hệ thống này được sử dụng trong những lĩnh vực ảnh hưởng trực tiếp đến cuộc sống con người, như chăm sóc sức khỏe, thực thi pháp luật và giáo dục.

Để đảm bảo các hệ thống AI hành động phù hợp và có đạo đức, chúng cần có nền tảng vững chắc và nhất quán. Nền tảng này cần ưu tiên tính công bằng, an toàn và lòng tin.

Một hiến chương bằng văn bản có thể tạo nền tảng đó trong quá trình huấn luyện, định hướng quy trình ra quyết định của hệ thống. Hiến chương cũng có thể cung cấp cho nhà phát triển một framework để xem xét và điều chỉnh hành vi của hệ thống sau khi triển khai, đảm bảo hệ thống tiếp tục tuân theo các giá trị mà nó được thiết kế để duy trì, đồng thời giúp việc thích ứng với những thách thức mới trở nên dễ dàng hơn.

Tham gia cộng đồng đang phát triển của chúng tôi ngay hôm nay! Tìm hiểu sâu hơn về AI bằng cách khám phá kho lưu trữ GitHub của chúng tôi. Bạn muốn xây dựng các dự án thị giác máy tính của riêng mình? Khám phá các tùy chọn cấp phép của chúng tôi. Tìm hiểu cách thị giác máy tính trong chăm sóc sức khỏe đang cải thiện hiệu quả và khám phá tác động của AI trong sản xuất bằng cách truy cập các trang giải pháp của chúng tôi!