Tìm hiểu về độ chệch AI và độ chệch của bộ dữ liệu trong các hệ thống Vision AI

Các model trí tuệ nhân tạo (AI) đang thay đổi cách chúng ta giải quyết vấn đề, nhưng chúng không hoàn hảo. Từ xe tự lái đến các công cụ chẩn đoán trong lĩnh vực chăm sóc sức khỏe, chúng ta dựa vào AI để diễn giải dữ liệu và đưa ra quyết định. Điều gì sẽ xảy ra khi chính dữ liệu có vấn đề?

Định kiến trong AI là những kiểu sai lệch hình thành trong các model, thường không ai nhận ra. Những định kiến này có thể khiến model đưa ra dự đoán không chính xác, thiếu nhất quán hoặc thậm chí gây hại. Trong thị giác máy tính, định kiến thường bắt nguồn từ một yếu tố chính: tập dữ liệu. Nếu dữ liệu dùng để huấn luyện model mất cân bằng hoặc không đại diện, model sẽ phản ánh những khoảng trống đó.

Hãy cùng tìm hiểu kỹ hơn về cách định kiến trong tập dữ liệu hình thành, cách định kiến này ảnh hưởng đến các model thị giác máy tính và những bước nhà phát triển có thể thực hiện để phát hiện, ngăn chặn vấn đề. Chúng tôi cũng sẽ trình bày cách các model như Ultralytics YOLO11 có thể hỗ trợ xây dựng hệ thống AI công bằng hơn, có khả năng tổng quát hóa tốt hơn, nghĩa là hoạt động hiệu quả trên dữ liệu mới chưa từng thấy và phục vụ mọi người bình đẳng hơn.

Định kiến trong AI là gì và vì sao vấn đề này quan trọng?#

Định kiến trong AI là những lỗi có tính hệ thống trong một hệ thống AI, dẫn đến kết quả thiên lệch hoặc không chính xác. Nói đơn giản, model bắt đầu ưu tiên một loại đầu vào hình ảnh hơn các loại khác, ảnh hưởng đến tính công bằng của model không phải vì model hoạt động tốt hơn, mà do cách model được huấn luyện.

Điều này đặc biệt phổ biến trong thị giác máy tính, lĩnh vực mà model học từ dữ liệu hình ảnh. Nếu tập dữ liệu chủ yếu bao gồm một loại đối tượng, cảnh vật hoặc con người, model sẽ học các mẫu chỉ hoạt động tốt trong những trường hợp đó.

Hãy hình dung một model được huấn luyện chủ yếu bằng ảnh giao thông ở các thành phố lớn. Nếu được triển khai ở vùng nông thôn, model có thể phân loại sai những bố cục đường bất thường hoặc không phát hiện được một số loại phương tiện mà model chưa từng thấy. Đó là biểu hiện của định kiến trong AI. Vấn đề này làm giảm độ chính xác và hạn chế khả năng tổng quát hóa, tức khả năng hoạt động hiệu quả của model trên đầu vào mới hoặc đa dạng.

Trong các ứng dụng đòi hỏi độ chính xác cao, chẳng hạn như chăm sóc sức khỏe hoặc an ninh, những sai sót này không chỉ gây khó chịu mà còn có thể nguy hiểm. Giải quyết định kiến là vấn đề về hiệu suất, độ tin cậy và an toàn.

Định kiến trong tập dữ liệu ảnh hưởng đến hành vi của model như thế nào#

Khi nói đến định kiến trong tập dữ liệu, chúng ta đề cập đến sự mất cân bằng hoặc hạn chế trong dữ liệu dùng để huấn luyện model. Định kiến trong tập dữ liệu xảy ra khi dữ liệu huấn luyện không phản ánh đầy đủ sự đa dạng trong thế giới thực mà dữ liệu được dùng để mô hình hóa.

Model thị giác máy tính không hiểu thế giới. Chúng nhận biết các mẫu. Nếu những hình ảnh duy nhất về chó mà model thấy là chó golden retriever trong sân sau, model có thể không nhận ra chó husky trên con đường phủ tuyết.

Hình 1. Điều chỉnh trọng số dữ liệu nguồn giúp đạt độ chính xác model cao hơn.

Điều này cho thấy một trong những thách thức chính do định kiến trong tập dữ liệu gây ra. Model xây dựng hiểu biết dựa trên những gì model được cung cấp. Nếu dữ liệu huấn luyện không phản ánh sự đa dạng trong thế giới thực, hành vi của model sẽ trở nên hạn hẹp và kém hiệu quả hơn trong các điều kiện lạ.

Các bộ phân loại ảnh thường hoạt động kém hơn đáng kể khi được kiểm thử trên một tập dữ liệu khác với tập dữ liệu dùng để huấn luyện, ngay cả khi cả hai tập dữ liệu được xây dựng cho cùng một tác vụ. Những thay đổi nhỏ về ánh sáng, phông nền hoặc góc camera có thể làm độ chính xác giảm rõ rệt. Điều này cho thấy định kiến trong tập dữ liệu có thể dễ dàng ảnh hưởng đến khả năng tổng quát hóa của model.

Đây không phải là những trường hợp hiếm gặp. Chúng cho thấy quy trình dữ liệu quan trọng không kém gì kiến trúc model.

Các loại định kiến trong dữ liệu huấn luyện AI#

Định kiến có thể xuất hiện một cách khó nhận thấy trong quá trình phát triển, thường là khi thu thập, gán nhãn hoặc tuyển chọn dữ liệu. Dưới đây là ba loại định kiến chính có thể ảnh hưởng đến dữ liệu huấn luyện:

Định kiến chọn mẫu#

Định kiến chọn mẫu có thể xảy ra khi tập dữ liệu không thể hiện sự đa dạng trong quá trình sử dụng thực tế. Nếu model phát hiện người đi bộ chỉ được huấn luyện bằng ảnh ban ngày, trời quang, model sẽ hoạt động kém vào ban đêm hoặc khi có sương mù. Vì vậy, quá trình chọn mẫu đã bỏ sót những trường hợp quan trọng.

Hình 2. Minh họa trực quan về định kiến chọn mẫu, trong đó chỉ một tập con thiếu đa dạng được chọn.

Định kiến này xảy ra khi cách thu thập dữ liệu khiến tập dữ liệu không bao quát đầy đủ các tình huống trong thế giới thực. Ví dụ, model phát hiện người đi bộ chỉ được huấn luyện bằng ảnh ban ngày, trời quang có thể không phát hiện được người đi bộ trong sương mù, tuyết hoặc ánh sáng yếu. Điều này thường xảy ra khi dữ liệu được thu thập trong điều kiện lý tưởng hoặc thuận tiện, làm hạn chế khả năng hoạt động của model trong các môi trường đa dạng. Mở rộng việc thu thập dữ liệu để bao quát nhiều bối cảnh đa dạng hơn giúp giảm loại định kiến này.

Định kiến này cũng có thể xuất hiện trong các tập dữ liệu được xây dựng từ nguồn trực tuyến, nơi nội dung có thể thiên lệch mạnh về một số địa điểm, ngôn ngữ hoặc bối cảnh kinh tế xã hội nhất định. Nếu không chủ động đa dạng hóa tập dữ liệu, model sẽ kế thừa những hạn chế đó.

Định kiến nhãn#

Định kiến nhãn xảy ra khi người gán nhãn áp dụng nhãn sai hoặc thiếu nhất quán. Một nhãn sai có vẻ vô hại, nhưng nếu điều này xảy ra thường xuyên, model sẽ bắt đầu học các mối liên hệ sai lệch.

Việc gán nhãn thiếu nhất quán có thể khiến model nhầm lẫn trong quá trình huấn luyện, đặc biệt với các tác vụ phức tạp như phát hiện đối tượng. Ví dụ, một người gán nhãn có thể đánh dấu một phương tiện là "ô tô", trong khi người khác lại gắn nhãn một phương tiện tương tự là "xe tải". Những điểm không nhất quán này ảnh hưởng đến khả năng học các mẫu đáng tin cậy của model, dẫn đến độ chính xác thấp hơn khi suy luận.

Hình 3. Định kiến trong quy trình dữ liệu bắt nguồn từ sự mất cân bằng trong thế giới thực.

Định kiến nhãn cũng có thể xuất phát từ hướng dẫn gán nhãn không rõ ràng hoặc cách diễn giải khác nhau đối với cùng một dữ liệu. Xây dựng các tiêu chuẩn gán nhãn được tài liệu hóa đầy đủ và thực hiện kiểm tra kiểm soát chất lượng có thể giảm đáng kể những thách thức này.

Đào tạo liên tục cho người gán nhãn và sử dụng phương pháp gán nhãn đồng thuận, trong đó nhiều người gán nhãn cùng xem xét từng mẫu, là hai chiến lược hiệu quả để giảm thiểu định kiến nhãn và cải thiện chất lượng tập dữ liệu.

Định kiến về tính đại diện#

Định kiến về tính đại diện thường phản ánh những bất bình đẳng rộng hơn trong xã hội. Dữ liệu thu thập ở các khu vực giàu có hoặc có kết nối tốt hơn có thể không thể hiện sự đa dạng của những nhóm dân cư hoặc môi trường ít được đại diện. Giải quyết định kiến này đòi hỏi chủ động đưa vào các nhóm và bối cảnh thường bị bỏ qua.

Định kiến về tính đại diện xảy ra khi một số nhóm hoặc lớp được thể hiện không đầy đủ trong tập dữ liệu. Các nhóm này có thể là nhóm nhân khẩu học, danh mục đối tượng hoặc điều kiện môi trường. Nếu model chỉ thấy một màu da, một loại đối tượng hoặc một kiểu phông nền, dự đoán của model sẽ phản ánh sự mất cân bằng đó.

Có thể quan sát thấy loại định kiến này khi một số nhóm hoặc danh mục được đưa vào với số lượng ít hơn nhiều so với các nhóm khác. Điều này có thể khiến dự đoán của model thiên về những mẫu chiếm ưu thế trong tập dữ liệu. Ví dụ, model nhận diện khuôn mặt được huấn luyện chủ yếu trên một nhóm nhân khẩu học có thể gặp khó khăn khi hoạt động chính xác với mọi người dùng. Khác với định kiến chọn mẫu gắn với sự đa dạng của dữ liệu, định kiến về tính đại diện liên quan đến sự cân bằng giữa các nhóm.

Đánh giá tính đa dạng và chiến lược mở rộng dữ liệu có mục tiêu có thể giúp đảm bảo mọi nhóm nhân khẩu học và danh mục liên quan đều được thể hiện đầy đủ trong tập dữ liệu huấn luyện.

Cách phát hiện và giảm thiểu định kiến trong tập dữ liệu#

Trong quá trình triển khai thực tế, định kiến trong AI không chỉ có nghĩa là một vài dự đoán sai. Định kiến có thể dẫn đến các hệ thống hoạt động tốt với một số người nhưng không hiệu quả với tất cả mọi người.

Trong AI ô tô, các model phát hiện có thể hoạt động thiếu nhất quán giữa các nhóm người đi bộ, dẫn đến mức độ an toàn thấp hơn cho những người ít được đại diện. Vấn đề không nằm ở mục đích của model, mà ở các đầu vào hình ảnh dùng để huấn luyện model. Ngay cả trong nông nghiệp, định kiến trong phát hiện đối tượng cũng có thể khiến cây trồng được nhận diện kém trong các điều kiện ánh sáng hoặc thời tiết khác nhau. Đây là những hệ quả phổ biến khi huấn luyện model trên các tập dữ liệu hạn chế hoặc mất cân bằng.

Khắc phục định kiến trong AI bắt đầu bằng việc xác định vấn đề cần tìm. Nếu tập huấn luyện của bạn thiếu các mẫu quan trọng hoặc đại diện quá mức cho một phạm vi hẹp, model sẽ phản ánh những khoảng trống đó. Vì vậy, phát hiện định kiến trong AI là bước quan trọng trong mọi quy trình phát triển.

Hình 4. Các bước chính để giảm định kiến trong AI và cải thiện tính công bằng.

Bắt đầu bằng cách phân tích tập dữ liệu. Xem xét phân bố theo lớp, môi trường, điều kiện ánh sáng, tỷ lệ kích thước đối tượng và nhóm nhân khẩu học. Nếu một danh mục chiếm ưu thế, model có thể sẽ hoạt động kém hơn trên các danh mục khác.

Tiếp theo, hãy xem xét hiệu suất. Model có hoạt động kém hơn trong một số bối cảnh hoặc với những loại đối tượng cụ thể không? Nếu có, đây là dấu hiệu của định kiến đã học được và nguyên nhân thường bắt nguồn từ dữ liệu.

Đánh giá theo từng phân nhóm là yếu tố then chốt. Model có thể đạt độ chính xác trung bình 90% nhưng chỉ đạt 60% trên một nhóm hoặc điều kiện cụ thể. Nếu không kiểm tra các phân nhóm đó, bạn sẽ không bao giờ nhận ra.

Sử dụng các thước đo tính công bằng trong quá trình huấn luyện và đánh giá là một công cụ hữu ích khác. Những thước đo này vượt ra ngoài điểm số độ chính xác thông thường và đánh giá cách model hoạt động trên các tập con dữ liệu khác nhau. Các thước đo giúp phát hiện những điểm mù mà nếu không có thể sẽ không được nhận ra.

Tính minh bạch về thành phần tập dữ liệu và kiểm thử model giúp tạo ra các model tốt hơn.

Cải thiện tính công bằng thông qua đa dạng hóa và tăng cường dữ liệu#

Sau khi xác định được định kiến, bước tiếp theo là thu hẹp khoảng cách. Một trong những cách hiệu quả nhất là tăng tính đa dạng của dữ liệu trong các model AI. Điều đó có nghĩa là thu thập thêm mẫu từ các tình huống ít được đại diện, dù đó là ảnh y tế từ nhiều nhóm dân cư khác nhau hay các điều kiện môi trường bất thường.

Bổ sung dữ liệu có thể hữu ích, đặc biệt khi việc này làm tăng tính đa dạng. Tuy nhiên, cải thiện tính công bằng cũng phụ thuộc vào việc thu thập đúng loại mẫu. Các mẫu này cần phản ánh những biến thiên trong thế giới thực mà model có khả năng gặp phải.

Tăng cường dữ liệu là một chiến lược hữu ích khác. Lật, xoay, điều chỉnh ánh sáng và thay đổi tỷ lệ kích thước đối tượng có thể giúp mô phỏng các điều kiện khác nhau trong thế giới thực. Tăng cường không chỉ làm đa dạng tập dữ liệu mà còn giúp model thích ứng tốt hơn với những thay đổi về diện mạo, ánh sáng và bối cảnh.

Hầu hết quy trình huấn luyện hiện đại đều tích hợp sẵn tăng cường dữ liệu, nhưng cách sử dụng có chiến lược, chẳng hạn như điều chỉnh theo nhu cầu cụ thể của tác vụ, mới giúp phương pháp này phát huy hiệu quả trong việc đảm bảo tính công bằng.

Sử dụng dữ liệu tổng hợp để lấp đầy khoảng trống#

Dữ liệu tổng hợp là dữ liệu được tạo nhân tạo nhằm mô phỏng các mẫu trong thế giới thực. Đây có thể là công cụ hữu ích khi một số tình huống quá hiếm gặp hoặc quá nhạy cảm để thu thập ngoài thực tế.

Ví dụ, nếu bạn đang xây dựng model để phát hiện lỗi hiếm gặp trong máy móc hoặc vi phạm giao thông thuộc trường hợp ngoại lệ, bạn có thể mô phỏng các trường hợp đó bằng dữ liệu tổng hợp. Nhờ vậy, model có cơ hội học từ những sự kiện mà model có thể ít gặp trong tập huấn luyện.

Các nghiên cứu cho thấy việc đưa dữ liệu tổng hợp có mục tiêu vào quá trình huấn luyện có thể giảm định kiến trong tập dữ liệu và cải thiện hiệu suất trên các nhóm nhân khẩu học cũng như môi trường khác nhau.

Dữ liệu tổng hợp phát huy hiệu quả tốt nhất khi được kết hợp với các mẫu thực tế. Dữ liệu tổng hợp bổ trợ cho tập dữ liệu chứ không thay thế tập dữ liệu.

Cách Ultralytics YOLO11 hỗ trợ AI có đạo đức#

Việc xây dựng model AI không thiên lệch cũng phụ thuộc vào các công cụ bạn sử dụng. Ultralytics YOLO11 được thiết kế linh hoạt, dễ tinh chỉnh và có khả năng thích ứng cao, nhờ đó rất phù hợp để giảm định kiến trong tập dữ liệu.

Ultralytics YOLO11 hỗ trợ các kỹ thuật tăng cường dữ liệu nâng cao trong quá trình huấn luyện model, đưa vào nhiều bối cảnh hình ảnh và mẫu kết hợp đa dạng để cải thiện khả năng tổng quát hóa của model và giảm overfitting.

Ultralytics YOLO11 còn có kiến trúc backbone và neck được cải tiến để trích xuất đặc trưng hiệu quả hơn. Nâng cấp này tăng cường khả năng phát hiện chi tiết tinh vi của model, yếu tố then chốt trong các tình huống ít được đại diện hoặc thuộc trường hợp ngoại lệ mà model thông thường có thể gặp khó khăn.

Vì Ultralytics YOLO11 dễ huấn luyện lại và triển khai trên môi trường edge lẫn cloud, các nhóm có thể xác định khoảng cách về hiệu suất và nhanh chóng cập nhật model khi phát hiện định kiến trong thực tế.

AI công bằng không phải là mục tiêu chỉ cần đạt được một lần. Đó là một chu trình đánh giá, học hỏi và điều chỉnh. Các công cụ như Ultralytics YOLO11 giúp chu trình này diễn ra nhanh hơn và hiệu quả hơn.

Điểm chính cần ghi nhớ#

Định kiến trong AI ảnh hưởng đến mọi khía cạnh, từ tính công bằng đến hiệu suất. Định kiến trong thị giác máy tính thường bắt nguồn từ cách tập dữ liệu được thu thập, gán nhãn và cân bằng. May mắn là đã có những phương pháp đã được chứng minh để phát hiện và giảm thiểu vấn đề này.

Hãy bắt đầu bằng cách kiểm tra dữ liệu và đánh giá hiệu suất model trong nhiều tình huống khác nhau. Sử dụng phương pháp thu thập dữ liệu có mục tiêu, tăng cường dữ liệu và dữ liệu tổng hợp để mở rộng độ bao phủ của dữ liệu huấn luyện.

Ultralytics YOLO11 hỗ trợ quy trình này bằng cách giúp huấn luyện model tùy chỉnh, áp dụng các kỹ thuật tăng cường mạnh mẽ và phản ứng nhanh khi phát hiện định kiến dễ dàng hơn.

Xây dựng AI công bằng không chỉ là điều nên làm. Đây cũng là cách để tạo ra các hệ thống thông minh và đáng tin cậy hơn.

Hãy tham gia cộng đồng đang phát triển của chúng tôi! Khám phá kho lưu trữ GitHub để tìm hiểu thêm về AI. Bạn đã sẵn sàng bắt đầu dự án thị giác máy tính của riêng mình chưa? Hãy xem các tùy chọn cấp phép của chúng tôi. Khám phá AI trong sản xuất và AI thị giác trong nông nghiệp trên các trang giải pháp của chúng tôi!