Tìm hiểu về thiên kiến AI và thiên kiến tập dữ liệu trong các hệ thống Vision AI

Các mô hình trí tuệ nhân tạo (AI) đang thay đổi cách chúng ta giải quyết vấn đề, nhưng chúng không hoàn hảo. Từ xe tự lái đến các công cụ chẩn đoán trong chăm sóc sức khỏe, chúng ta dựa vào AI để diễn giải dữ liệu và đưa ra quyết định. Điều gì sẽ xảy ra khi bản thân dữ liệu đó bị lỗi?

Thiên kiến trong AI đề cập đến các mô hình thiếu nhất quán phát sinh trong các model, thường là mà không ai nhận ra. Những thiên kiến này có thể khiến model đưa ra các dự đoán không chính xác, thiếu nhất quán hoặc thậm chí gây hại. Trong thị giác máy tính, thiên kiến thường bắt nguồn từ một nguồn chính: tập dữ liệu. Nếu dữ liệu được sử dụng để huấn luyện model bị mất cân bằng hoặc không đại diện, model sẽ phản ánh những lỗ hổng đó.

Hãy cùng xem xét kỹ hơn về cách thiên kiến tập dữ liệu hình thành, cách nó tác động đến các model thị giác máy tính, và các bước mà các nhà phát triển có thể thực hiện để phát hiện và ngăn chặn nó. Chúng tôi cũng sẽ trình bày cách các model như Ultralytics YOLO11 có thể hỗ trợ nỗ lực xây dựng các hệ thống AI công bằng hơn và khái quát hóa tốt hơn, nghĩa là chúng hoạt động hiệu quả trên dữ liệu mới, chưa từng thấy và phục vụ mọi người một cách bình đẳng hơn.

Link to this sectionThiên kiến AI là gì và tại sao nó lại quan trọng?#

Thiên kiến AI đề cập đến các lỗi nhất quán trong một hệ thống AI dẫn đến các kết quả bị lệch hoặc không chính xác. Nói một cách đơn giản, model bắt đầu ưu tiên một loại đầu vào hình ảnh hơn các loại khác, điều này ảnh hưởng đến sự công bằng của model, không phải vì nó hoạt động tốt hơn mà do cách nó được huấn luyện.

Điều này đặc biệt phổ biến trong thị giác máy tính, nơi các model học từ dữ liệu hình ảnh. Nếu một tập dữ liệu chủ yếu bao gồm một loại vật thể, cảnh quan hoặc con người, model sẽ học các mô hình chỉ hoạt động tốt cho những trường hợp đó.

Hãy tưởng tượng một model được huấn luyện chủ yếu trên hình ảnh giao thông từ các thành phố lớn. Nếu được triển khai ở một khu vực nông thôn, nó có thể phân loại sai các bố cục đường lạ hoặc không phát hiện được các loại phương tiện mà nó chưa từng thấy trước đây. Đó là thiên kiến AI trong thực tế. Nó dẫn đến độ chính xác thấp hơn và khả năng khái quát hóa hạn chế, điều này đề cập đến khả năng hoạt động tốt của một model trên các đầu vào mới hoặc đa dạng.

Trong các ứng dụng mà độ chính xác là yếu tố thiết yếu, như chăm sóc sức khỏe hoặc an ninh, những sai sót này không chỉ gây thất vọng mà còn có thể nguy hiểm. Việc giải quyết thiên kiến liên quan đến hiệu suất, độ tin cậy và an toàn.

Link to this sectionCách thiên kiến tập dữ liệu ảnh hưởng đến hành vi của model#

Khi nói đến thiên kiến tập dữ liệu, chúng tôi đề cập đến sự mất cân bằng hoặc hạn chế trong dữ liệu được sử dụng để huấn luyện model. Thiên kiến tập dữ liệu xảy ra khi dữ liệu huấn luyện không phản ánh đầy đủ sự đa dạng trong thế giới thực mà nó được thiết kế để mô hình hóa.

Các model thị giác máy tính không hiểu thế giới. Chúng hiểu các mô hình. Nếu những hình ảnh duy nhất về chó mà chúng thấy là Golden Retriever ở sân sau, chúng có thể không nhận ra một chú Husky trên đường mòn đầy tuyết.

Hình 1. Việc đánh trọng số lại dữ liệu nguồn giúp đạt được độ chính xác tốt hơn cho model.

Điều này làm nổi bật một trong những thách thức chính do thiên kiến tập dữ liệu gây ra. Model xây dựng sự hiểu biết của nó dựa trên những gì nó được hiển thị. Nếu dữ liệu huấn luyện đó không phản ánh sự đa dạng trong thế giới thực, hành vi của model sẽ trở nên hạn hẹp và kém hiệu quả trong các điều kiện không quen thuộc.

Các trình phân loại hình ảnh thường hoạt động kém hơn đáng kể khi được kiểm tra trên một tập dữ liệu khác với tập dữ liệu mà chúng được huấn luyện, ngay cả khi cả hai tập dữ liệu đều được xây dựng cho cùng một tác vụ. Những thay đổi nhỏ về ánh sáng, nền hoặc góc máy ảnh có thể dẫn đến sự sụt giảm đáng chú ý về độ chính xác. Điều này cho thấy thiên kiến tập dữ liệu ảnh hưởng dễ dàng như thế nào đến khả năng khái quát hóa của một model.

Đây không phải là những trường hợp ngoại lệ. Đây là những tín hiệu cho thấy pipeline dữ liệu của bạn quan trọng không kém gì kiến trúc model.

Link to this sectionCác loại thiên kiến trong dữ liệu huấn luyện AI#

Thiên kiến có thể được nhìn thấy trong quá trình phát triển theo những cách tinh vi, thường là trong quá trình thu thập, gán nhãn hoặc tuyển chọn dữ liệu. Dưới đây là ba loại thiên kiến chính có thể ảnh hưởng đến dữ liệu huấn luyện của bạn:

Link to this sectionThiên kiến lựa chọn (Selection bias)#

Thiên kiến lựa chọn có thể xảy ra khi tập dữ liệu không đại diện cho sự đa dạng được thấy trong thực tế. Nếu một model phát hiện người đi bộ chỉ được huấn luyện trên hình ảnh ban ngày, rõ ràng, nó sẽ không hoạt động tốt vào ban đêm hoặc trong sương mù. Do đó, quá trình lựa chọn đã bỏ lỡ các trường hợp quan trọng.

Hình 2. Biểu diễn trực quan của thiên kiến lựa chọn, nơi chỉ có một tập hợp con không đa dạng được chọn.

Loại thiên kiến này xảy ra khi tập dữ liệu không nắm bắt được toàn bộ các kịch bản trong thế giới thực do cách dữ liệu được thu thập. Ví dụ, một model phát hiện người đi bộ chỉ được huấn luyện trên hình ảnh ban ngày, rõ ràng, có thể thất bại trong sương mù, tuyết hoặc ánh sáng yếu. Điều này thường xảy ra khi dữ liệu được thu thập trong các điều kiện lý tưởng hoặc thuận tiện, hạn chế khả năng hoạt động của model trong các môi trường đa dạng. Việc mở rộng nỗ lực thu thập để bao gồm nhiều bối cảnh đa dạng hơn sẽ giúp giảm bớt loại thiên kiến này.

Nó cũng có thể nảy sinh trong các tập dữ liệu được xây dựng từ các nguồn trực tuyến, nơi nội dung có thể bị lệch đáng kể về phía các địa điểm, ngôn ngữ hoặc bối cảnh kinh tế xã hội nhất định. Nếu không có nỗ lực có chủ ý để đa dạng hóa tập dữ liệu, model sẽ kế thừa những hạn chế này.

Link to this sectionThiên kiến gán nhãn (Label bias)#

Thiên kiến gán nhãn xảy ra khi những người chú thích áp dụng các nhãn không chính xác hoặc thiếu nhất quán. Một nhãn sai có vẻ vô hại, nhưng nếu nó xảy ra thường xuyên, model sẽ bắt đầu học các liên kết sai.

Việc gán nhãn thiếu nhất quán có thể làm nhầm lẫn model trong quá trình huấn luyện, đặc biệt là trong các tác vụ phức tạp như phát hiện vật thể. Ví dụ, một người chú thích có thể gán nhãn một phương tiện là "ô tô" trong khi người khác gán nhãn một phương tiện tương tự là "xe tải". Những sự thiếu nhất quán này ảnh hưởng đến khả năng học các mô hình đáng tin cậy của model, dẫn đến giảm độ chính xác trong quá trình suy luận.

Hình 3. Thiên kiến trong các pipeline dữ liệu bắt nguồn từ sự mất cân bằng trong thế giới thực.

Thiên kiến gán nhãn cũng có thể phát sinh từ các hướng dẫn chú thích không rõ ràng hoặc cách diễn giải khác nhau về cùng một dữ liệu. Việc thiết lập các tiêu chuẩn gán nhãn được ghi chép rõ ràng và thực hiện các bước kiểm tra chất lượng có thể giảm đáng kể những thách thức này.

Việc đào tạo liên tục cho người chú thích và sử dụng gán nhãn đồng thuận, nơi nhiều người chú thích xem xét từng mẫu, là hai chiến lược hiệu quả để giảm thiểu thiên kiến gán nhãn và cải thiện chất lượng tập dữ liệu.

Link to this sectionThiên kiến đại diện (Representation bias)#

Thiên kiến đại diện thường phản ánh những bất bình đẳng rộng hơn trong xã hội. Dữ liệu được thu thập ở các khu vực giàu có hoặc có kết nối tốt hơn có thể không nắm bắt được sự đa dạng của các nhóm dân cư hoặc môi trường ít được đại diện. Việc giải quyết thiên kiến này đòi hỏi sự bao gồm có chủ ý của các nhóm và bối cảnh bị bỏ qua.

Thiên kiến đại diện xảy ra khi một số nhóm hoặc lớp nhất định bị thiếu đại diện trong tập dữ liệu. Chúng có thể bao gồm các nhóm nhân khẩu học, loại vật thể hoặc điều kiện môi trường. Nếu một model chỉ thấy một tông màu da, một loại vật thể hoặc một kiểu nền, các dự đoán của nó sẽ phản ánh sự mất cân bằng đó.

Chúng ta có thể quan sát loại thiên kiến này khi một số nhóm hoặc danh mục nhất định được đưa vào với số lượng ít hơn nhiều so với những nhóm khác. Điều này có thể làm lệch dự đoán của model về phía các ví dụ thống trị trong tập dữ liệu. Ví dụ, một model nhận diện khuôn mặt được huấn luyện chủ yếu trên một nhóm nhân khẩu học có thể gặp khó khăn khi hoạt động chính xác trên tất cả người dùng. Không giống như thiên kiến lựa chọn, vốn gắn liền với sự đa dạng của dữ liệu, thiên kiến đại diện liên quan đến sự cân bằng giữa các nhóm.

Kiểm toán sự đa dạng và các chiến lược mở rộng dữ liệu mục tiêu có thể giúp đảm bảo rằng tất cả các nhóm nhân khẩu học và danh mục liên quan được đại diện đúng cách trong suốt tập dữ liệu huấn luyện.

Link to this sectionCách phát hiện và giảm thiểu thiên kiến tập dữ liệu#

Trong các triển khai thực tế, thiên kiến AI không chỉ có nghĩa là một vài dự đoán không chính xác. Nó có thể dẫn đến các hệ thống hoạt động tốt cho một số người nhưng không dành cho tất cả mọi người.

Trong AI ô tô, các model phát hiện có thể hoạt động thiếu nhất quán giữa các nhóm người đi bộ, dẫn đến kết quả an toàn thấp hơn cho các cá nhân ít được đại diện. Vấn đề không nằm ở mục đích của model. Nó nằm ở các đầu vào hình ảnh mà nó được huấn luyện. Ngay cả trong nông nghiệp, thiên kiến trong phát hiện vật thể có thể có nghĩa là nhận diện cây trồng kém trong các điều kiện ánh sáng hoặc thời tiết khác nhau. Đây là những hậu quả phổ biến của việc huấn luyện model trên các tập dữ liệu hạn chế hoặc mất cân bằng.

Khắc phục thiên kiến AI bắt đầu bằng việc biết nơi cần tìm. Nếu tập huấn luyện của bạn thiếu các ví dụ quan trọng hoặc đại diện quá mức cho một phạm vi hẹp, model của bạn sẽ phản ánh những lỗ hổng đó. Đó là lý do tại sao việc phát hiện thiên kiến trong AI là một bước quan trọng trong mọi pipeline phát triển.

Hình 4. Các bước chính trong việc giảm thiên kiến AI và cải thiện tính công bằng.

Bắt đầu bằng cách phân tích tập dữ liệu của bạn. Xem xét sự phân bổ giữa các lớp, môi trường, ánh sáng, quy mô vật thể và nhân khẩu học. Nếu một danh mục thống trị, model của bạn có khả năng sẽ hoạt động kém hơn trên các danh mục khác.

Tiếp theo, hãy xem xét hiệu suất. Model có hoạt động kém hơn trong các cài đặt nhất định hoặc đối với các loại vật thể cụ thể không? Nếu có, đó là dấu hiệu của thiên kiến đã học, và nó thường chỉ ngược lại dữ liệu.

Đánh giá cấp độ cắt (Slice-level) là chìa khóa. Một model có thể báo cáo độ chính xác trung bình 90% nhưng chỉ 60% trên một nhóm hoặc điều kiện cụ thể. Nếu không kiểm tra những phần cắt đó, bạn sẽ không bao giờ biết được.

Sử dụng các số liệu công bằng trong quá trình huấn luyện và đánh giá là một công cụ mạnh mẽ khác. Các số liệu này vượt xa các điểm số độ chính xác tiêu chuẩn và đánh giá cách model hoạt động trên các tập con dữ liệu khác nhau. Chúng giúp làm nổi bật các điểm mù mà nếu không sẽ không bị chú ý.

Sự minh bạch trong thành phần tập dữ liệu và kiểm tra model dẫn đến các model tốt hơn.

Link to this sectionCải thiện tính công bằng thông qua sự đa dạng dữ liệu và tăng cường dữ liệu#

Khi bạn đã xác định được thiên kiến, bước tiếp theo là thu hẹp khoảng cách. Một trong những cách hiệu quả nhất để làm điều này là tăng cường sự đa dạng dữ liệu trong các model AI. Điều đó có nghĩa là thu thập thêm nhiều mẫu từ các kịch bản ít được đại diện, cho dù đó là hình ảnh y tế từ các quần thể khác nhau hay các điều kiện môi trường bất thường.

Việc thêm dữ liệu có thể có giá trị, đặc biệt là khi nó làm tăng sự đa dạng. Tuy nhiên, việc cải thiện tính công bằng cũng phụ thuộc vào việc thu thập đúng loại ví dụ. Những ví dụ này nên phản ánh sự biến đổi trong thế giới thực mà model của bạn có khả năng gặp phải.

Tăng cường dữ liệu (Data augmentation) là một chiến lược có giá trị khác. Lật, xoay, điều chỉnh ánh sáng và thay đổi tỷ lệ vật thể có thể giúp mô phỏng các điều kiện thực tế khác nhau. Tăng cường không chỉ làm tăng sự đa dạng của tập dữ liệu mà còn giúp model trở nên mạnh mẽ hơn trước những thay đổi về ngoại hình, ánh sáng và bối cảnh.

Hầu hết các pipeline huấn luyện hiện đại đều bao gồm tăng cường theo mặc định, nhưng việc sử dụng chiến lược, chẳng hạn như tập trung điều chỉnh dựa trên các nhu cầu cụ thể của tác vụ, là điều làm cho nó trở nên hiệu quả đối với tính công bằng.

Link to this sectionSử dụng dữ liệu tổng hợp để lấp đầy các khoảng trống#

Dữ liệu tổng hợp đề cập đến dữ liệu được tạo ra nhân tạo bắt chước các ví dụ trong thế giới thực. Nó có thể là một công cụ hữu ích khi một số kịch bản quá hiếm hoặc quá nhạy cảm để ghi lại trong tự nhiên.

Ví dụ, nếu bạn đang xây dựng một model để phát hiện các lỗi hiếm gặp trong máy móc hoặc các vi phạm giao thông trường hợp biên, bạn có thể mô phỏng các trường hợp đó bằng dữ liệu tổng hợp. Điều này mang lại cho model của bạn cơ hội học hỏi từ các sự kiện mà nó có thể không gặp thường xuyên trong tập huấn luyện của bạn.

Các nghiên cứu đã phát hiện ra rằng việc đưa dữ liệu tổng hợp có mục tiêu vào huấn luyện có thể làm giảm thiên kiến tập dữ liệu và cải thiện hiệu suất trên các nhóm nhân khẩu học và môi trường.

Dữ liệu tổng hợp hoạt động tốt nhất khi được kết hợp với các mẫu thực tế. Nó bổ sung cho tập dữ liệu của bạn; nó không thay thế nó.

Link to this sectionCách YOLO11 hỗ trợ AI đạo đức#

Xây dựng các model AI không thiên kiến cũng phụ thuộc vào các công cụ bạn sử dụng. YOLO11 được thiết kế để linh hoạt, dễ tinh chỉnh và có khả năng thích ứng cao, điều này làm cho nó trở thành một lựa chọn mạnh mẽ để giảm thiên kiến tập dữ liệu.

YOLO11 hỗ trợ các kỹ thuật tăng cường dữ liệu nâng cao trong khi huấn luyện model, giúp giới thiệu các bối cảnh hình ảnh đa dạng và các ví dụ được pha trộn để cải thiện khả năng khái quát hóa của model và giảm overfitting.

YOLO11 cũng có kiến trúc backbone và neck cải tiến để trích xuất đặc trưng hiệu quả hơn. Bản nâng cấp này nâng cao khả năng của model trong việc phát hiện các chi tiết nhỏ, điều này rất quan trọng trong các kịch bản ít được đại diện hoặc trường hợp biên nơi các model tiêu chuẩn có thể gặp khó khăn.

Vì YOLO11 rất đơn giản để huấn luyện lại và triển khai trên các môi trường edge và cloud, các đội ngũ có thể xác định các lỗ hổng hiệu suất và cập nhật model nhanh chóng khi thiên kiến được phát hiện trong thực địa.

AI công bằng không phải là một mục tiêu một lần. Đó là một chu kỳ đánh giá, học hỏi và điều chỉnh. Các công cụ như YOLO11 giúp chu kỳ đó nhanh hơn và hiệu quả hơn.

Link to this sectionCác điểm chính cần lưu ý#

Thiên kiến AI ảnh hưởng đến mọi thứ từ tính công bằng đến hiệu suất. Thiên kiến thị giác máy tính thường bắt nguồn từ cách các tập dữ liệu được thu thập, gán nhãn và cân bằng. May mắn thay, có những cách đã được kiểm chứng để phát hiện và giảm thiểu nó.

Bắt đầu bằng việc kiểm toán dữ liệu của bạn và kiểm tra hiệu suất của model trên các kịch bản khác nhau. Sử dụng thu thập dữ liệu có mục tiêu, tăng cường dữ liệu và dữ liệu tổng hợp để tạo ra độ phủ huấn luyện tốt hơn.

YOLO11 hỗ trợ quy trình làm việc này bằng cách làm cho việc huấn luyện các model tùy chỉnh, áp dụng các kỹ thuật tăng cường mạnh mẽ và phản ứng nhanh chóng khi phát hiện thiên kiến trở nên dễ dàng hơn.

Xây dựng AI công bằng không chỉ là điều đúng đắn cần làm. Đó cũng là cách bạn xây dựng các hệ thống thông minh hơn, đáng tin cậy hơn.

Hãy tham gia cộng đồng đang phát triển của chúng tôi! Khám phá kho lưu trữ GitHub của chúng tôi để tìm hiểu thêm về AI. Bạn đã sẵn sàng bắt đầu các dự án computer vision của riêng mình chưa? Hãy xem qua các tùy chọn cấp phép của chúng tôi. Khám phá AI trong sản xuất và vision AI trong nông nghiệp bằng cách truy cập các trang giải pháp của chúng tôi!