Hiểu về thiên kiến AI và thiên kiến tập dữ liệu trong các hệ thống thị giác AI

Các mô hình trí tuệ nhân tạo (AI) đang thay đổi cách chúng ta giải quyết vấn đề, nhưng chúng không hoàn hảo. Từ xe tự lái đến các công cụ chẩn đoán trong chăm sóc sức khỏe, chúng ta dựa vào AI để diễn giải dữ liệu và đưa ra quyết định. Điều gì sẽ xảy ra khi chính dữ liệu đó bị lỗi?

Thiên kiến trong AI đề cập đến các kiểu mẫu không nhất quán phát sinh trong các mô hình mà thường không ai nhận ra. Những thiên kiến này có thể khiến các mô hình đưa ra các dự đoán không chính xác, không nhất quán hoặc thậm chí gây hại. Trong thị giác máy tính, thiên kiến thường bắt nguồn từ một nguồn chính: tập dữ liệu. Nếu dữ liệu được sử dụng để huấn luyện mô hình bị mất cân bằng hoặc không mang tính đại diện, mô hình sẽ phản ánh những lỗ hổng đó.

Hãy cùng xem xét kỹ hơn cách thiên kiến tập dữ liệu hình thành, cách nó ảnh hưởng đến các mô hình thị giác máy tính và các bước mà các lập trình viên có thể thực hiện để phát hiện và ngăn chặn nó. Chúng tôi cũng sẽ chỉ ra cách các mô hình như Ultralytics YOLO11 có thể hỗ trợ nỗ lực xây dựng các hệ thống AI công bằng hơn với khả năng tổng quát hóa tốt hơn, nghĩa là chúng hoạt động hiệu quả trên dữ liệu mới, chưa từng thấy và phục vụ mọi người một cách bình đẳng hơn.

Link to this sectionThiên kiến AI là gì và tại sao nó lại quan trọng?#

Thiên kiến AI đề cập đến các lỗi nhất quán trong một hệ thống AI dẫn đến kết quả bị lệch hoặc không chính xác. Nói một cách đơn giản hơn, mô hình bắt đầu ưu tiên một loại đầu vào hình ảnh này hơn loại khác, điều này ảnh hưởng đến tính công bằng của mô hình, không phải vì nó hoạt động tốt hơn mà do cách nó được huấn luyện.

Điều này có thể đặc biệt phổ biến trong thị giác máy tính, nơi các mô hình học từ dữ liệu hình ảnh. Nếu một tập dữ liệu chủ yếu bao gồm một loại đối tượng, cảnh quan hoặc con người nhất định, mô hình sẽ học các kiểu mẫu chỉ hoạt động tốt cho các trường hợp đó.

Hãy tưởng tượng một mô hình được huấn luyện chủ yếu trên hình ảnh giao thông từ các thành phố lớn. Nếu được triển khai ở một vùng nông thôn, nó có thể phân loại sai các bố cục đường bộ khác thường hoặc không phát hiện được các loại phương tiện mà nó chưa từng thấy trước đây. Đó chính là thiên kiến AI trong thực tế. Nó dẫn đến độ chính xác thấp hơn và khả năng tổng quát hóa hạn chế, đề cập đến khả năng của một mô hình trong việc hoạt động tốt trên các đầu vào mới hoặc đa dạng.

Trong các ứng dụng mà độ chính xác là thiết yếu, như chăm sóc sức khỏe hoặc bảo mật, những sai sót này không chỉ gây thất vọng mà còn có thể nguy hiểm. Giải quyết thiên kiến là vấn đề về hiệu suất, độ tin cậy và sự an toàn.

Link to this sectionThiên kiến tập dữ liệu ảnh hưởng đến hành vi của mô hình như thế nào#

Khi chúng ta nói về thiên kiến tập dữ liệu, chúng ta đề cập đến sự mất cân bằng hoặc hạn chế trong dữ liệu được sử dụng để huấn luyện một mô hình. Thiên kiến tập dữ liệu xảy ra khi dữ liệu huấn luyện không phản ánh đầy đủ sự đa dạng thực tế mà nó được thiết kế để mô hình hóa.

Các mô hình thị giác máy tính không hiểu thế giới. Chúng hiểu các kiểu mẫu. Nếu hình ảnh duy nhất về chó mà chúng thấy là Golden Retriever trong sân sau, chúng có thể không nhận ra một chú Husky trên đường mòn phủ đầy tuyết.

Hình 1. Tái trọng số dữ liệu nguồn giúp đạt được độ chính xác tốt hơn cho mô hình.

Điều này làm nổi bật một trong những thách thức chính do thiên kiến tập dữ liệu gây ra. Mô hình xây dựng hiểu biết của mình dựa trên những gì nó được hiển thị. Nếu dữ liệu huấn luyện đó không phản ánh sự đa dạng trong thế giới thực, hành vi của mô hình sẽ trở nên hẹp hòi và kém hiệu quả trong các điều kiện không quen thuộc.

Các bộ phân loại hình ảnh thường hoạt động kém hơn đáng kể khi được kiểm tra trên một tập dữ liệu khác với tập dữ liệu mà chúng được huấn luyện, ngay cả khi cả hai tập dữ liệu đều được xây dựng cho cùng một tác vụ. Những thay đổi nhỏ về ánh sáng, nền hoặc góc máy ảnh có thể dẫn đến sự sụt giảm đáng kể về độ chính xác. Điều này cho thấy thiên kiến tập dữ liệu có thể ảnh hưởng dễ dàng đến khả năng tổng quát hóa của một mô hình như thế nào.

Đây không phải là các trường hợp ngoại lệ. Đây là những tín hiệu cho thấy pipeline dữ liệu của bạn quan trọng không kém gì kiến trúc mô hình.

Link to this sectionCác loại thiên kiến trong dữ liệu huấn luyện AI#

Thiên kiến có thể được nhìn thấy trong quá trình phát triển theo những cách tinh vi, thường là trong quá trình thu thập, gán nhãn hoặc tuyển chọn dữ liệu. Dưới đây là ba loại thiên kiến chính có thể ảnh hưởng đến dữ liệu huấn luyện của bạn:

Link to this sectionThiên kiến lựa chọn#

Thiên kiến lựa chọn có thể xảy ra khi tập dữ liệu không đại diện cho sự đa dạng được thấy trong sử dụng thực tế. Nếu một mô hình phát hiện người đi bộ chỉ được huấn luyện trên hình ảnh ban ngày rõ ràng, nó sẽ không hoạt động tốt vào ban đêm hoặc trong sương mù. Do đó, quá trình lựa chọn đã bỏ lỡ các trường hợp quan trọng.

Hình 2. Biểu diễn trực quan về thiên kiến lựa chọn, nơi chỉ có một tập hợp con không đa dạng được chọn.

Thiên kiến này xảy ra khi tập dữ liệu không nắm bắt được toàn bộ các kịch bản trong thế giới thực do cách dữ liệu được thu thập. Ví dụ, một mô hình phát hiện người đi bộ chỉ được huấn luyện trên hình ảnh ban ngày rõ ràng có thể thất bại trong sương mù, tuyết hoặc ánh sáng yếu. Điều này thường xảy ra khi dữ liệu được thu thập trong các điều kiện lý tưởng hoặc thuận tiện, hạn chế khả năng hoạt động của mô hình trong các môi trường đa dạng. Mở rộng nỗ lực thu thập để bao gồm nhiều cài đặt đa dạng hơn sẽ giúp giảm bớt loại thiên kiến này.

Nó cũng có thể nảy sinh trong các tập dữ liệu được xây dựng từ các nguồn trực tuyến, nơi nội dung có thể bị lệch nặng về một số địa điểm, ngôn ngữ hoặc bối cảnh kinh tế xã hội nhất định. Nếu không có nỗ lực có chủ đích để đa dạng hóa tập dữ liệu, mô hình sẽ kế thừa những hạn chế này.

Link to this sectionThiên kiến gán nhãn#

Thiên kiến gán nhãn xảy ra khi các annotator (người gán nhãn) áp dụng các nhãn không chính xác hoặc không nhất quán. Một nhãn sai có vẻ vô hại, nhưng nếu nó xảy ra thường xuyên, mô hình sẽ bắt đầu học các mối liên hệ sai.

Việc gán nhãn không nhất quán có thể làm mô hình bối rối trong quá trình huấn luyện, đặc biệt là trong các tác vụ phức tạp như phát hiện đối tượng. Ví dụ, một annotator có thể gán nhãn một phương tiện là "ô tô" trong khi người khác gán nhãn một phương tiện tương tự là "xe tải". Những sự không nhất quán này ảnh hưởng đến khả năng học các kiểu mẫu đáng tin cậy của mô hình, dẫn đến giảm độ chính xác trong quá trình suy luận.

Hình 3. Thiên kiến trong các pipeline dữ liệu bắt nguồn từ sự mất cân bằng trong thế giới thực.

Thiên kiến gán nhãn cũng có thể xuất phát từ các hướng dẫn gán nhãn không rõ ràng hoặc các cách diễn giải khác nhau về cùng một dữ liệu. Việc thiết lập các tiêu chuẩn gán nhãn được tài liệu hóa kỹ lưỡng và thực hiện kiểm tra kiểm soát chất lượng có thể giảm đáng kể những thách thức này.

Đào tạo liên tục cho các annotator và sử dụng việc gán nhãn đồng thuận, nơi nhiều annotator xem xét mỗi mẫu, là hai chiến lược hiệu quả để giảm thiểu thiên kiến gán nhãn và cải thiện chất lượng tập dữ liệu.

Link to this sectionThiên kiến đại diện#

Thiên kiến đại diện thường phản ánh những bất bình đẳng xã hội rộng lớn hơn. Dữ liệu được thu thập ở các khu vực giàu có hơn hoặc kết nối tốt hơn có thể không nắm bắt được sự đa dạng của các nhóm dân cư hoặc môi trường ít được đại diện hơn. Giải quyết thiên kiến này đòi hỏi sự bao gồm có chủ đích các nhóm và bối cảnh bị bỏ qua.

Thiên kiến đại diện xảy ra khi một số nhóm hoặc lớp nhất định bị thiếu đại diện trong tập dữ liệu. Chúng có thể bao gồm các nhóm nhân khẩu học, danh mục đối tượng hoặc điều kiện môi trường. Nếu một mô hình chỉ nhìn thấy một tông màu da, một loại đối tượng hoặc một kiểu nền, các dự đoán của nó sẽ phản ánh sự mất cân bằng đó.

Chúng ta có thể quan sát loại thiên kiến này khi các nhóm hoặc danh mục nhất định được bao gồm với số lượng nhỏ hơn nhiều so với những nhóm khác. Điều này có thể làm chệch các dự đoán của mô hình theo hướng các ví dụ chiếm ưu thế trong tập dữ liệu. Ví dụ, một mô hình nhận diện khuôn mặt được huấn luyện chủ yếu trên một nhóm nhân khẩu học có thể gặp khó khăn trong việc hoạt động chính xác trên tất cả người dùng. Không giống như thiên kiến lựa chọn, vốn gắn liền với sự đa dạng dữ liệu, thiên kiến đại diện liên quan đến sự cân bằng giữa các nhóm.

Các đợt kiểm tra tính đa dạng và chiến lược mở rộng dữ liệu mục tiêu có thể giúp đảm bảo rằng tất cả các nhóm nhân khẩu học và danh mục liên quan được đại diện đúng cách trong toàn bộ tập dữ liệu huấn luyện.

Link to this sectionCách phát hiện và giảm thiểu thiên kiến tập dữ liệu#

Trong các triển khai thực tế, thiên kiến AI không chỉ có nghĩa là một vài dự đoán không chính xác. Nó có thể dẫn đến các hệ thống hoạt động tốt cho một số người nhưng không phải cho tất cả mọi người.

Trong AI ô tô, các mô hình phát hiện có thể hoạt động không nhất quán giữa các nhóm người đi bộ, dẫn đến kết quả an toàn thấp hơn cho các cá nhân ít được đại diện. Vấn đề không phải là ý định của mô hình. Đó là các đầu vào hình ảnh mà nó đã được huấn luyện. Ngay cả trong nông nghiệp, thiên kiến trong phát hiện đối tượng có thể có nghĩa là việc xác định cây trồng dưới các điều kiện ánh sáng hoặc thời tiết khác nhau bị kém. Đây là những hậu quả phổ biến của việc huấn luyện mô hình trên các tập dữ liệu hạn chế hoặc mất cân bằng.

Khắc phục thiên kiến AI bắt đầu từ việc biết nơi cần tìm. Nếu tập huấn luyện của bạn thiếu các ví dụ chính hoặc đại diện quá mức cho một phạm vi hẹp, mô hình của bạn sẽ phản ánh những lỗ hổng đó. Đó là lý do tại sao phát hiện thiên kiến trong AI là một bước quan trọng trong mọi pipeline phát triển.

Hình 4. Các bước chính trong việc giảm thiên kiến AI và cải thiện tính công bằng.

Hãy bắt đầu bằng việc phân tích tập dữ liệu của bạn. Xem xét sự phân bổ giữa các lớp, môi trường, ánh sáng, quy mô đối tượng và nhân khẩu học. Nếu một danh mục chiếm ưu thế, mô hình của bạn có khả năng sẽ hoạt động kém hơn trên các danh mục khác.

Tiếp theo, hãy xem xét hiệu suất. Mô hình có hoạt động kém hơn trong các cài đặt nhất định hoặc đối với các loại đối tượng cụ thể không? Nếu vậy, đó là dấu hiệu của thiên kiến đã học, và nó thường chỉ ngược lại về phía dữ liệu.

Đánh giá theo cấp độ slice (phân đoạn) là chìa khóa. Một mô hình có thể báo cáo độ chính xác trung bình 90% nhưng chỉ đạt 60% trên một nhóm hoặc điều kiện cụ thể. Nếu không kiểm tra những phần đó, bạn sẽ không bao giờ biết được.

Sử dụng các số liệu công bằng trong quá trình huấn luyện và đánh giá là một công cụ mạnh mẽ khác. Các số liệu này vượt ra ngoài các điểm số độ chính xác tiêu chuẩn và đánh giá cách mô hình hành xử trên các tập hợp con dữ liệu khác nhau. Chúng giúp làm nổi bật các điểm mù mà nếu không sẽ bị bỏ qua.

Sự minh bạch trong thành phần tập dữ liệu và thử nghiệm mô hình dẫn đến các mô hình tốt hơn.

Link to this sectionCải thiện tính công bằng thông qua sự đa dạng dữ liệu và tăng cường dữ liệu#

Sau khi bạn đã xác định được thiên kiến, bước tiếp theo là thu hẹp khoảng cách. Một trong những cách hiệu quả nhất để làm điều này là tăng sự đa dạng dữ liệu trong các mô hình AI. Điều đó có nghĩa là thu thập thêm các mẫu từ các kịch bản ít được đại diện, cho dù đó là hình ảnh y tế từ các nhóm dân cư khác nhau hay các điều kiện môi trường bất thường.

Việc thêm nhiều dữ liệu có thể có giá trị, đặc biệt là khi nó làm tăng sự đa dạng. Tuy nhiên, việc cải thiện tính công bằng cũng phụ thuộc vào việc thu thập đúng loại ví dụ. Những ví dụ này nên phản ánh sự biến đổi trong thế giới thực mà mô hình của bạn có khả năng gặp phải.

Tăng cường dữ liệu là một chiến lược có giá trị khác. Lật, xoay, điều chỉnh ánh sáng và thay đổi quy mô đối tượng có thể giúp mô phỏng các điều kiện thực tế khác nhau. Tăng cường không chỉ làm tăng sự đa dạng của tập dữ liệu mà còn giúp mô hình trở nên bền vững hơn trước những thay đổi về hình thức, ánh sáng và bối cảnh.

Hầu hết các pipeline huấn luyện hiện đại đều bao gồm tăng cường dữ liệu theo mặc định, nhưng việc sử dụng chiến lược, chẳng hạn như tập trung vào việc điều chỉnh dựa trên nhu cầu cụ thể của tác vụ, mới là điều làm cho nó hiệu quả đối với tính công bằng.

Link to this sectionSử dụng dữ liệu tổng hợp để lấp đầy các khoảng trống#

Dữ liệu tổng hợp đề cập đến dữ liệu được tạo ra một cách nhân tạo nhằm bắt chước các ví dụ thực tế. Nó có thể là một công cụ hữu ích khi các kịch bản nhất định quá hiếm hoặc quá nhạy cảm để nắm bắt trong thực tế.

Ví dụ, nếu bạn đang xây dựng một mô hình để phát hiện các lỗi hiếm gặp trong máy móc hoặc các vi phạm giao thông ngoại lệ, bạn có thể mô phỏng các trường hợp đó bằng cách sử dụng dữ liệu tổng hợp. Điều này mang lại cho mô hình của bạn cơ hội học hỏi từ các sự kiện mà nó có thể không gặp thường xuyên trong tập huấn luyện của bạn.

Các nghiên cứu đã phát hiện ra rằng việc đưa dữ liệu tổng hợp có mục tiêu vào huấn luyện có thể giảm thiên kiến tập dữ liệu và cải thiện hiệu suất trên các nhóm nhân khẩu học và môi trường khác nhau.

Dữ liệu tổng hợp hoạt động tốt nhất khi kết hợp với các mẫu thực tế. Nó bổ sung cho tập dữ liệu của bạn; nó không thay thế nó.

Link to this sectionYOLO11 hỗ trợ AI đạo đức như thế nào#

Việc xây dựng các mô hình AI không thiên kiến cũng phụ thuộc vào các công cụ bạn sử dụng. YOLO11 được thiết kế để linh hoạt, dễ tinh chỉnh và khả năng thích ứng cao, điều này làm cho nó trở thành một lựa chọn mạnh mẽ để giảm thiên kiến tập dữ liệu.

YOLO11 hỗ trợ các kỹ thuật tăng cường dữ liệu nâng cao trong khi huấn luyện mô hình, giới thiệu các bối cảnh hình ảnh đa dạng và các ví dụ được trộn lẫn để cải thiện khả năng tổng quát hóa của mô hình và giảm tình trạng quá khớp (overfitting).

YOLO11 cũng có kiến trúc backbone và neck cải tiến để trích xuất đặc trưng hiệu quả hơn. Bản nâng cấp này nâng cao khả năng phát hiện các chi tiết nhỏ của mô hình, điều này rất quan trọng trong các kịch bản ít được đại diện hoặc trường hợp ngoại lệ nơi các mô hình tiêu chuẩn có thể gặp khó khăn.

Vì YOLO11 đơn giản để huấn luyện lại và triển khai trên các môi trường edge và cloud, các nhóm có thể xác định các khoảng cách về hiệu suất và nhanh chóng cập nhật mô hình khi thiên kiến được phát hiện trong thực tế.

AI công bằng không phải là một mục tiêu một lần. Đó là một chu kỳ đánh giá, học hỏi và điều chỉnh. Các công cụ như YOLO11 giúp làm cho chu kỳ đó nhanh hơn và hiệu quả hơn.

Link to this sectionNhững điểm chính cần lưu ý#

Thiên kiến AI ảnh hưởng đến mọi thứ từ tính công bằng đến hiệu suất. Thiên kiến thị giác máy tính thường bắt nguồn từ cách tập dữ liệu được thu thập, gán nhãn và cân bằng. Rất may, có những cách đã được chứng minh để phát hiện và giảm thiểu nó.

Hãy bắt đầu bằng việc kiểm tra dữ liệu của bạn và thử nghiệm hiệu suất mô hình trên các kịch bản khác nhau. Sử dụng thu thập dữ liệu có mục tiêu, tăng cường và dữ liệu tổng hợp để tạo ra độ bao phủ huấn luyện tốt hơn.

YOLO11 hỗ trợ quy trình này bằng cách giúp việc huấn luyện các mô hình tùy chỉnh, áp dụng các kỹ thuật tăng cường mạnh mẽ và phản ứng nhanh chóng khi phát hiện thiên kiến trở nên dễ dàng hơn.

Xây dựng AI công bằng không chỉ là điều đúng đắn nên làm. Đó cũng là cách bạn xây dựng các hệ thống thông minh hơn, đáng tin cậy hơn.

Tham gia cộng đồng đang phát triển của chúng tôi! Khám phá kho lưu trữ GitHub của chúng tôi để tìm hiểu thêm về AI. Sẵn sàng bắt đầu các dự án thị giác máy tính của riêng bạn? Xem các tùy chọn cấp phép của chúng tôi. Khám phá AI trong sản xuất và AI thị giác trong nông nghiệp bằng cách truy cập các trang giải pháp của chúng tôi!