Học chủ động tăng tốc phát triển thị giác máy tính

Việc huấn luyện một model thị giác máy tính cũng giống như dạy một đứa trẻ nhận biết màu sắc. Đầu tiên, bạn cần một bộ sưu tập các vật thể có màu sắc. Sau đó, bạn hướng dẫn đứa trẻ xác định chính xác từng màu, một nhiệm vụ thường tốn thời gian và lặp đi lặp lại.

Giống như việc một đứa trẻ cần nhiều ví dụ để học tập, một vision model cần một tập dữ liệu gán nhãn lớn để nhận diện các mẫu hình và vật thể trong hình ảnh. Tuy nhiên, việc gán nhãn lượng lớn dữ liệu tiêu tốn nhiều thời gian, công sức và cả tài nguyên. Các kỹ thuật như active learning có thể giúp đơn giản hóa quy trình này.

Active learning là một quy trình từng bước, trong đó dữ liệu quan trọng nhất từ một tập dữ liệu lớn được lựa chọn và gán nhãn. Model học từ dữ liệu được gán nhãn này, giúp nó trở nên chính xác và hiệu quả hơn. Việc chỉ tập trung vào dữ liệu có giá trị nhất sẽ làm giảm lượng công sức gán nhãn cần thiết và đẩy nhanh quá trình phát triển model.

Trong bài viết này, chúng ta sẽ xem xét cách active learning hỗ trợ huấn luyện model, giảm chi phí gán nhãn và cải thiện độ chính xác tổng thể của model.

Xây dựng các bộ dữ liệu hình ảnh không hề đơn giản#

Tập dữ liệu là nền tảng cho computer vision và các deep-learning model. Các tập dữ liệu phổ biến như ImageNet cung cấp hàng triệu hình ảnh với các danh mục đối tượng đa dạng. Tuy nhiên, việc tạo và duy trì khối lượng lớn high-quality datasets như vậy đi kèm với nhiều thách thức khác nhau.

Ví dụ, việc thu thập và gán nhãn dữ liệu tốn thời gian, tài nguyên và các chuyên gia gán nhãn lành nghề, khiến quá trình này trở nên khó khăn tùy thuộc vào ứng dụng cụ thể. Cần có các giải pháp sáng tạo và hiệu quả hơn để theo kịp nhu cầu ngày càng tăng về image datasets, và đó chính là điều mà active learning nhằm mục đích giải quyết.

Active learning cung cấp một giải pháp hoàn hảo bằng cách tối ưu hóa quy trình gán nhãn dữ liệu. Bằng cách lựa chọn một cách chiến lược các điểm dữ liệu nhiều thông tin nhất để gán nhãn, active learning giúp tối đa hóa hiệu suất của model trong khi giảm thiểu công sức gán nhãn.

Active learning là gì?#

Active learning là một kỹ thuật machine learning lặp đi lặp lại, trong đó model chọn ra các điểm dữ liệu quan trọng nhất để gán nhãn từ một tập hợp lớn dữ liệu chưa gán nhãn. Những điểm dữ liệu được chọn này sau đó được gán nhãn thủ công và thêm vào tập dữ liệu huấn luyện.

Model sau đó được huấn luyện lại trên tập dữ liệu đã cập nhật và chọn tập dữ liệu tiếp theo để gán nhãn. Quy trình này lặp lại, với việc model liên tục cải thiện bằng cách tập trung vào những điểm dữ liệu chứa nhiều thông tin nhất. Chu trình tiếp tục cho đến khi model đạt được độ chính xác mong muốn hoặc đáp ứng các tiêu chí gán nhãn đã đặt ra trước đó.

Fig 1. Tổng quan về active learning.

Tìm hiểu cách thức hoạt động của active learning#

Bạn có thể tự hỏi kỹ thuật active learning quyết định điểm dữ liệu nào cần gán nhãn thủ công và điểm nào nên được gán nhãn tiếp theo như thế nào. Hãy hiểu cách active learning hoạt động bằng cách so sánh với việc ôn thi - bạn tập trung vào những chủ đề mình chưa chắc chắn và đồng thời đảm bảo bao quát nhiều chủ đề khác nhau để được chuẩn bị kỹ lưỡng.

Đối với các quy trình lựa chọn dữ liệu ban đầu, active learning sử dụng các chiến lược như uncertainty sampling (lấy mẫu không chắc chắn) và diversity-based sampling (lấy mẫu dựa trên tính đa dạng). Uncertainty sampling ưu tiên các điểm dữ liệu mà model ít tự tin nhất vào kết quả dự đoán, nhằm cải thiện độ chính xác trong các trường hợp khó. Diversity-based sampling chọn các điểm dữ liệu bao phủ một phạm vi đặc điểm rộng, đảm bảo model tổng quát hóa tốt trên dữ liệu mới bằng cách tiếp xúc với các ví dụ đa dạng.

Fig 2. Lấy mẫu theo độ bất định (ở bên trái) và lấy mẫu dựa trên tính đa dạng (ở bên phải).

Sau khi chọn dữ liệu ban đầu, active learning sử dụng hai phương pháp chính để gán nhãn: pool-based sampling và stream-based sampling. Chúng tương tự như cách một giáo viên giúp học sinh tập trung vào những điều quan trọng nhất.

Trong pool-based sampling, model quét một tập hợp lớn dữ liệu chưa gán nhãn và chọn các ví dụ khó hoặc giàu thông tin nhất để gán nhãn, giống như học sinh ưu tiên các thẻ ghi chú (flashcards) mà họ cảm thấy khó nhất. Đối với stream-based sampling, model xử lý dữ liệu ngay khi nó đến, quyết định gán nhãn hoặc bỏ qua, tương tự như học sinh chỉ yêu cầu giúp đỡ khi gặp khó khăn. Trong cả hai trường hợp, dữ liệu đã gán nhãn được thêm vào tập huấn luyện và model tự huấn luyện lại, cải thiện dần dần sau mỗi lần lặp.

Khám phá các ứng dụng của active learning#

Active learning đóng vai trò quan trọng trong các computer vision applications, chẳng hạn như hình ảnh y tế và xe tự lái, bằng cách cải thiện độ chính xác của model và tối ưu hóa quy trình gán nhãn dữ liệu. Một ví dụ thú vị về điều này là các computer vision models được sử dụng trong ô tô tự lái để phát hiện người đi bộ hoặc các đối tượng trong điều kiện thiếu sáng hoặc sương mù. Active learning có thể nâng cao độ chính xác bằng cách tập trung vào các tình huống lái xe đa dạng và thách thức.

Cụ thể, active learning có thể được sử dụng để xác định dữ liệu không chắc chắn hoặc các khung hình từ những kịch bản như vậy để gán nhãn có chọn lọc. Việc thêm các ví dụ đã gán nhãn này vào tập huấn luyện giúp model nhận diện người đi bộ và vật thể tốt hơn trong các môi trường khó khăn, chẳng hạn như thời tiết khắc nghiệt hoặc khi lái xe vào ban đêm.

Ví dụ, NVIDIA đã sử dụng active learning để cải thiện khả năng phát hiện người đi bộ vào ban đêm trong các model xe tự lái của mình. Bằng cách chọn lọc một cách chiến lược dữ liệu giàu thông tin nhất cho việc huấn luyện, đặc biệt là trong các kịch bản khó, hiệu suất của model tăng lên đáng kể.

Fig 3. Phát hiện người đi bộ cầm ô bằng cách sử dụng active learning.

Active learning có thể giảm chi phí gán nhãn#

Một khía cạnh quan trọng khác của active learning là khả năng giảm chi phí gán nhãn. Nó thực hiện điều này bằng cách chỉ tập trung vào các điểm dữ liệu quan trọng nhất, thay vì yêu cầu chú thích cho toàn bộ tập dữ liệu. Cách tiếp cận có mục tiêu này giúp tiết kiệm thời gian, công sức và tiền bạc. Bằng cách tập trung vào các mẫu không chắc chắn hoặc đa dạng, active learning giảm số lượng chú thích cần thiết trong khi vẫn duy trì độ chính xác cao cho model.

Trên thực tế, nghiên cứu cho thấy active learning có thể cut labeling costs từ 40-60% mà không làm giảm hiệu suất. Điều này đặc biệt hữu ích trong các ngành công nghiệp như chăm sóc sức khỏe và sản xuất, nơi việc gán nhãn dữ liệu tốn kém. Bằng cách đơn giản hóa quy trình chú thích, active learning giúp các doanh nghiệp phát triển model nhanh hơn và triển khai chúng hiệu quả hơn đồng thời duy trì độ chính xác.

Lợi ích của active learning#

Dưới đây là một số ưu điểm quan trọng khác mà active learning có thể mang lại:

• Giải quyết vấn đề mất cân bằng lớp (class imbalance): Active learning có thể giúp giải quyết các vấn đề mất cân bằng lớp bằng cách gán nhãn cho các trường hợp từ các lớp dữ liệu thiểu số. Model có thể hoạt động tốt hơn trong các kịch bản hiếm gặp với dữ liệu hạn chế.
• Chu kỳ phát triển nhanh hơn: Việc gán nhãn ít dữ liệu hơn gián tiếp đồng nghĩa với việc tăng tốc quy trình phát triển các model machine learning và thị giác máy tính, cho phép dành nhiều thời gian và tài nguyên hơn cho các vòng lặp và thử nghiệm bổ sung.
• Khả năng thích ứng: Nó có thể liên tục cải thiện dữ liệu huấn luyện bằng cách lặp lại trên các mẫu không chắc chắn hoặc các mẫu biên, làm cho nó rất phù hợp với các tập dữ liệu động hoặc đang phát triển.

Active learning và AutoML có thể hoạt động cùng nhau#

Automated Machine Learning (AutoML) tập trung vào việc tự động hóa các tác vụ tốn thời gian và mang tính lặp đi lặp lại liên quan đến việc xây dựng và triển khai machine learning model. Nó đơn giản hóa các luồng công việc machine learning bằng cách tự động hóa các tác vụ như lựa chọn model và đánh giá hiệu suất để giảm nhu cầu thực hiện thủ công.

Khi được tích hợp với active learning, AutoML có thể tăng tốc và tối ưu hóa vòng đời phát triển model. Thành phần active learning chọn lọc một cách chiến lược các điểm dữ liệu nhiều thông tin nhất để gán nhãn, trong khi AutoML tinh chỉnh model bằng cách tự động hóa việc chọn kiến trúc, tham số và điều chỉnh.

Fig 4. Quy trình làm việc của AutoML.

Hãy tìm hiểu sự kết hợp các công nghệ này qua một ví dụ.

Giả sử bạn đang cố gắng phát hiện các tình trạng hiếm gặp trong medical imaging (một trường hợp sử dụng mà các tập dữ liệu được gán nhãn bị hạn chế và tốn kém để có được). Active learning có thể xác định và lựa chọn dữ liệu không chắc chắn, chẳng hạn như các thay đổi tinh tế trong hình ảnh X-quang mà model không phân loại được. Sau đó, dữ liệu không chắc chắn có thể được ưu tiên cho việc chú thích thủ công để cải thiện khả năng hiểu của model.

Với dữ liệu được chú thích, AutoML có thể tối ưu hóa model bằng cách khám phá các kiến trúc, siêu tham số và các kỹ thuật tăng cường dữ liệu khác nhau. Quá trình lặp đi lặp lại này đẩy nhanh quá trình phát triển các vision model đáng tin cậy như Ultralytics YOLO11 giúp các chuyên gia y tế chẩn đoán chính xác.

Thách thức của active learning#

Active learning và các kỹ thuật của nó cung cấp nhiều ưu điểm, nhưng có một vài cân nhắc cần ghi nhớ khi triển khai các chiến lược này:

• Lựa chọn chiến lược truy vấn (Query strategy): Active learning liên quan đến nhiều kỹ thuật, và việc chọn phương pháp tốt nhất ảnh hưởng đáng kể đến hiệu quả của model. Việc chọn một chiến lược không phù hợp có thể làm giảm hiệu suất của model đối với một ứng dụng cụ thể.
• Chi phí huấn luyện lại: Bản chất lặp lại của active learning đòi hỏi tài nguyên tính toán đắt đỏ, đặc biệt đối với các tập dữ liệu lớn. Model được huấn luyện lại sau mỗi vòng gán nhãn, làm tăng độ phức tạp của nó.
• Chất lượng model ban đầu: Hiệu quả của active learning phụ thuộc vào chất lượng của model ban đầu. Một model ban đầu hoạt động kém có thể không xác định chính xác các điểm dữ liệu chứa nhiều thông tin, dẫn đến các yêu cầu gán nhãn không đạt chuẩn và làm giảm hiệu suất tổng thể.

Con đường phía trước cho active learning và AutoML#

Với những tiến bộ gần đây trong AI và thị giác máy tính, active learning được thiết lập để giải quyết các thách thức phức tạp hơn và tinh giản các quy trình làm việc của machine learning. Việc kết hợp active learning với các kỹ thuật như federated learning và self-supervised learning có thể nâng cao hơn nữa hiệu quả và khả năng mở rộng của các vision model.

Federated learning cho phép một model được huấn luyện trên nhiều thiết bị hoặc máy chủ với một framework phân tán mà không yêu cầu dữ liệu phải rời khỏi vị trí ban đầu của nó. Hãy xem xét các ngành công nghiệp như y tế, nơi quyền riêng tư dữ liệu là quan trọng, federated learning giúp có thể huấn luyện trực tiếp trên dữ liệu cục bộ nhạy cảm trong khi vẫn giữ an toàn cho dữ liệu đó. Thay vì chia sẻ dữ liệu thô, chỉ các bản cập nhật model hoặc thông tin chi tiết được chia sẻ, đảm bảo rằng thông tin riêng tư vẫn được bảo vệ trong khi vẫn đóng góp vào quá trình huấn luyện.

Trong khi đó, self-supervised learning giúp giảm nhu cầu về dữ liệu được gán nhãn bằng cách tiền huấn luyện các model trên dữ liệu chưa được gán nhãn. Quá trình này tạo ra một nền tảng vững chắc cho model. Active learning sau đó có thể dựa trên điều này bằng cách xác định và lựa chọn các điểm dữ liệu quan trọng nhất cho con người chú thích, tiếp tục tinh chỉnh model.

Từ active learning đến tác động chủ động#

Active learning cung cấp một cách thực tế để giải quyết những thách thức lớn trong thị giác máy tính, như chi phí chú thích dữ liệu cao và nhu cầu về các model chính xác hơn. Bằng cách tập trung vào việc gán nhãn chỉ những điểm dữ liệu có giá trị nhất, nó giảm bớt công sức cần thiết từ con người trong khi thúc đẩy hiệu suất của model.

Khi kết hợp với các công nghệ như AutoML, active learning tinh giản việc phát triển model bằng cách tự động hóa các tác vụ tốn thời gian. Khi những tiến bộ tiếp tục, active learning được thiết lập để trở thành một công cụ thiết yếu để xây dựng các hệ thống thị giác máy tính thông minh và hiệu quả hơn.

Khám phá GitHub repository của chúng tôi và tham gia community của chúng tôi để tìm hiểu thêm về AI và computer vision model. Khám phá thêm các ứng dụng của computer vision in manufacturing và healthcare trên các trang giải pháp của chúng tôi. Bạn cũng có thể xem licensing options của chúng tôi để bắt đầu hành trình vision AI của bạn ngay hôm nay.