Mask R-CNN là gì và hoạt động như thế nào?

Khi mức độ ứng dụng AI tăng lên, những đổi mới như robot trong kho hàng, xe tự hành di chuyển an toàn trên đường phố đông đúc, drone kiểm tra cây trồng và hệ thống AI kiểm tra sản phẩm trong nhà máy ngày càng phổ biến. Một công nghệ chủ chốt thúc đẩy những đổi mới này là thị giác máy tính, một nhánh của AI giúp máy móc hiểu và diễn giải dữ liệu hình ảnh.

Ví dụ, phát hiện đối tượng là một tác vụ thị giác máy tính giúp nhận diện và xác định vị trí đối tượng trong ảnh bằng khung giới hạn. Khung giới hạn cung cấp thông tin hữu ích, nhưng chỉ ước tính sơ bộ vị trí của đối tượng và không thể thể hiện chính xác hình dạng hoặc ranh giới của đối tượng. Vì vậy, phương pháp này kém hiệu quả hơn trong các ứng dụng đòi hỏi nhận diện chính xác.

Để giải quyết vấn đề này, các nhà nghiên cứu đã phát triển model phân đoạn nhằm ghi nhận đường viền chính xác của đối tượng, cung cấp chi tiết ở cấp độ pixel để phát hiện và phân tích chính xác hơn.

Mask R-CNN là một trong những model này. Được Facebook AI Research (FAIR) giới thiệu vào năm 2017, model này kế thừa các model trước đó như R-CNN, Fast R-CNN và Faster R-CNN. Là một cột mốc quan trọng trong lịch sử thị giác máy tính, Mask R-CNN đã mở đường cho các model tiên tiến hơn như Ultralytics YOLO11.

Trong bài viết này, chúng ta sẽ tìm hiểu Mask R-CNN là gì, cách model hoạt động, các ứng dụng và những cải tiến xuất hiện sau đó, dẫn đến Ultralytics YOLO11.

Tổng quan về Mask R-CNN#

Mask R-CNN, viết tắt của Mask Region-based Convolutional Neural Network, là một model deep learning được thiết kế cho các tác vụ thị giác máy tính như phát hiện đối tượng và phân đoạn instance.

Phân đoạn instance vượt xa phương pháp phát hiện đối tượng truyền thống: không chỉ nhận diện đối tượng trong ảnh mà còn vẽ đường viền chính xác cho từng đối tượng. Phương pháp này gán nhãn riêng cho từng đối tượng được phát hiện và ghi nhận hình dạng chính xác của đối tượng ở cấp độ pixel. Cách tiếp cận chi tiết này giúp phân biệt rõ các đối tượng chồng lấp và xử lý chính xác những hình dạng phức tạp.

Mask R-CNN kế thừa Faster R-CNN, model có thể phát hiện và gán nhãn đối tượng nhưng không xác định hình dạng chính xác của chúng. Mask R-CNN cải thiện phương pháp này bằng cách xác định chính xác các pixel cấu thành từng đối tượng, cho phép phân tích ảnh chi tiết và chính xác hơn nhiều.

Hình 1. So sánh phát hiện đối tượng và phân đoạn instance.

Tìm hiểu kiến trúc Mask R-CNN và cách model hoạt động#

Mask R-CNN sử dụng phương pháp từng bước để phát hiện và phân đoạn đối tượng chính xác. Đầu tiên, model trích xuất các đặc trưng chính bằng mạng nơ-ron sâu (model nhiều lớp học từ dữ liệu), sau đó xác định các vùng có khả năng chứa đối tượng bằng mạng đề xuất vùng (thành phần gợi ý các vùng có thể chứa đối tượng), cuối cùng tinh chỉnh những vùng này bằng cách tạo mask phân đoạn chi tiết (đường viền chính xác của đối tượng) để ghi nhận hình dạng chính xác của từng đối tượng.

Tiếp theo, chúng ta sẽ lần lượt tìm hiểu từng bước để hiểu rõ hơn cách Mask R-CNN hoạt động.

Hình 2. Tổng quan về kiến trúc Mask R-CNN (Nguồn: researchgate.net).

Bắt đầu với trích xuất đặc trưng#

Bước đầu tiên trong kiến trúc Mask R-CNN là chia ảnh thành các thành phần chính để model có thể hiểu nội dung trong ảnh. Hãy hình dung như khi bạn nhìn vào một bức ảnh và tự nhiên chú ý đến các chi tiết như hình dạng, màu sắc và đường viền. Model thực hiện điều tương tự bằng mạng nơ-ron sâu gọi là "backbone" (thường là ResNet-50 hoặc ResNet-101), hoạt động như đôi mắt của model để quét ảnh và nhận diện các chi tiết chính.

Vì các đối tượng trong ảnh có thể rất nhỏ hoặc rất lớn, Mask R-CNN sử dụng Feature Pyramid Network. Công nghệ này giống như một bộ kính lúp với nhiều độ phóng đại, giúp model quan sát cả chi tiết nhỏ lẫn toàn cảnh, đảm bảo phát hiện được đối tượng ở mọi kích thước.

Sau khi trích xuất các đặc trưng quan trọng này, model tiếp tục xác định các đối tượng tiềm năng trong ảnh, tạo tiền đề cho quá trình phân tích tiếp theo.

Đề xuất các vùng tiềm năng có chứa đối tượng trong ảnh#

Sau khi xử lý ảnh để trích xuất các đặc trưng chính, mạng đề xuất vùng sẽ tiếp tục xử lý. Thành phần này của model phân tích ảnh và đề xuất các vùng có khả năng chứa đối tượng.

Model thực hiện việc này bằng cách tạo nhiều vị trí đối tượng tiềm năng gọi là anchor. Sau đó, mạng đánh giá các anchor này và chọn ra những anchor tiềm năng nhất để phân tích thêm. Nhờ vậy, model chỉ tập trung vào các vùng có nhiều khả năng đáng chú ý nhất, thay vì kiểm tra mọi vị trí trong ảnh.

Hình 3. Ví dụ về mạng đề xuất vùng.

Tinh chỉnh các đặc trưng đã trích xuất#

Sau khi xác định các vùng chính, bước tiếp theo là tinh chỉnh các chi tiết trích xuất từ những vùng này. Các model trước đây sử dụng phương pháp ROI Pooling (gộp vùng quan tâm) để trích xuất đặc trưng từ từng vùng, nhưng kỹ thuật này đôi khi gây ra sai lệch nhỏ khi thay đổi kích thước vùng, khiến phương pháp kém hiệu quả hơn — đặc biệt với các đối tượng nhỏ hoặc chồng lấp.

Mask R-CNN cải thiện phương pháp này bằng kỹ thuật ROI Align (căn chỉnh vùng quan tâm). Thay vì làm tròn tọa độ như ROI Pooling, ROI Align sử dụng nội suy song tuyến tính để ước tính giá trị pixel chính xác hơn. Nội suy song tuyến tính là phương pháp tính giá trị pixel mới bằng cách lấy trung bình giá trị của bốn pixel lân cận gần nhất, tạo ra chuyển tiếp mượt mà hơn. Phương pháp này giữ cho các đặc trưng được căn chỉnh chính xác với ảnh gốc, giúp phát hiện và phân đoạn đối tượng chính xác hơn.

Ví dụ, trong một trận bóng đá, hai cầu thủ đứng gần nhau có thể bị nhầm lẫn với nhau vì các khung giới hạn của họ chồng lấp. ROI Align giúp tách biệt họ bằng cách giữ rõ hình dạng riêng của từng người.

Hình 4. Mask R-CNN sử dụng ROI Align.

Phân loại đối tượng và dự đoán mask của chúng#

Sau khi ROI Align xử lý hình ảnh, bước tiếp theo là phân loại đối tượng và tinh chỉnh vị trí của chúng. Model xem xét từng vùng đã trích xuất và xác định đối tượng bên trong. Model gán điểm xác suất cho các danh mục khác nhau và chọn kết quả phù hợp nhất.

Đồng thời, model điều chỉnh các bounding box để khớp hơn với đối tượng. Các box ban đầu có thể chưa được đặt ở vị trí lý tưởng, vì vậy việc điều chỉnh giúp cải thiện độ chính xác bằng cách đảm bảo mỗi box bao sát đối tượng được phát hiện.

Cuối cùng, Mask R-CNN thực hiện thêm một bước: tạo mask phân đoạn chi tiết cho từng đối tượng song song.

Mask R-CNN và các ứng dụng thời gian thực#

Khi ra mắt, model này nhận được sự hào hứng lớn từ cộng đồng AI và nhanh chóng được ứng dụng trong nhiều lĩnh vực. Khả năng phát hiện và phân đoạn đối tượng theo thời gian thực đã tạo ra bước ngoặt trong nhiều ngành công nghiệp.

Ví dụ, theo dõi các loài động vật có nguy cơ tuyệt chủng trong tự nhiên là một nhiệm vụ đầy thách thức. Nhiều loài di chuyển trong những khu rừng rậm, khiến các nhà bảo tồn khó theo dõi chúng. Các phương pháp truyền thống sử dụng bẫy ảnh, drone và ảnh vệ tinh, nhưng việc phân loại thủ công toàn bộ dữ liệu này rất tốn thời gian. Nhận diện nhầm và bỏ sót hình ảnh có thể làm chậm các nỗ lực bảo tồn.

Bằng cách nhận diện các đặc điểm riêng biệt như vằn hổ, đốm hươu cao cổ hoặc hình dạng tai voi, Mask R-CNN có thể phát hiện và phân đoạn động vật trong hình ảnh và video với độ chính xác cao hơn. Ngay cả khi động vật bị cây che khuất một phần hoặc đứng gần nhau, model vẫn có thể tách chúng ra và nhận diện từng con, giúp việc giám sát động vật hoang dã nhanh chóng và đáng tin cậy hơn.

Hình 5. Phát hiện và phân đoạn động vật bằng Mask R-CNN.

Hạn chế của Mask R-CNN#

Mặc dù có ý nghĩa lịch sử trong lĩnh vực phát hiện và phân đoạn đối tượng, Mask R-CNN cũng có một số nhược điểm đáng kể. Dưới đây là những thách thức liên quan đến Mask R-CNN:

• Yêu cầu tính toán cao: Model phụ thuộc vào GPU mạnh, khiến việc chạy tốn kém và xử lý lượng dữ liệu lớn trở nên chậm chạp.
• Tốc độ xử lý chậm hơn: Quy trình nhiều giai đoạn khiến model chậm hơn các model thời gian thực nhanh hơn như YOLO, nên có thể không phù hợp với các tác vụ nhạy cảm về thời gian.
• Phụ thuộc vào dữ liệu chất lượng cao: Model hoạt động tốt nhất với hình ảnh rõ nét, được gán nhãn đầy đủ. Hình ảnh mờ hoặc thiếu sáng có thể làm giảm đáng kể độ chính xác.
• Triển khai phức tạp: Kiến trúc nhiều giai đoạn có thể khó thiết lập và tối ưu hóa, đặc biệt khi làm việc với tập dữ liệu lớn hoặc nguồn lực hạn chế.

Từ Mask R-CNN đến Ultralytics YOLO11#

Mask R-CNN hoạt động hiệu quả với các tác vụ phân đoạn, nhưng nhiều ngành công nghiệp muốn ứng dụng thị giác máy tính đồng thời ưu tiên tốc độ và hiệu năng thời gian thực. Nhu cầu này thúc đẩy các nhà nghiên cứu phát triển model một giai đoạn có thể phát hiện đối tượng chỉ trong một lượt xử lý, qua đó cải thiện đáng kể hiệu suất.

Khác với quy trình nhiều bước của Mask R-CNN, các model thị giác máy tính một giai đoạn như YOLO (Chỉ cần nhìn một lần) tập trung vào các tác vụ thị giác máy tính thời gian thực. Thay vì xử lý riêng biệt việc phát hiện và phân đoạn, các model YOLO có thể phân tích toàn bộ hình ảnh trong một lượt. Điều này khiến YOLO trở thành lựa chọn lý tưởng cho các ứng dụng như xe tự hành, chăm sóc sức khỏe, sản xuất và robot, nơi khả năng ra quyết định nhanh chóng là yếu tố then chốt.

Đặc biệt, Ultralytics YOLO11 tiến thêm một bước khi vừa nhanh vừa chính xác. Model sử dụng ít hơn 22% tham số so với YOLOv8m nhưng vẫn đạt độ chính xác trung bình (mAP) cao hơn trên tập dữ liệu COCO, nghĩa là model phát hiện đối tượng chính xác hơn. Tốc độ xử lý được cải thiện khiến YOLO11 trở thành lựa chọn phù hợp cho các ứng dụng thời gian thực, nơi mỗi mili giây đều quan trọng.

Hình 6. So sánh hiệu năng của YOLO11 với các model khác.

Điểm chính cần ghi nhớ#

Nhìn lại lịch sử thị giác máy tính, Mask R-CNN được công nhận là bước đột phá lớn trong lĩnh vực phát hiện và phân đoạn đối tượng. Model cho kết quả rất chính xác ngay cả trong những bối cảnh phức tạp nhờ quy trình nhiều bước chi tiết.

Tuy nhiên, chính quy trình này khiến model chậm hơn các model thời gian thực như YOLO. Khi nhu cầu về tốc độ và hiệu quả ngày càng tăng, nhiều ứng dụng hiện sử dụng các model một giai đoạn như Ultralytics YOLO11, vốn cung cấp khả năng phát hiện đối tượng nhanh và chính xác. Mask R-CNN có vai trò quan trọng trong việc tìm hiểu quá trình phát triển của thị giác máy tính, nhưng xu hướng chuyển sang các giải pháp thời gian thực cho thấy nhu cầu ngày càng tăng đối với các giải pháp thị giác máy tính nhanh và hiệu quả hơn.

Tham gia cộng đồng đang phát triển của chúng tôi! Khám phá repository GitHub để tìm hiểu thêm về AI. Bạn đã sẵn sàng bắt đầu các dự án thị giác máy tính của riêng mình chưa? Hãy xem các tùy chọn cấp phép của chúng tôi. Khám phá AI trong nông nghiệp và AI thị giác trong chăm sóc sức khỏe bằng cách truy cập các trang giải pháp của chúng tôi!