Quản lý dataset thông minh trong thị giác máy tính với Ultralytics Platform

Vision AI, hay thị giác máy tính, đã phát triển vượt bậc kể từ những ngày đầu, chuyển từ lĩnh vực nghiên cứu thử nghiệm thành công nghệ cốt lõi cho các ứng dụng thực tế. Ngày nay, những người yêu thích AI có thể xây dựng các model mạnh mẽ cho những tác vụ như phát hiện đối tượng và phân đoạn instance bằng các công cụ và framework dễ tiếp cận.

Tuy nhiên, khi các ứng dụng này chuyển từ giai đoạn thử nghiệm sang production, quản lý dataset vẫn là một thách thức quan trọng và thường bị xem nhẹ. Khi dataset thị giác máy tính tăng về quy mô và độ phức tạp, các team thường gặp khó khăn trong việc duy trì annotation nhất quán, theo dõi thay đổi giữa các version và đảm bảo chất lượng dữ liệu tổng thể.

Ngay cả các model tiên tiến nhất cũng có thể hoạt động kém trong môi trường thực tế nếu dữ liệu dùng để training không đầy đủ, mất cân bằng hoặc được quản lý kém. Khoảng cách ngày càng lớn giữa hiệu năng trong quá trình phát triển và độ tin cậy ngoài thực tế là lý do cần có cách tiếp cận có cấu trúc hơn đối với việc quản lý dataset.

Một hạn chế phổ biến khác là việc thu thập dữ liệu, annotation và training thường được thực hiện bằng các công cụ riêng biệt. Workflow rời rạc khiến việc quản lý dataset hiệu quả trở nên khó khăn hơn, làm tăng nguy cơ không nhất quán và kéo dài thời gian iteration.

Để giải quyết các bottleneck của Vision AI như quản lý dataset và workflow rời rạc, gần đây chúng tôi đã ra mắt Ultralytics Platform. Đây là một workspace end-to-end, kết hợp quản lý dataset, annotation, training, deployment và monitoring trong một workflow thống nhất duy nhất.

Bằng cách kết nối từng giai đoạn trong vòng đời của thị giác máy tính, việc theo dõi thay đổi của dataset, so sánh hiệu năng giữa các version và liên tục tinh chỉnh dữ liệu để đạt kết quả tốt hơn trở nên dễ dàng hơn.

Hình 1. Ví dụ về việc xem các image trong dataset trên Ultralytics Platform (Nguồn)

Trong bài viết này, chúng ta sẽ tìm hiểu cách Ultralytics Platform giúp bạn theo dõi, so sánh và cải thiện dataset để xây dựng các model thị giác máy tính đáng tin cậy hơn. Hãy bắt đầu!

Tầm quan trọng của việc quản lý dataset trong thị giác máy tính#

Hiệu năng của một model thị giác máy tính gắn chặt với dữ liệu dùng để training model đó. Độ chính xác của model, tức mức độ thường xuyên các dự đoán chính xác, không chỉ phụ thuộc vào thuật toán mà còn phụ thuộc vào mức độ dataset phản ánh các điều kiện thực tế.

Nói đơn giản, model học trực tiếp các pattern từ dữ liệu, vì vậy mọi thiếu hụt, thiên lệch hoặc điểm không nhất quán trong dataset đều có thể ảnh hưởng đến cách model đưa ra dự đoán. Nói cách khác, dữ liệu chất lượng thấp, annotation không chính xác hoặc phạm vi bao phủ hạn chế đối với các biến thể trong image thực tế, chẳng hạn điều kiện ánh sáng, góc nhìn của đối tượng, background hoặc mức độ che khuất khác nhau, có thể làm giảm đáng kể độ chính xác ngay cả khi kiến trúc model mạnh.

Điều này cũng áp dụng khi fine-tuning model, trong đó một model đã được pre-trained được training thêm trên dữ liệu mới hoặc đã cập nhật để thích ứng tốt hơn với một use case hoặc môi trường cụ thể. Vì độ chính xác của model phụ thuộc rất nhiều vào dữ liệu, việc quản lý dữ liệu đúng cách trở nên thiết yếu.

Quản lý dataset bao gồm việc tổ chức, gắn nhãn và liên tục cập nhật dữ liệu để dữ liệu luôn chính xác và phù hợp. Điều này giúp cải thiện hiệu năng theo thời gian, đặc biệt khi retraining hoặc fine-tuning model trên dữ liệu mới.

Chất lượng dataset ảnh hưởng đến độ tin cậy trong thực tế như thế nào#

Các use case thị giác máy tính, chẳng hạn như hệ thống giám sát an ninh, là ví dụ điển hình cho thấy quản lý dữ liệu đúng cách quan trọng như thế nào. Các hệ thống này cần hoạt động đáng tin cậy trong nhiều điều kiện thực tế, bao gồm môi trường ánh sáng, góc camera, mức độ đông đúc và mức độ che khuất một phần khác nhau.

Nếu dữ liệu training không bao quát các biến thể này hoặc thiếu tính đa dạng về cách đối tượng xuất hiện trong các scene và điều kiện khác nhau, model có thể gặp khó khăn khi phát hiện đối tượng chính xác. Ví dụ, một model được training chủ yếu trên các scene đủ sáng, ít lộn xộn có thể hoạt động kém trong môi trường thiếu sáng hoặc đông đúc. Trong các hệ thống an ninh, điều này có thể dẫn đến bỏ sót sự kiện hoặc phát cảnh báo giả.

Để tránh tình trạng này, điều quan trọng là duy trì các dataset không chỉ sạch và được gắn nhãn chính xác mà còn cân bằng tốt và liên tục được cập nhật. Điều này có nghĩa là xác định các khoảng trống trong dữ liệu, bổ sung example mới khi điều kiện thay đổi và đảm bảo các class cũng như môi trường khác nhau được đại diện đồng đều.

Với dataset đầy đủ và có cấu trúc hơn, model được trang bị tốt hơn để xử lý biến thiên trong thực tế và tạo ra các dự đoán đáng tin cậy hơn.

Các khía cạnh chính của việc quản lý dataset#

Vậy quản lý dataset thực sự bao gồm những gì? Đó là việc tổ chức, gắn nhãn và duy trì dữ liệu để dữ liệu có thể được sử dụng hiệu quả trong suốt quá trình phát triển model.

Ví dụ, tổ chức dữ liệu bao gồm việc cấu trúc dataset và chia dataset thành các tập training, validation và test. Tập training được dùng để dạy model, tập validation được dùng để theo dõi hiệu năng và định hướng điều chỉnh trong quá trình phát triển, còn tập test được dùng để đánh giá mức độ hoạt động của model cuối cùng trên dữ liệu hoàn toàn chưa từng thấy.

Trong khi đó, gắn nhãn bao gồm việc annotation image với các thông tin như class label, bounding box hoặc segmentation mask. Vì model học từ các annotation này, độ chính xác và tính nhất quán rất quan trọng để giúp model học được các pattern có ý nghĩa và đưa ra dự đoán đáng tin cậy.

Ngoài ra, duy trì dataset bao gồm việc xem xét và cập nhật dữ liệu theo thời gian. Việc này có thể bao gồm sửa lỗi annotation, loại bỏ dữ liệu chất lượng thấp hoặc trùng lặp và bổ sung example mới để bao quát các trường hợp còn thiếu hoặc điều kiện thay đổi.

Ở phạm vi rộng hơn, quản lý dataset là một quy trình liên tục. Khi model được đánh giá và dữ liệu mới được thu thập, dataset cần được cập nhật để phản ánh các điều kiện thực tế và edge case. Việc theo dõi các cập nhật này và so sánh các version khác nhau giúp team hiểu điều gì đang cải thiện hiệu năng và cần thay đổi thêm ở đâu.

Quản lý dataset với Ultralytics Platform#

Ultralytics Platform cung cấp một workflow có cấu trúc để quản lý dataset trong một môi trường duy nhất, bao quát mọi thứ từ chuẩn bị dữ liệu đến export. Nền tảng được thiết kế để hỗ trợ cả developer cá nhân và team, giúp quản lý dataset nhất quán hơn, dù bạn làm việc độc lập hay cộng tác giữa nhiều project.

Mỗi giai đoạn được thiết kế để đơn giản hóa cách dataset được tổ chức, xử lý và sử dụng trong suốt vòng đời phát triển model. Bằng cách đưa các bước này về một nơi, platform giảm sự phân mảnh và giúp duy trì tính nhất quán giữa các workflow dễ dàng hơn.

Tiếp theo, hãy cùng xem qua các bước chính và cách platform hỗ trợ từng bước.

Upload dataset lên Ultralytics Platform#

Bắt đầu làm việc với dataset trên platform rất linh hoạt, với nhiều cách để đưa dữ liệu vào hoặc tái sử dụng dữ liệu. Bạn có thể upload dữ liệu của riêng mình hoặc bắt đầu nhanh hơn bằng các dataset công khai có sẵn trên platform. Bạn cũng có thể clone các dataset hiện có được community chia sẻ và xây dựng dựa trên chúng.

Các tính năng community của platform giúp dễ dàng khám phá và tái sử dụng sản phẩm hiện có. Với quyền truy cập vào các dataset do người dùng khác tạo, bao gồm hàng triệu image và annotation, bạn có thể bắt đầu nhanh chóng mà không cần tự thu thập và gắn nhãn mọi thứ. Việc clone một dataset sẽ tạo bản sao trong workspace của bạn, cho phép sửa đổi và mở rộng dataset trong khi vẫn giữ nguyên bản gốc.

Đối với việc upload, platform hỗ trợ image riêng lẻ, video và các archive dataset như file ZIP, TAR hoặc GZ. Platform cũng hỗ trợ các format dataset được sử dụng rộng rãi như YOLO và COCO, giúp dễ dàng import dataset và annotation hiện có mà không cần chuyển đổi thêm. Ngoài ra, bạn có thể upload dataset bằng file NDJSON được export từ platform, giúp việc tái tạo hoặc tái sử dụng dataset giữa các project trở nên liền mạch.

Sau khi dữ liệu được upload, platform xử lý dữ liệu thông qua một pipeline có cấu trúc. Pipeline này bao gồm xác thực format và kích thước file, resize image khi cần, phân tích annotation và tạo thống kê dataset.

Ví dụ, video được chuyển thành các frame để có thể dùng cho training, trong khi image được tối ưu và chuẩn bị để duyệt cũng như phân tích dễ dàng hơn. Sau khi xử lý, dataset đã sẵn sàng cho annotation, phân tích và training model trong platform.

Annotation dữ liệu trên Ultralytics Platform#

Sau khi upload, dataset có thể được xem xét và annotation trực tiếp trong platform. Platform tích hợp sẵn các công cụ annotation image cho nhiều tác vụ thị giác máy tính, như phát hiện đối tượng, phân đoạn instance, ước tính pose, phát hiện hộp giới hạn định hướng (OBB) và phân loại image.

Hình 2. Sử dụng Ultralytics Platform để gắn nhãn dữ liệu (Nguồn)

Bạn có thể tạo annotation thủ công bằng các công cụ này hoặc tăng tốc quy trình bằng các tính năng có AI hỗ trợ như annotation thông minh do SAM cung cấp. Với SAM, bạn có thể tạo mask, bounding box hoặc hộp định hướng bằng cách tương tác với image, giúp đẩy nhanh quy trình gắn nhãn mà vẫn duy trì độ chính xác.

Phân tích chất lượng dataset thông qua Ultralytics Platform#

Bên cạnh việc chuẩn bị và annotation dữ liệu, hiểu rõ chất lượng dataset là yếu tố thiết yếu để xây dựng các model thị giác máy tính đáng tin cậy. Nếu không có thông tin rõ ràng về những yếu tố như phân phối class, chất lượng annotation, các tập phân chia dataset và cách dữ liệu được thể hiện trong những điều kiện khác nhau, việc phát hiện các vấn đề ảnh hưởng đến hiệu năng model có thể rất khó khăn.

Ultralytics Platform tích hợp sẵn các tính năng giúp phân tích dataset hiệu quả hơn. Các insight này có sẵn trực tiếp trong giao diện dataset, qua các tab như Images, Classes và Charts.

Trong tab Charts, bạn có thể xem các thống kê ở cấp dataset như phân phối các tập (training, validation và test), tần suất class và heatmap annotation cho biết vị trí các đối tượng xuất hiện trong image.

Tab Classes cung cấp bảng phân tích số lượng annotation theo từng class, giúp dễ dàng phát hiện mất cân bằng class. Trong khi đó, tab Images hiển thị thông tin ở cấp image như kích thước, số lượng annotation và cách label được phân bổ trên từng image.

Các insight này giúp dễ dàng xác định những vấn đề như mất cân bằng class, thiếu scenario hoặc phân phối dữ liệu không đồng đều. Chẳng hạn, bạn có thể nhận thấy một số class có rất ít example hoặc phần lớn annotation tập trung ở những khu vực cụ thể của image.

Ngoài phân tích dữ liệu, platform còn hỗ trợ curation và augmentation dataset, tức tinh chỉnh dataset bằng cách sửa hoặc loại bỏ dữ liệu có vấn đề và tạo các biến thể từ dữ liệu hiện có để cải thiện hiệu năng model. Những cải tiến này có thể được thực hiện trực tiếp trong platform bằng cách cập nhật annotation, bổ sung dữ liệu mới hoặc sắp xếp lại các tập phân chia dataset dựa trên insight từ quá trình phân tích.

Export dataset từ Ultralytics Platform#

Sau khi dataset được chuẩn bị và validation, dataset có thể được export để sử dụng trong nhiều môi trường khác nhau. Điều này giúp bạn linh hoạt sử dụng dữ liệu thị giác máy tính ở bất cứ đâu, dù là training model cục bộ, trên cloud hay trong các công cụ và workflow khác.

Ultralytics Platform hỗ trợ nhiều format export, bao gồm YOLO, COCO và NDJSON, giúp dễ dàng tích hợp dataset vào các workflow và công cụ training khác nhau.

Hình 3. Export dataset từ Ultralytics Platform (Nguồn)

Export dataset sẽ tạo một snapshot cố định của dữ liệu tại một thời điểm cụ thể, bao gồm image, annotation và cấu trúc của dataset. Điều này hữu ích vì dataset thường thay đổi khi dữ liệu mới được thêm vào, annotation được cập nhật hoặc các tập phân chia được điều chỉnh. Bằng cách export snapshot, bạn có thể lưu giữ chính xác version dataset được sử dụng cho một lần training cụ thể.

Điều này giúp việc tái lập kết quả sau này đơn giản hơn, vì bạn có thể training lại model trên cùng một cấu hình dữ liệu và so sánh hiệu năng giữa các version dataset khác nhau. Ví dụ, bạn có thể đánh giá liệu việc thêm image mới hoặc sửa annotation có thực sự cải thiện độ chính xác của model hay không, thay vì phỏng đoán điều gì đã thay đổi.

Các thao tác export được xử lý bất đồng bộ; khi hoàn tất, dataset có thể được download và sử dụng trong môi trường training cục bộ, trên cloud hoặc offline.

Cải thiện chất lượng dataset qua các vòng iteration trên Ultralytics Platform#

Trong các workflow machine learning và deep learning, việc quản lý dataset vẫn tiếp tục sau deployment vì dữ liệu thực tế thường khác với dữ liệu được sử dụng trong training.

Khi model gặp các input mới, những khoảng trống trong dataset, chẳng hạn các điều kiện còn thiếu như môi trường thiếu sáng, góc camera khác nhau, tình trạng che khuất hoặc scene đông đúc, cũng như lỗi annotation, trở nên rõ ràng hơn, khiến việc tinh chỉnh dữ liệu theo thời gian trở nên cần thiết.

Có nhiều cách để cải thiện dataset. Bạn có thể bổ sung image hoặc video mới để bao quát các điều kiện còn thiếu, chẳng hạn môi trường thiếu sáng, góc camera khác nhau, tình trạng che khuất hoặc scene đông đúc, qua đó giúp giảm các điểm mù trong dữ liệu.

Đồng thời, đảm bảo annotation chính xác và nhất quán, chẳng hạn đối tượng được gắn nhãn đúng cùng bounding box hoặc mask chính xác, sẽ giúp model học được các pattern đáng tin cậy hơn.

Quy trình này thường tuân theo một vòng lặp đơn giản: training model, đánh giá kết quả, xác định lỗi, cải thiện dataset và retraining. Mỗi bước giúp làm nổi bật các vấn đề như annotation không chính xác, dữ liệu còn thiếu hoặc các trường hợp chưa được đại diện đầy đủ.

Giả sử bạn đang xây dựng một hệ thống giám sát kệ hàng bán lẻ theo thời gian thực, được sử dụng để phát hiện sản phẩm trong cửa hàng. Các version đầu của dataset có thể chưa bao gồm một số loại sản phẩm, điều kiện ánh sáng hoặc cách sắp xếp kệ đông đúc nhất định. Trong quá trình đánh giá, bạn có thể nhận thấy model gặp khó khăn khi phát hiện item trong những tình huống này.

Để cải thiện hiệu năng, bạn có thể thu thập image mới bao quát các scenario còn thiếu và cập nhật annotation khi cần. Theo thời gian, việc lặp lại quy trình này giúp model trở nên chính xác và đáng tin cậy hơn trong các điều kiện thực tế.

Ultralytics Platform hỗ trợ workflow này bằng cách kết nối các bản cập nhật dataset với training và đánh giá. Với tính năng theo dõi experiment và các metric hiệu năng tích hợp sẵn, việc giám sát tiến độ và liên tục cải thiện dataset theo thời gian trở nên dễ dàng hơn.

Theo dõi thay đổi dataset bằng Ultralytics Platform#

Chúng ta đã đề cập ngắn gọn đến việc dataset phát triển theo thời gian trong quá trình phát triển model. Khi dữ liệu mới được thêm vào, annotation được tinh chỉnh và class được cập nhật, việc theo dõi những thay đổi này trở nên then chốt để duy trì chất lượng dữ liệu và đảm bảo hiệu năng model nhất quán.

Dưới đây là một số tính năng chính của Ultralytics Platform hỗ trợ theo dõi dataset và kiểm soát version:

• Versioning dataset: Bạn có thể tạo các version dataset cố định dưới dạng snapshot NDJSON. Mỗi version ghi lại các thông tin chính như số lượng image, số lượng class, số lượng annotation và kích thước dataset tại một thời điểm cụ thể. Các version này được lưu trữ và có thể download sau, giúp dễ dàng tái lập experiment và so sánh kết quả giữa các trạng thái dataset khác nhau.
• Tab Versions: Tất cả version dataset được sắp xếp trong tab Versions, nơi bạn có thể xem lịch sử version, thêm mô tả cho các thay đổi và theo dõi cách dataset phát triển theo thời gian.
• Liên kết với model: Tab Models hiển thị tất cả model được training trên một dataset, bao gồm các metric như mAP và thông tin training. Các version dataset được liên kết với các lần training, giúp bạn hiểu những thay đổi trong dữ liệu ảnh hưởng như thế nào đến hiệu năng model.
• Tab Errors: Tab Errors làm nổi bật các file bị lỗi trong quá trình xử lý, cùng thông tin chi tiết về lỗi và đề xuất khắc phục. Điều này cho phép bạn xác định và sửa các vấn đề như file hỏng hoặc format không được hỗ trợ trước khi training.
• Giao diện dataset (tab Images và Classes): Các chế độ xem này cho phép bạn duyệt image, xem xét annotation, quản lý class label và phân tích phân phối class. Các tính năng như filtering, sorting và xác định image chưa được annotation giúp đơn giản hóa việc giám sát chất lượng dataset theo thời gian.
• Thống kê và biểu đồ: Các hình thức trực quan hóa dữ liệu tích hợp sẵn, như phân phối các tập, tần suất class và heatmap annotation, giúp theo dõi thay đổi trong phân phối dữ liệu và xác định tình trạng mất cân bằng khi dataset phát triển.

Hình 4. Phân tích phân phối class của dataset trên Ultralytics Platform (Nguồn)

Kết nối dataset với training và deployment trong Ultralytics Platform#

Ultralytics Platform kết nối các giai đoạn khác nhau trong quá trình phát triển AI model vào một pipeline duy nhất. Điều này tinh gọn quy trình chuyển từ dữ liệu thô đến các ứng dụng Vision AI sẵn sàng cho production.

Sau khi dataset được chuẩn bị và annotation, chúng có thể được sử dụng để training model thị giác máy tính, chẳng hạn như Ultralytics YOLO26, trực tiếp trong platform. Trong quá trình training, bạn có thể theo dõi các metric hiệu năng, tracking experiment và đánh giá mức độ model học tốt đến đâu bằng các dashboard tích hợp sẵn.

Hình 5. Tổng quan về việc xem metric training model trên Ultralytics Platform (Nguồn)

Sau khi training, model có thể được test trên các image mới trực tiếp trong browser để đánh giá dự đoán và xác định các khu vực cần cải thiện trước khi deployment. Khi model hoạt động tốt, model có thể được deploy vào production.

Platform hỗ trợ export model sang nhiều format hoặc deploy model thông qua các service inference và endpoint chuyên dụng, cho phép model chạy trên nhiều môi trường khác nhau.

Sau khi deployment, các công cụ monitoring tích hợp sẵn giúp theo dõi hiệu năng hệ thống theo thời gian, bao gồm các metric liên quan đến mức sử dụng và hành vi của model. Điều này giúp việc duy trì và cải thiện các hệ thống Vision AI trong ứng dụng thực tế trở nên đơn giản hơn.

Best practice để quản lý dataset với Ultralytics Platform#

Dưới đây là một số yếu tố chính cần lưu ý khi quản lý dataset bằng Ultralytics Platform:

• Sử dụng bộ lọc để tìm khoảng trống: Xác định dữ liệu chưa gắn nhãn hoặc chưa được đại diện đầy đủ bằng các công cụ filtering, giúp hoàn tất annotation và cải thiện phạm vi bao phủ thuận tiện hơn.
• Sửa lỗi sớm: Sử dụng tab Errors để kiểm soát chất lượng, phát hiện upload thất bại, file hỏng hoặc format không được hỗ trợ trước khi training.
• Liên tục cập nhật dataset: Bổ sung dữ liệu mới, sửa annotation và đưa edge case vào khi chúng xuất hiện. Điều này giúp cải thiện phạm vi bao phủ và đảm bảo model hoạt động đáng tin cậy trong các scenario thực tế.
• Quản lý cẩn thận các tập phân chia dataset: Đảm bảo sự cân bằng phù hợp giữa các tập training, validation và test. Bạn có thể sắp xếp lại các tập này thủ công hoặc sử dụng tính năng phân bổ lại tự động khi cần.

Để tìm hiểu thêm về Ultralytics Platform, hãy xem tài liệu Ultralytics chính thức.

Những điểm chính#

Khi các project thị giác máy tính mở rộng quy mô, quản lý dataset hiệu quả trở nên quan trọng không kém phát triển model. Cách tiếp cận có cấu trúc đối với việc quản lý dataset giúp cải thiện chất lượng dữ liệu, tinh gọn workflow và hỗ trợ nâng cao hiệu năng model theo thời gian.

Ultralytics Platform đơn giản hóa quy trình này bằng cách đưa quản lý dataset, training và deployment vào một workflow duy nhất. Bằng cách áp dụng cách tiếp cận có cấu trúc đối với việc quản lý dataset, các team có thể giảm độ phức tạp, nâng cao hiệu quả và xây dựng các hệ thống thị giác máy tính có khả năng mở rộng cũng như độ tin cậy cao hơn.

Tham gia community đang phát triển của chúng tôi và khám phá repository GitHub để tìm các tài nguyên AI. Để xây dựng với Vision AI ngay hôm nay, hãy xem các tùy chọn cấp phép của chúng tôi. Tìm hiểu cách AI trong nông nghiệp đang chuyển đổi hoạt động canh tác và cách Vision AI trong lĩnh vực chăm sóc sức khỏe đang định hình tương lai bằng cách truy cập các trang giải pháp của chúng tôi.