Cô đọng dataset là gì? Tổng quan nhanh
Tìm hiểu cách cô đọng dataset giúp tăng tốc huấn luyện model và giảm chi phí tính toán bằng cách thay thế dataset lớn bằng một tập mẫu tổng hợp nhỏ đã được tối ưu hóa.
Abirami Vina21 phút đọc
Huấn luyện model có thể là phần tốn thời gian nhất trong công việc của nhà khoa học dữ liệu. Nhưng phần lớn thời gian của họ, thường từ 60% đến 80%, thực tế dành cho việc chuẩn bị dữ liệu: thu thập, làm sạch và sắp xếp dữ liệu để mô hình hóa. Khi dataset ngày càng lớn, thời gian chuẩn bị cũng tăng theo, làm chậm các thử nghiệm và khiến việc lặp lại quy trình khó khăn hơn.
Để giải quyết vấn đề này, các nhà nghiên cứu đã dành nhiều năm tìm cách tinh giản quy trình huấn luyện. Những phương pháp như dữ liệu tổng hợp, nén dataset và các phương pháp tối ưu hóa tốt hơn đều nhằm giảm chi phí và trở ngại khi làm việc với dataset quy mô lớn, đồng thời tăng tốc quy trình machine learning.
Một câu hỏi then chốt được đặt ra là liệu chúng ta có thể thu nhỏ đáng kể dataset mà vẫn đạt hiệu suất tương đương với việc huấn luyện model trên toàn bộ dữ liệu hay không. Chưng cất dataset là một giải pháp đầy hứa hẹn.
Phương pháp này tạo ra phiên bản cô đọng của một dataset huấn luyện lớn, đồng thời giữ lại các mẫu thiết yếu mà model cần để học hiệu quả. Phương pháp này mở ra hướng huấn luyện nhanh hơn, giảm nhu cầu tính toán và thử nghiệm hiệu quả hơn. Bạn có thể hình dung nó như một tờ ghi chú học tập dành cho model: một tập hợp nhỏ các ví dụ dữ liệu tổng hợp được thiết kế để dạy những mẫu cốt lõi giống như dataset đầy đủ.
Trong bài viết này, chúng ta sẽ tìm hiểu cách chưng cất dataset hoạt động và hỗ trợ machine learning, deep learning có khả năng mở rộng trong các ứng dụng thực tế.
Tìm hiểu về chưng cất dataset#
Chưng cất dataset là quy trình cô đọng một dataset huấn luyện lớn thành tập dữ liệu nhỏ hơn nhiều nhưng vẫn truyền đạt cho model gần như lượng thông tin tương đương với dataset ban đầu. Nhiều nhà nghiên cứu cũng gọi quy trình này là cô đặc dataset, vì mục tiêu là nắm bắt các mẫu thiết yếu xuất hiện trong toàn bộ dataset.
Dataset đã chưng cất khác với dữ liệu tổng hợp được tạo ngẫu nhiên hoặc việc đơn giản chọn một tập con nhỏ hơn gồm các ảnh thực. Đây không phải là dataset giả được tạo ngẫu nhiên hay bản sao đã cắt gọn của dữ liệu gốc.
Thay vào đó, dataset được tối ưu hóa có chủ đích để nắm bắt những mẫu quan trọng nhất. Trong quá trình này, từng pixel và đặc trưng đều được điều chỉnh và tối ưu hóa để mạng neural được huấn luyện trên dữ liệu đã chưng cất học gần giống như khi được huấn luyện trên toàn bộ dataset.
Ý tưởng này lần đầu xuất hiện trong một bài báo arXiv năm 2018 của Tongzhou Wang, Jun-Yan Zhu, Antonio Torralba và Alexei A. Efros. Các thử nghiệm ban đầu sử dụng những dataset đơn giản như MNIST và CIFAR-10, giúp dễ dàng chứng minh rằng chỉ một vài mẫu đã chưng cất có thể thay thế hàng nghìn ảnh thực.

Hình 1. Ứng dụng chưng cất dataset cho dữ liệu hình ảnh (Nguồn)
Kể từ đó, các nghiên cứu tiếp theo đã phát triển thêm phương pháp chưng cất dataset, bao gồm những phương pháp được công bố tại ICML và ICLR nhằm giúp quá trình cô đặc hiệu quả và có khả năng mở rộng hơn.
Tầm quan trọng của chưng cất dataset#
Chưng cất dataset cải thiện hiệu quả huấn luyện và rút ngắn chu kỳ phát triển. Bằng cách giảm lượng dữ liệu model cần học, phương pháp này làm giảm yêu cầu tính toán.
Phương pháp này đặc biệt hữu ích cho học liên tục, trong đó model được cập nhật theo thời gian; tìm kiếm kiến trúc neural, trong đó nhiều thiết kế model được thử nghiệm; và huấn luyện trên edge, trong đó model chạy trên các thiết bị nhỏ với bộ nhớ và nguồn điện hạn chế. Nhìn chung, những lợi ích này khiến chưng cất dataset trở thành lựa chọn tuyệt vời để khởi tạo nhanh, fine-tuning nhanh và xây dựng nguyên mẫu ban đầu trong nhiều quy trình machine learning.
Tổng quan về cách chưng cất dataset hoạt động#
Chưng cất dataset tạo ra các mẫu huấn luyện tổng hợp, hay được tạo nhân tạo. Những mẫu này giúp model học theo cách gần giống với quá trình huấn luyện trên dữ liệu thực. Phương pháp này hoạt động bằng cách theo dõi ba yếu tố then chốt trong quá trình huấn luyện thông thường.
Thứ nhất là hàm mất mát, thước đo lỗi của model cho biết các dự đoán sai đến mức nào. Thứ hai là các tham số model, tức trọng số nội bộ của mạng được cập nhật trong quá trình học.
Thứ ba là quỹ đạo huấn luyện, mô tả cách lỗi và trọng số thay đổi từng bước theo thời gian. Sau đó, các mẫu tổng hợp được tối ưu hóa để khi model huấn luyện trên chúng, lỗi giảm và trọng số được cập nhật theo cách tương tự như khi dùng toàn bộ dataset.
Từng bước tìm hiểu quy trình chưng cất dataset#
Sau đây là cái nhìn chi tiết hơn về cách thức hoạt động của quy trình chưng cất dataset:
- Bước 1 - Khởi tạo pixel tổng hợp: Quy trình bắt đầu với ảnh tổng hợp đóng vai trò đầu vào có thể học. Ban đầu, những ảnh này có rất ít cấu trúc và trông như những trang giấy trắng. Theo thời gian, chúng được tối ưu hóa thành các ví dụ giàu thông tin.
- Bước 2 - Tối ưu hóa bằng cách khớp gradient và lan truyền ngược: Khi model huấn luyện trên những ảnh tổng hợp này, model tạo ra các gradient cho biết cần thay đổi từng pixel như thế nào để khớp hơn với hành vi huấn luyện trên dữ liệu thực. Lan truyền ngược là phương pháp mạng sử dụng để học từ sai sót. Phương pháp này truyền lỗi ngược qua model để xác định pixel và trọng số nào gây ra lỗi, rồi cập nhật chúng từng chút một. Dựa trên các gradient đó, lan truyền ngược điều chỉnh ảnh tổng hợp từng bước để ảnh trở nên hữu ích hơn cho việc huấn luyện.
- Bước 3 - Khớp hành vi qua các bước huấn luyện: Phương pháp này cũng khớp các quỹ đạo huấn luyện, tức những thay đổi từng bước mà model trải qua trong quá trình học. Điều này đảm bảo dataset đã chưng cất dẫn dắt model theo lộ trình học tương tự như khi sử dụng toàn bộ dataset.
- Bước 4 - Xác thực và khả năng tổng quát hóa: Cuối cùng, dataset đã chưng cất được đánh giá trên dữ liệu xác thực thực để xem model được huấn luyện hoạt động tốt ra sao trên các mẫu mới. Bước này kiểm tra xem dữ liệu tổng hợp có dạy được các mẫu rộng và hữu ích hay chỉ khiến model ghi nhớ các mẫu cụ thể.

Hình 2. Cái nhìn về chưng cất dataset (Nguồn)
Các phương pháp chưng cất dataset chủ chốt#
Tất cả phương pháp chưng cất dataset đều dựa trên cùng một ý tưởng cốt lõi, dù sử dụng các thuật toán khác nhau. Hầu hết phương pháp thuộc ba nhóm: khớp hiệu suất, khớp phân phối và khớp tham số.
Tiếp theo, hãy cùng tìm hiểu từng phương pháp và cách chúng hoạt động.
Khớp hiệu suất#
Khớp hiệu suất trong chưng cất dataset tập trung tạo ra một tập huấn luyện nhỏ, được tối ưu hóa để model đạt độ chính xác gần bằng khi được huấn luyện trên dataset gốc đầy đủ. Thay vì chọn một tập con ngẫu nhiên, các mẫu đã chưng cất được tối ưu hóa để model huấn luyện trên chúng tạo ra dự đoán tương tự, hành vi hàm mất mát tương tự trong quá trình huấn luyện hoặc độ chính xác cuối cùng tương đương với model huấn luyện trên dataset gốc.
Meta-learning là phương pháp phổ biến được dùng để cải thiện quy trình này. Dataset đã chưng cất được cập nhật qua các đợt huấn luyện lặp lại, nhờ đó hoạt động hiệu quả trong nhiều tình huống khác nhau.
Trong các đợt này, phương pháp mô phỏng cách một model học viên học từ những mẫu đã chưng cất hiện tại, kiểm tra hiệu quả của model học viên trên dữ liệu thực, rồi điều chỉnh các mẫu đã chưng cất để chúng trở thành dữ liệu hướng dẫn tốt hơn. Theo thời gian, tập dữ liệu đã chưng cất học cách hỗ trợ quá trình học nhanh và khả năng tổng quát hóa mạnh mẽ, ngay cả khi model học viên bắt đầu với trọng số khởi tạo khác hoặc sử dụng kiến trúc khác. Nhờ vậy, dataset đã chưng cất trở nên đáng tin cậy hơn và không bị phụ thuộc vào một lần chạy huấn luyện duy nhất.

Hình 3. Quy trình meta-learning (Nguồn)
Các kỹ thuật khớp phân phối#
Trong khi đó, khớp phân phối tạo ra dữ liệu tổng hợp phù hợp với các mẫu thống kê của dataset thực. Thay vì chỉ tập trung vào độ chính xác cuối cùng của model, phương pháp này tập trung vào các đặc trưng nội bộ mà mạng neural tạo ra trong quá trình học.
Tiếp theo, hãy cùng tìm hiểu hai kỹ thuật thúc đẩy quá trình khớp phân phối.
Đối sánh phân phối một lớp#
Đối sánh phân phối một lớp tập trung vào một lớp duy nhất của mạng nơ-ron và so sánh các đặc trưng mà lớp đó tạo ra trên dữ liệu thực và dữ liệu tổng hợp. Những đặc trưng này, còn gọi là activation, ghi lại những gì model đã học được tại lớp đó trong mạng.
Bằng cách tạo ra dữ liệu tổng hợp có activation tương tự, phương pháp này khuyến khích tập dữ liệu chắt lọc phản ánh cùng những mẫu quan trọng như tập dữ liệu gốc. Trên thực tế, các mẫu tổng hợp được cập nhật liên tục cho đến khi activation tại lớp đã chọn khớp sát với activation từ ảnh thực.
Phương pháp này tương đối đơn giản vì chỉ căn chỉnh một cấp độ biểu diễn tại mỗi thời điểm. Phương pháp có thể đặc biệt hiệu quả với các tập dữ liệu nhỏ hơn hoặc các tác vụ không cần khớp những hệ phân cấp đặc trưng sâu, nhiều giai đoạn. Bằng cách căn chỉnh rõ ràng một không gian đặc trưng, đối sánh một lớp cung cấp tín hiệu ổn định và hữu ích để học từ tập dữ liệu chắt lọc.
Đối sánh phân phối nhiều lớp#
Đối sánh phân phối nhiều lớp mở rộng ý tưởng so sánh dữ liệu thực và dữ liệu tổng hợp bằng cách thực hiện phép so sánh tại nhiều lớp của mạng nơ-ron thay vì chỉ một lớp. Các lớp khác nhau nắm bắt những loại thông tin khác nhau, từ cạnh và kết cấu đơn giản ở các lớp đầu đến hình dạng và mẫu phức tạp hơn ở các lớp sâu.
Bằng cách đối sánh đặc trưng qua các lớp này, tập dữ liệu chắt lọc được điều chỉnh để phản ánh những gì model học được ở nhiều cấp độ. Vì căn chỉnh đặc trưng trên toàn mạng, phương pháp này giúp dữ liệu tổng hợp bảo toàn các tín hiệu phong phú hơn mà model dựa vào để phân biệt các lớp.
Điều này đặc biệt hữu ích trong thị giác máy tính, tức các tác vụ mà model học cách hiểu hình ảnh và video, vì các mẫu hữu ích phân bố trên nhiều lớp. Khi phân phối đặc trưng khớp tốt ở nhiều độ sâu, tập dữ liệu chắt lọc đóng vai trò thay thế mạnh mẽ và đáng tin cậy hơn cho dữ liệu huấn luyện gốc.
Các phương pháp đối sánh tham số#
Một nhóm phương pháp quan trọng khác trong chắt lọc tập dữ liệu là đối sánh tham số. Thay vì đối sánh độ chính xác hoặc phân phối đặc trưng, phương pháp này đối sánh cách trọng số của model thay đổi trong quá trình huấn luyện. Bằng cách khiến việc huấn luyện trên tập dữ liệu chắt lọc tạo ra các cập nhật tham số tương tự như khi huấn luyện bằng dữ liệu thực, model sẽ đi theo một lộ trình học gần như giống hệt.
Tiếp theo, chúng ta sẽ tìm hiểu hai phương pháp đối sánh tham số chính.
Đối sánh một bước#
Đối sánh một bước so sánh những thay đổi trong trọng số của model sau chỉ một bước huấn luyện trên dữ liệu thực. Sau đó, tập dữ liệu chắt lọc được tinh chỉnh để model huấn luyện trên tập dữ liệu đó trong một bước tạo ra cập nhật trọng số rất tương tự. Vì chỉ tập trung vào một lần cập nhật này, phương pháp có cách triển khai đơn giản và tốc độ thực thi nhanh.
Nhược điểm là một bước không phản ánh toàn bộ quá trình học, đặc biệt với các tác vụ khó hơn, trong đó model cần nhiều lần cập nhật để xây dựng các đặc trưng phong phú hơn. Vì vậy, đối sánh một bước thường hiệu quả nhất với các bài toán đơn giản hơn hoặc tập dữ liệu nhỏ hơn, nơi có thể nhanh chóng nắm bắt các mẫu hữu ích.
Đối sánh tham số nhiều bước#
Ngược lại, đối sánh tham số nhiều bước xem xét cách trọng số của model thay đổi qua nhiều bước huấn luyện chứ không chỉ một bước. Chuỗi cập nhật này chính là quỹ đạo huấn luyện của model.
Tập dữ liệu chắt lọc được xây dựng sao cho khi model huấn luyện trên các mẫu tổng hợp, quỹ đạo của model bám sát quỹ đạo mà model sẽ đi theo khi huấn luyện trên dữ liệu thực. Bằng cách đối sánh một giai đoạn học dài hơn, tập dữ liệu chắt lọc nắm bắt được nhiều cấu trúc hơn trong quy trình huấn luyện gốc.
Vì phản ánh diễn tiến của quá trình học theo thời gian, đối sánh nhiều bước thường hiệu quả hơn với các tập dữ liệu lớn hơn hoặc phức tạp hơn, nơi model cần nhiều lần cập nhật để nắm bắt các mẫu hữu ích. Phương pháp này đòi hỏi nhiều tài nguyên tính toán hơn vì phải theo dõi nhiều bước, nhưng thường tạo ra các tập dữ liệu chắt lọc có khả năng tổng quát hóa tốt hơn và hiệu năng cao hơn so với đối sánh một bước.
Cách tạo và tối ưu hóa tập dữ liệu tổng hợp#
Sau khi hiểu rõ hơn các phương pháp chắt lọc chính, giờ đây chúng ta có thể tìm hiểu cách tạo dữ liệu tổng hợp. Trong chắt lọc tập dữ liệu, các mẫu tổng hợp được tối ưu hóa để nắm bắt tín hiệu học tập quan trọng nhất, nhờ đó một tập nhỏ có thể thay thế tập dữ liệu lớn hơn nhiều.
Tiếp theo, chúng ta sẽ tìm hiểu cách tạo và đánh giá dữ liệu chắt lọc này.
Tạo và đánh giá ảnh đã chắt lọc#
Trong quá trình chắt lọc tập dữ liệu, các pixel tổng hợp được cập nhật qua nhiều bước huấn luyện. Mạng nơ-ron học từ những ảnh tổng hợp hiện tại và gửi phản hồi dựa trên gradient, cho biết mỗi pixel cần thay đổi như thế nào để khớp tốt hơn với các mẫu trong tập dữ liệu thực.
Quy trình này hiệu quả vì có tính khả vi (nghĩa là mọi bước đều trơn và có gradient được xác định rõ, nên những thay đổi nhỏ ở pixel dẫn đến các thay đổi có thể dự đoán được trong hàm mất mát), cho phép model điều chỉnh dữ liệu tổng hợp một cách trơn tru trong quá trình gradient descent.
Khi quá trình tối ưu hóa tiếp tục, ảnh tổng hợp bắt đầu hình thành cấu trúc có ý nghĩa, bao gồm những hình dạng và kết cấu mà model nhận diện được. Các ảnh tổng hợp đã tinh chỉnh này thường được dùng cho các tác vụ phân loại ảnh vì chúng nắm bắt những dấu hiệu thị giác then chốt mà bộ phân loại cần học.
Các tập dữ liệu đã chắt lọc được đánh giá bằng cách huấn luyện model trên chúng và so sánh kết quả với model được huấn luyện trên dữ liệu thực. Các nhà nghiên cứu đo độ chính xác trên tập validation và kiểm tra xem tập dữ liệu tổng hợp có bảo toàn các đặc trưng phân biệt (những mẫu hoặc tín hiệu mà model dựa vào để phân biệt lớp này với lớp khác) cần thiết để tách biệt các lớp hay không. Họ cũng kiểm tra độ ổn định và khả năng tổng quát hóa qua các lần chạy hoặc cấu hình model khác nhau để đảm bảo dữ liệu chắt lọc không gây overfitting.
Các ứng dụng thực tế của chắt lọc dữ liệu#
Tiếp theo, chúng ta sẽ xem xét kỹ hơn các ví dụ cho thấy tập dữ liệu chắt lọc giúp tăng tốc huấn luyện và giảm chi phí tính toán mà vẫn duy trì hiệu năng mạnh mẽ, ngay cả khi dữ liệu hạn chế hoặc có tính chuyên biệt cao.
Ứng dụng chắt lọc tập dữ liệu trong thị giác máy tính#
Trong lĩnh vực thị giác máy tính, mục tiêu là huấn luyện model hiểu dữ liệu thị giác như hình ảnh và video. Các model này học những mẫu như cạnh, kết cấu, hình dạng và vật thể, rồi sử dụng chúng cho các tác vụ như phân loại ảnh, phát hiện đối tượng hoặc phân đoạn. Vì các bài toán thị giác thường có nhiều biến thiên về ánh sáng, phông nền và góc nhìn, hệ thống thị giác máy tính thường cần tập dữ liệu lớn để tổng quát hóa tốt, khiến quá trình huấn luyện tốn kém và chậm.

Hình 4. Ví dụ về chắt lọc tập dữ liệu (Nguồn)
Trong các ứng dụng phân loại ảnh như chụp chiếu y tế, theo dõi động vật hoang dã hoặc phát hiện lỗi sản phẩm tại nhà máy, model thường phải cân bằng giữa độ chính xác và chi phí huấn luyện. Những tác vụ này thường sử dụng tập dữ liệu khổng lồ.
Chắt lọc tập dữ liệu có thể nén tập huấn luyện gốc thành một số lượng nhỏ ảnh tổng hợp vẫn chứa những dấu hiệu thị giác quan trọng nhất đối với bộ phân loại. Trên các bộ benchmark lớn như ImageNet, các tập dữ liệu chắt lọc chỉ sử dụng khoảng 4.2% số ảnh ban đầu đã được chứng minh là vẫn duy trì độ chính xác phân loại cao. Điều này có nghĩa là một tập dữ liệu đại diện tổng hợp rất nhỏ có thể thay thế hàng triệu mẫu thực với chi phí tính toán thấp hơn nhiều.
Tìm kiếm kiến trúc mạng nơ-ron#
Tìm kiếm kiến trúc mạng nơ-ron, hay NAS, là kỹ thuật tự động khám phá nhiều thiết kế mạng nơ-ron khả thi để tìm ra thiết kế phù hợp nhất với một tác vụ. Vì NAS phải huấn luyện và đánh giá số lượng lớn model ứng viên, việc chạy NAS trên toàn bộ dataset có thể chậm và tiêu tốn rất nhiều tài nguyên tính toán.
Chắt lọc tập dữ liệu hỗ trợ bằng cách tạo một tập huấn luyện tổng hợp rất nhỏ nhưng vẫn chứa tín hiệu học tập chính của dữ liệu gốc, nhờ đó có thể kiểm tra từng kiến trúc ứng viên nhanh hơn nhiều. Điều này cho phép NAS so sánh các thiết kế một cách hiệu quả mà vẫn giữ thứ hạng giữa kiến trúc tốt và kém tương đối đáng tin cậy, giảm chi phí tìm kiếm mà không làm giảm nhiều chất lượng model cuối cùng.
Học liên tục và triển khai trên thiết bị biên#
Các hệ thống học liên tục, tức các model tiếp tục cập nhật khi có dữ liệu mới thay vì chỉ được huấn luyện một lần, cần những bản cập nhật nhanh và tiết kiệm bộ nhớ. Thiết bị biên như camera, điện thoại và cảm biến cũng gặp giới hạn tương tự vì ngân sách tính toán và lưu trữ rất hạn chế.
Chắt lọc tập dữ liệu hỗ trợ cả hai trường hợp bằng cách nén một tập huấn luyện lớn thành tập tổng hợp rất nhỏ, nhờ đó model có thể thích ứng hoặc huấn luyện lại bằng một tập dữ liệu phát lại nhỏ thay vì toàn bộ tập dữ liệu. Chẳng hạn, nghiên cứu về meta-learning dựa trên kernel cho thấy chỉ 10 mẫu chắt lọc đã có thể đạt độ chính xác trên 64% trên CIFAR-10, một benchmark phân loại ảnh tiêu chuẩn. Vì tập dữ liệu phát lại rất gọn, việc cập nhật nhanh hơn và thiết thực hơn nhiều, đặc biệt khi cần thường xuyên làm mới model.
Chưng cất dataset cũng có thể kết hợp với chưng cất tri thức cho các mô hình ngôn ngữ lớn. Một dataset nhỏ đã chưng cất có thể giữ lại những tín hiệu quan trọng nhất của tác vụ từ model teacher, nhờ đó có thể huấn luyện hoặc cập nhật model student nén hiệu quả hơn mà không làm giảm nhiều hiệu suất. Vì những dataset này rất nhỏ, chúng đặc biệt hữu ích khi sử dụng trên thiết bị biên hoặc trực tiếp trên thiết bị, nơi dung lượng lưu trữ và năng lực tính toán hạn chế nhưng vẫn cần model duy trì độ chính xác sau khi cập nhật.
Ưu và nhược điểm của chắt lọc dữ liệu#
Sau đây là một số lợi ích của việc sử dụng chắt lọc tập dữ liệu:
- Phù hợp để thử nghiệm nhanh. Bạn có thể kiểm tra kiến trúc, hàm mất mát hoặc siêu tham số mới mà không cần huấn luyện lại trên tập dữ liệu khổng lồ mỗi lần.
- Có thể tăng cường quyền riêng tư. Chia sẻ các mẫu tổng hợp đã chắt lọc có thể an toàn hơn chia sẻ dữ liệu thực của người dùng, vì các mẫu thô không bị lộ trực tiếp.
- Thường hiệu quả hơn việc chọn tập con đơn giản. Thay vì chỉ chọn mẫu, chắt lọc chủ động tối ưu hóa các mẫu để chúng mang lại lượng thông tin tối đa.
Dù chắt lọc tập dữ liệu có một số ưu điểm, dưới đây là những hạn chế cần lưu ý:
- Quá khớp. Dữ liệu đã chưng cất thường hoạt động tốt nhất với kiến trúc được dùng trong quá trình chưng cất và có thể chuyển giao kém sang các model rất khác biệt.
- Nhạy với siêu tham số. Kết quả có thể phụ thuộc nhiều vào các yếu tố như learning rate, khởi tạo hoặc số bước chắt lọc.
- Khó mở rộng cho các bài toán thực tế phức tạp. Các phương pháp hoạt động tốt trên benchmark có thể giảm độ chính xác với tập dữ liệu lớn, lộn xộn hoặc độ phân giải cao.
Điểm chính cần ghi nhớ#
Chắt lọc tập dữ liệu cho phép một tập mẫu tổng hợp nhỏ có thể dạy model hiệu quả gần như một tập dữ liệu hoàn chỉnh. Nhờ đó, machine learning trở nên nhanh hơn, hiệu quả hơn và dễ mở rộng hơn. Khi model ngày càng lớn và cần nhiều dữ liệu hơn, tập dữ liệu chắt lọc mang đến giải pháp thiết thực để giảm chi phí tính toán mà không làm giảm độ chính xác.
Tham gia cộng đồng của chúng tôi và xem repository GitHub để khám phá thêm về AI. Nếu bạn muốn xây dựng dự án AI thị giác của riêng mình, hãy xem các tùy chọn cấp phép của chúng tôi. Tìm hiểu thêm về các ứng dụng như AI trong chăm sóc sức khỏe và AI thị giác trong bán lẻ trên các trang giải pháp của chúng tôi.
Được viết bởi
Bình luận
Đặt câu hỏi, chia sẻ kết quả hoặc giúp đỡ người khác.










