Chuẩn hóa

Chuẩn hóa là một kỹ thuật tiền xử lý dữ liệu quan trọng trong học máy (ML) và trí tuệ nhân tạo (AI) . Nó bao gồm việc chuyển đổi các đặc điểm số của một tập dữ liệu sang một thang đo chung mà không làm biến dạng sự khác biệt trong phạm vi của chúng. Quá trình tỷ lệ này rất quan trọng đối với hiệu suất và tính ổn định của nhiều thuật toán, đặc biệt là những thuật toán nhạy cảm với độ lớn của các giá trị đầu vào, chẳng hạn như các phương pháp tối ưu hóa dựa trên gradient được sử dụng trong huấn luyện mạng nơ-ron (NN) . Bằng cách đảm bảo rằng tất cả các đặc điểm đều đóng góp một cách tỷ lệ thuận vào quá trình học của mô hình, chuẩn hóa giúp tăng tốc quá trình huấn luyện và cải thiện độ chính xác tổng thể của mô hình .

Tại sao chuẩn hóa lại quan trọng?

Nếu không có chuẩn hóa, các đặc trưng có quy mô lớn hơn có thể chi phối quá trình học của mô hình. Ví dụ, trong một tập dữ liệu dự đoán giá nhà, một đặc trưng như "diện tích" (ví dụ: 1000-3000) sẽ có phạm vi lớn hơn nhiều so với "số phòng ngủ" (ví dụ: 2-5). Sự khác biệt này có thể khiến các thuật toán như giảm dần độ dốc mất nhiều thời gian hơn để hội tụ hoặc bị kẹt ở các cực trị cục bộ. Chuẩn hóa giảm thiểu điều này bằng cách đặt tất cả các đặc trưng vào một sân chơi bình đẳng, dẫn đến:

• Hội tụ nhanh hơn: Các mô hình được đào tạo nhanh hơn vì thuật toán tối ưu hóa có thể điều hướng bối cảnh mất mát hiệu quả hơn.
• Hiệu suất được cải thiện: Điều này rất cần thiết đối với các thuật toán sử dụng phép đo khoảng cách, chẳng hạn như k-Nearest Neighbors (k-NN) hoặc các thuật toán dựa trên cập nhật gradient, như Mạng nơ-ron tích chập (CNN) .
• Giảm thiểu rủi ro mất ổn định số: Giúp ngăn ngừa các vấn đề như sự bùng nổ gradient trong quá trình truyền ngược .
• Đóng góp tính năng nhất quán: Đảm bảo không có tính năng nào ảnh hưởng quá mức đến mô hình chỉ vì quy mô của nó. Đây là một khía cạnh quan trọng của việc thiết kế tính năng phù hợp.

Chuẩn hóa so với Chuẩn hóa so với Chuẩn hóa hàng loạt

Mặc dù thường được sử dụng thay thế cho nhau, chuẩn hóa và chuẩn hóa là hai kỹ thuật riêng biệt. Điều quan trọng nữa là phải phân biệt chuẩn hóa dữ liệu với chuẩn hóa hàng loạt .

• Chuẩn hóa (Min-Max Scaling): Kỹ thuật này thường chia tỷ lệ dữ liệu theo một phạm vi cố định. Kỹ thuật này hữu ích khi dữ liệu có phân phối chuẩn không theo chuẩn Gauss hoặc khi thuật toán không giả định bất kỳ phân phối chuẩn nào. Đây là một bước phổ biến trong quá trình tiền xử lý dữ liệu .
• Chuẩn hóa (Chuẩn hóa điểm Z): Kỹ thuật này chia tỷ lệ lại dữ liệu để có giá trị trung bình bằng 0 và độ lệch chuẩn bằng 1. Không giống như tỷ lệ min-max, kỹ thuật này không có phạm vi giới hạn. Chuẩn hóa thường được ưu tiên khi dữ liệu tuân theo phân phối chuẩn Gauss và ít bị ảnh hưởng bởi các giá trị ngoại lai.
• Chuẩn hóa hàng loạt: Đây không phải là bước tiền xử lý dữ liệu mà là một lớp được sử dụng trong mô hình học sâu . Nó chuẩn hóa dữ liệu đầu vào thành một lớp cho mỗi mini-batch trong quá trình huấn luyện. Điều này giúp khắc phục hiện tượng dịch chuyển biến số nội bộ, ổn định và tăng tốc quá trình huấn luyện mạng sâu. Đây là một thành phần tiêu chuẩn trong nhiều kiến trúc hiện đại, bao gồm các mô hình YOLO của Ultralytics , và được triển khai trong các nền tảng như PyTorch và TensorFlow .

Ứng dụng của Chuẩn hóa

Chuẩn hóa là một phương pháp tiêu chuẩn trong nhiều lĩnh vực, đặc biệt là trong thị giác máy tính (CV) . Các nền tảng như Ultralytics HUB hợp lý hóa quy trình làm việc, trong đó quá trình tiền xử lý này rất cần thiết để đào tạo các mô hình hiệu suất cao.

• Tiền xử lý dữ liệu ảnh: Trong thị giác máy tính, ảnh được tạo thành từ các giá trị pixel, thường nằm trong khoảng từ 0 đến 255. Trước khi đưa ảnh vào mô hình để thực hiện các tác vụ như phân loại ảnh hoặc phát hiện đối tượng , các giá trị pixel này hầu như luôn được chuẩn hóa. Việc chia tỷ lệ chúng thành khoảng [-1, 1] hoặc [-1, 1] đảm bảo tính nhất quán trên tất cả ảnh trong một tập dữ liệu , điều này rất quan trọng để các mô hình như YOLO11 học các đặc điểm một cách hiệu quả.
• Phân tích hình ảnh y tế: Trong các lĩnh vực như AI trong chăm sóc sức khỏe , các hình ảnh quét y tế như MRI hoặc CT thường được chụp từ các máy móc khác nhau với các cài đặt khác nhau, dẫn đến các thang cường độ khác nhau. Khi sử dụng AI để phát hiện khối u , việc chuẩn hóa các hình ảnh quét này là một bước quan trọng. Nó đảm bảo rằng phân tích của mô hình có thể so sánh được trên nhiều bệnh nhân và thiết bị khác nhau, dẫn đến các dự đoán chẩn đoán đáng tin cậy và chính xác hơn. Đây là một khái niệm cơ bản trong phân tích hình ảnh y tế .
• Mô hình dự đoán trong tài chính: Khi xây dựng mô hình để dự đoán giá cổ phiếu hoặc đánh giá rủi ro tín dụng, các tập dữ liệu thường bao gồm các đặc điểm có quy mô rất khác nhau, chẳng hạn như khối lượng giao dịch (triệu) và tỷ lệ giá trên thu nhập (ví dụ: 10-50). Việc chuẩn hóa các đặc điểm này là rất cần thiết cho các thuật toán dựa trên khoảng cách và đảm bảo rằng việc học dựa trên độ dốc không bị lệch bởi các đặc điểm có độ lớn lớn hơn, một thực hành phổ biến trong thị giác máy tính trong tài chính .