Bộ mã hóa tự động

Cách thức hoạt động của Autoencoders

Kiến trúc của bộ mã hóa tự động bao gồm một hàm mã hóa và một hàm giải mã, có thể là mạng truyền thẳng đơn giản hoặc các cấu trúc phức tạp hơn như Mạng nơ-ron tích chập (CNN) .

1. Bộ mã hóa: Phần này của mạng lưới lấy dữ liệu đầu vào đa chiều và ánh xạ nó thành biểu diễn tiềm ẩn đa chiều. Vectơ nén này nắm bắt được bản chất cốt lõi của dữ liệu đầu vào.
2. Nút thắt cổ chai: Đây là lớp chứa biểu diễn không gian tiềm ẩn được nén của dữ liệu đầu vào. Đây là cốt lõi của bộ mã hóa tự động và là lý do tại sao nó hiệu quả trong việc giảm chiều.
3. Bộ giải mã: Phần này lấy biểu diễn nén từ nút thắt và cố gắng tái tạo dữ liệu đầu vào đa chiều ban đầu.

Quá trình huấn luyện mô hình bao gồm việc tối thiểu hóa hàm mất mát , thường được gọi là lỗi tái tạo, đo lường sự khác biệt giữa đầu vào ban đầu và đầu ra được tái tạo. Quá trình này là một hình thức học tự giám sát , vì mô hình học từ chính dữ liệu mà không cần nhãn rõ ràng.

Ứng dụng AI/ML trong thế giới thực

Bộ mã hóa tự động rất linh hoạt và có nhiều ứng dụng thực tế trong học máy và học sâu .

1. Phát hiện Bất thường : Bộ mã hóa tự động rất hiệu quả trong việc phát hiện bất thường . Một mô hình được huấn luyện trên một tập dữ liệu chỉ chứa các điểm dữ liệu "bình thường". Khi một điểm dữ liệu bất thường mới (ví dụ: lỗi sản xuất hoặc giao dịch tài chính gian lận) được đưa vào bộ mã hóa, bộ giải mã sẽ không thể tái tạo chính xác điểm đó. Điều này dẫn đến lỗi tái tạo cao, có thể được sử dụng làm tín hiệu để đánh dấu điểm bất thường. Đây là một kỹ thuật quan trọng trong AI cho các hệ thống an ninh tài chính và sản xuất , một chủ đề được các tổ chức như Viện Alan Turing nghiên cứu.
2. Khử nhiễu hình ảnh : Bộ mã hóa tự động khử nhiễu có thể được huấn luyện để loại bỏ nhiễu khỏi hình ảnh. Mô hình được cung cấp hình ảnh nhiễu làm đầu vào và được huấn luyện để xuất ra phiên bản gốc, sạch. Khả năng này rất hữu ích trong phân tích hình ảnh y tế nhằm nâng cao chất lượng chụp MRI hoặc CT, hoặc trong việc khôi phục ảnh cũ bị nhiễu. Phương pháp khử nhiễu này tinh vi hơn so với các bộ lọc xử lý hình ảnh truyền thống.

Có nhiều loại bộ mã hóa tự động, bao gồm Bộ mã hóa tự động thưa thớt (Sparse Autoencoder), Bộ mã hóa tự động khử nhiễu (Denoising Autoencoder) và Bộ mã hóa tự động tích chập ( Convolutional Autoencoder). Một trong những biến thể quan trọng nhất là Bộ mã hóa tự động biến thiên (VAE) , một mô hình sinh có khả năng tạo ra các mẫu dữ liệu mới tương tự như các mẫu mà nó đã được huấn luyện. Tổng quan toàn diện về VAE có sẵn trên arXiv .

Autoencoders so với các khái niệm liên quan

• PCA: Mặc dù cả hai đều làm giảm tính đa chiều, Phân tích Thành phần Chính (PCA) bị giới hạn ở các phép biến đổi tuyến tính. Bộ mã hóa tự động, là mạng nơ-ron , có thể học các phép ánh xạ phi tuyến tính phức tạp, thường dẫn đến biểu diễn tốt hơn cho các tập dữ liệu phức tạp.
• GAN: Mạng đối kháng tạo sinh (GAN) chủ yếu được thiết kế để tạo ra dữ liệu mới có độ chân thực cao. Mặc dù VAE cũng có thể tạo dữ liệu, nhưng trọng tâm của chúng thường là học một không gian tiềm ẩn có cấu trúc tốt, trong khi GAN lại vượt trội về độ trung thực đầu ra, đôi khi phải đánh đổi bằng khả năng diễn giải không gian tiềm ẩn.
• CNN và Transformer: Autoencoder định nghĩa một mẫu kiến trúc (mã hóa-giải mã). Chúng thường sử dụng các loại mạng khác như CNN cho dữ liệu hình ảnh hoặc Transformer cho dữ liệu tuần tự làm nền tảng. Điều này khác với các mô hình như Ultralytics YOLO , là các mô hình giám sát được thiết kế cho các tác vụ như phát hiện đối tượng hoặc phân đoạn hình ảnh .

Công cụ và triển khai

Bộ mã hóa tự động có thể được triển khai bằng cách sử dụng các khuôn khổ học sâu (DL) phổ biến:

• PyTorch : Cung cấp tính linh hoạt trong việc xác định kiến trúc bộ mã hóa và giải mã tùy chỉnh. Xem hướng dẫn PyTorch .
• TensorFlow / Keras : Cung cấp các API cấp cao giúp đơn giản hóa quá trình xây dựng và đào tạo. Xem hướng dẫn về bộ mã hóa tự động Keras .

Các nền tảng như Ultralytics HUB tạo điều kiện thuận lợi cho quy trình làm việc ML tổng thể, bao gồm quản lý dữ liệu và đào tạo mô hình , mặc dù chúng chủ yếu tập trung vào các tác vụ có giám sát như phát hiện và phân đoạn thay vì đào tạo bộ mã hóa tự động không giám sát.