Deepfakes

Phương tiện tổng hợp được tạo bằng các kỹ thuật học sâu được gọi là deepfake. Thuật ngữ này là sự kết hợp của "học sâu" và "giả mạo", đề cập đến các video hoặc bản ghi âm mà hình ảnh và giọng nói của một người được thay thế bằng hình ảnh và giọng nói của người khác, thường với độ chân thực cao. Điều này đạt được bằng cách huấn luyện một mạng nơ-ron trên một lượng lớn hình ảnh và video hiện có của các cá nhân mục tiêu để học và sao chép các biểu cảm khuôn mặt, cách cư xử và kiểu nói của họ.

Công nghệ đằng sau Deepfakes

Quá trình tạo deepfake chủ yếu dựa vào hai khái niệm học máy chính: Mạng đối kháng sinh (GANs) và bộ tự mã hóa (autoencoders).

• Mạng Đối Nghịch Tạo Sinh (GANs): Một GAN bao gồm hai mạng nơ-ron cạnh tranh: một Bộ Tạo (Generator) và một Bộ Phân Biệt (Discriminator). Bộ Tạo tạo ra các hình ảnh giả (ví dụ: một khung hình của video với khuôn mặt được hoán đổi), trong khi Bộ Phân Biệt cố gắng xác định xem hình ảnh đó là thật hay giả. Quá trình đối nghịch này buộc Bộ Tạo phải tạo ra những hình ảnh giả ngày càng thuyết phục hơn có thể đánh lừa Bộ Phân Biệt. Kỹ thuật này là nền tảng của AI Tạo Sinh (Generative AI) hiện đại.
• Autoencoder: Phương pháp này sử dụng kiến trúc encoder-decoder. Hai autoencoder được huấn luyện trên dữ liệu của hai người khác nhau. Để thực hiện việc thay đổi khuôn mặt, hình ảnh của người thứ nhất được đưa qua encoder thứ nhất, nhưng sau đó được giải mã bằng decoder được huấn luyện trên người thứ hai. Điều này tạo ra hình ảnh của người thứ hai với biểu cảm và hướng của người thứ nhất. Quá trình này thường bắt đầu với một mô hình phát hiện đối tượng, như Ultralytics YOLO, để xác định vị trí khuôn mặt trong video trước khi quá trình hoán đổi bắt đầu.

Các Ứng Dụng và Ví Dụ Thực Tế

Mặc dù thường liên quan đến các mục đích xấu, công nghệ deepfake có một số ứng dụng hợp pháp và sáng tạo.

• Giải trí và Truyền thông: Công nghệ này có thể được sử dụng để lồng tiếng phim một cách liền mạch sang các ngôn ngữ khác nhau, khớp chuyển động môi của diễn viên với đoạn hội thoại mới. Nó cũng cho phép trẻ hóa diễn viên hoặc tái tạo kỹ thuật số các nhân vật lịch sử cho phim tiểu sử, như được khám phá bởi các công ty như Industrial Light & Magic.
• Tạo dữ liệu tổng hợp (Synthetic Data Generation): Tạo bộ dữ liệu nhân tạo nhưng thực tế là một ứng dụng mạnh mẽ. Ví dụ: dữ liệu tổng hợp về khuôn mặt người có thể được sử dụng để huấn luyện các mô hình thị giác máy tính cho các tác vụ như nhận dạng khuôn mặt mà không ảnh hưởng đến quyền riêng tư dữ liệu của các cá nhân thực. Điều này giúp cải thiện tính mạnh mẽ của mô hình và giảm độ lệch của bộ dữ liệu.

Những thách thức và phát hiện về mặt đạo đức

Khả năng bị lạm dụng khiến deepfake trở thành một mối lo ngại đạo đức đáng kể. Công nghệ này có thể được sử dụng để tạo ra tin tức giả mạo đầy thuyết phục, lan truyền thông tin sai lệch chính trị, thực hiện hành vi gian lận và tạo ra nội dung khiêu dâm không có sự đồng thuận. Những rủi ro này nhấn mạnh tầm quan trọng của việc phát triển các nguyên tắc mạnh mẽ cho đạo đức AI và phát triển AI có trách nhiệm.

Để đáp lại, một lĩnh vực phát hiện deepfake đã xuất hiện, tạo ra một cuộc chạy đua vũ trang công nghệ giữa các phương pháp tạo và phát hiện. Các nhà nghiên cứu và công ty đang phát triển các mô hình AI để phát hiện các tạo tác và sự không nhất quán trực quan tinh vi mà các thuật toán deepfake thường để lại. Các sáng kiến như Thử thách Phát hiện Deepfake và các tổ chức như Quan hệ đối tác về AI đang tập trung vào việc nâng cao các khả năng phát hiện này để giảm thiểu tác động tiêu cực của công nghệ. Ngoài ra còn có các công cụ dành cho công chúng, như Intel FakeCatcher, được thiết kế để xác định nội dung được tạo. Học cách phân biệt hình ảnh do AI tạo ra đang trở thành một kỹ năng thiết yếu trong bối cảnh kỹ thuật số hiện đại.