Deepfake (giả mạo sâu)

Phương tiện truyền thông tổng hợp được tạo ra bằng kỹ thuật học sâu được gọi là deepfake. Thuật ngữ này là sự kết hợp giữa "học sâu" và "giả", ám chỉ các video hoặc bản ghi âm trong đó hình ảnh và giọng nói của một người được thay thế bằng giọng nói của người khác, thường với độ chân thực cao. Điều này đạt được bằng cách đào tạo một mạng lưới thần kinh trên một lượng lớn hình ảnh và video hiện có của các cá nhân mục tiêu để học và sao chép biểu cảm khuôn mặt, cử chỉ và kiểu nói của họ.

Công nghệ đằng sau Deepfake

Việc tạo Deepfake chủ yếu dựa vào hai khái niệm máy học chính: Mạng đối nghịch tạo sinh (GAN) và bộ mã hóa tự động .

• Mạng Đối kháng Sinh sinh (GAN) : Một GAN bao gồm hai mạng nơ-ron cạnh tranh: một Bộ tạo (Generator) và một Bộ phân biệt (Discriminator). Bộ tạo tạo ra các hình ảnh giả (ví dụ: một khung hình video với khuôn mặt bị hoán đổi), trong khi Bộ phân biệt cố gắng xác định xem hình ảnh là thật hay giả. Quá trình đối kháng này buộc Bộ tạo tạo tạo ra các hình ảnh giả ngày càng giống thật hơn để có thể đánh lừa Bộ phân biệt. Kỹ thuật này là nền tảng của AI Sinh sinh hiện đại.
• Bộ mã hóa tự động : Phương pháp này sử dụng kiến trúc mã hóa-giải mã. Hai bộ mã hóa tự động được huấn luyện trên cảnh quay của hai người khác nhau. Để thực hiện hoán đổi khuôn mặt, hình ảnh của người thứ nhất được chạy qua bộ mã hóa thứ nhất, sau đó được giải mã bằng bộ giải mã được huấn luyện trên người thứ hai. Thao tác này tạo ra hình ảnh của người thứ hai với biểu cảm và hướng nhìn của người thứ nhất. Quá trình này thường bắt đầu bằng một mô hình phát hiện đối tượng , chẳng hạn như Ultralytics YOLO , để xác định vị trí khuôn mặt trong video trước khi quá trình hoán đổi bắt đầu.

Ứng dụng và ví dụ thực tế

Mặc dù thường gắn liền với mục đích xấu, công nghệ deepfake có một số ứng dụng hợp pháp và sáng tạo.

• Giải trí và Truyền thông : Công nghệ này có thể được sử dụng để lồng tiếng phim sang nhiều ngôn ngữ khác nhau một cách liền mạch, khớp chuyển động môi của diễn viên với lời thoại mới. Nó cũng cho phép trẻ hóa diễn viên hoặc tái tạo kỹ thuật số các nhân vật lịch sử cho phim tiểu sử, như các công ty như Industrial Light & Magic đã làm.
• Tạo dữ liệu tổng hợp : Việc tạo ra các tập dữ liệu nhân tạo nhưng chân thực là một ứng dụng mạnh mẽ. Ví dụ, dữ liệu tổng hợp về khuôn mặt người có thể được sử dụng để huấn luyện các mô hình thị giác máy tính cho các tác vụ như nhận dạng khuôn mặt mà không ảnh hưởng đến quyền riêng tư dữ liệu của người thật. Điều này giúp cải thiện độ tin cậy của mô hình và giảm độ lệch của tập dữ liệu .

Thách thức và phát hiện về mặt đạo đức

Khả năng bị lạm dụng khiến deepfake trở thành một mối lo ngại đạo đức đáng kể. Công nghệ này có thể được sử dụng để tạo ra tin tức giả mạo có sức thuyết phục, lan truyền thông tin sai lệch chính trị, thực hiện hành vi gian lận và tạo ra nội dung khiêu dâm không được sự đồng thuận. Những rủi ro này nhấn mạnh tầm quan trọng của việc xây dựng các nguyên tắc vững chắc về đạo đức AI và phát triển AI có trách nhiệm .

Đáp lại, một lĩnh vực phát hiện deepfake đã xuất hiện, tạo nên một cuộc chạy đua công nghệ giữa các phương pháp tạo và phát hiện. Các nhà nghiên cứu và công ty đang phát triển các mô hình AI để phát hiện các hiện tượng thị giác tinh vi và sự không nhất quán mà các thuật toán deepfake thường để lại. Các sáng kiến như Thử thách Phát hiện Deepfake và các tổ chức như Đối tác về AI đang tập trung vào việc nâng cao các khả năng phát hiện này để giảm thiểu tác động tiêu cực của công nghệ. Ngoài ra còn có các công cụ dành cho công chúng, chẳng hạn như Intel FakeCatcher , được thiết kế để nhận dạng nội dung được tạo ra. Việc học cách nhận biết một hình ảnh có phải do AI tạo ra hay không đang trở thành một kỹ năng thiết yếu trong bối cảnh kỹ thuật số hiện đại.