Deepfakes

Deepfake là hình ảnh, video hoặc bản ghi âm trong đó deep learning (DL) thay thế hoặc giả tạo khuôn mặt, giọng nói hay cơ thể của người thật một cách thuyết phục đến mức người xem cho là thật. Thuật ngữ này là sự kết hợp giữa "deep learning" và "fake", xuất hiện từ năm 2017, khi một người dùng Reddit có tên "deepfakes" bắt đầu đăng video hoán đổi khuôn mặt được tạo bằng các công cụ mã nguồn mở. Deepfake là một dạng AI tạo sinh, và các kỹ thuật tương tự được dùng trong hiệu ứng phim và lồng tiếng, cũng như trong gian lận, quấy rối và tung tin sai lệch.

Cách tạo Deepfake#

Kỹ thuật hoán đổi khuôn mặt kinh điển sử dụng một cặp autoencoder dùng chung một encoder. Encoder dùng chung học cách nén mọi khuôn mặt thành một mã gọn trong không gian tiềm ẩn, mô tả tư thế, biểu cảm và ánh sáng, trong khi mỗi decoder học cách tái tạo một người cụ thể từ mã đó. Sau khi được huấn luyện trên hàng nghìn ảnh cắt khuôn mặt của cả hai người, hệ thống mã hóa một khung hình của người A rồi giải mã bằng decoder của người B, tạo ra khuôn mặt người B với biểu cảm của người A:

Các phương pháp khác ra đời sau đó:

• Mạng đối sinh tạo (GAN): một generator tạo ảnh trong khi discriminator cố gắng phân biệt chúng với ảnh thật; quá trình cạnh tranh này thúc đẩy generator tạo ảnh chân thực như ảnh chụp. Các GAN như StyleGAN tạo ra khuôn mặt của những người không tồn tại.
• Model khuếch tán: tạo ảnh và video bằng cách khử nhiễu từng bước, dưới sự hướng dẫn của văn bản, ảnh tham chiếu hoặc video nguồn. Chúng là nền tảng cho các công cụ chỉnh sửa ảnh và tạo video từ văn bản hiện nay, có thể tạo video chân thực về một người đang nói chỉ từ một ảnh tham chiếu.
• Nhân bản giọng nói: các model giọng nói tái tạo giọng của một người từ bản ghi âm ngắn, sau đó model đồng bộ khẩu hình điều chỉnh miệng trong video có sẵn để khớp với âm thanh mới.

Ứng dụng và tác hại#

Kỹ thuật deepfake có những ứng dụng chính đáng. Các hãng phim làm trẻ hóa diễn viên và lồng tiếng phim sang ngôn ngữ khác với chuyển động môi khớp nhau. Bộ phim tài liệu Welcome to Chechnya năm 2020 đã thay khuôn mặt của những người được phỏng vấn bị đàn áp bằng khuôn mặt của các tình nguyện viên, bảo vệ danh tính của họ mà vẫn giữ nguyên mọi biểu cảm. Bệnh nhân mất giọng nói do bệnh có thể lưu trữ bản ghi âm và nói bằng bản sao giọng nói của mình; khuôn mặt được tạo cũng đóng vai trò là dữ liệu tổng hợp để huấn luyện model mà không cần thu thập ảnh người thật.

Tác hại có quy mô lớn hơn. Phần lớn deepfake trên mạng là hình ảnh thân mật không có sự đồng thuận, nhắm vào người thật, thường là phụ nữ. Kẻ lừa đảo nhân bản giọng nói của người thân hoặc lãnh đạo doanh nghiệp để yêu cầu thanh toán khẩn cấp; đầu năm 2024, một nhân viên của công ty kỹ thuật Arup đã chuyển khoảng 25 triệu USD sau một cuộc gọi video mà giám đốc tài chính cùng các đồng nghiệp khác của công ty đều là deepfake. Các đoạn video giả mạo chính trị gia lan truyền trong các cuộc bầu cử, và sự tồn tại của những nội dung giả mạo thuyết phục khiến người ta có thể bác bỏ các bản ghi thật là giả.

Phát hiện Deepfake#

Các hệ thống phát hiện tìm kiếm dấu vết do quá trình tạo để lại: đường ghép quanh khuôn mặt, ánh sáng và phản chiếu không khớp trong mắt, chớp mắt hoặc chuyển động đầu bất thường, hiện tượng giả tần số mà mắt thường không nhìn thấy, và chuyển động môi lệch nhịp với lời nói. Hầu hết detector trước tiên định vị và cắt từng khuôn mặt, sau đó đưa ảnh cắt vào một bộ phân loại được huấn luyện trên các ví dụ thật và đã chỉnh sửa. Ultralytics YOLO26 phù hợp với giai đoạn thứ hai này: các model phân loại của model được huấn luyện trên dataset bố trí thư mục theo từng lớp, vì vậy chỉ cần các thư mục "real" và "fake" chứa ảnh cắt khuôn mặt là đủ để huấn luyện bộ phân loại thật-giả.

Detector gặp khó khăn khi khái quát hóa sang các phương pháp tạo nội dung mà chúng chưa từng thấy. Trong Thử thách phát hiện Deepfake của Meta, model chiến thắng đạt độ chính xác trung bình 65.18% trên tập kiểm thử gồm các video mới được giấu kín, so với 82.56% của model đứng đầu trên tập kiểm thử công khai. Vì khả năng phát hiện chưa theo kịp khả năng tạo nội dung, ngành này còn xác minh nguồn gốc: Thông tin xác thực nội dung (C2PA) đính kèm bản ghi được ký bằng mật mã về cách nội dung được ghi lại và chỉnh sửa, còn đóng dấu chìm AI nhúng tín hiệu ẩn vào nội dung được tạo để detector có thể đọc sau này.

Deepfake và các khái niệm liên quan#

• Dữ liệu tổng hợp: mọi dữ liệu được tạo nhân tạo để huấn luyện hoặc kiểm thử model, từ cảnh lái xe mô phỏng đến ảnh sản phẩm được dựng. Kỹ thuật deepfake là một nguồn tạo dữ liệu tổng hợp khi khuôn mặt được tạo ra dùng để bổ sung vào tập huấn luyện.
• Hình ảnh do máy tính tạo (CGI): nhân vật và hiệu ứng kỹ thuật số do nghệ sĩ tự dựng hình, tạo rig và làm hoạt ảnh. Các hãng hiệu ứng hình ảnh ngày càng kết hợp CGI với kỹ thuật thay khuôn mặt bằng model trong cùng một cảnh quay.
• Shallowfake: các chỉnh sửa gây hiểu lầm không dùng AI, chẳng hạn làm chậm clip để khiến người nói có vẻ như bị ảnh hưởng hoặc thêm chú thích sai ngữ cảnh cho một video thật.

Quy định#

Các đạo luật hiện trực tiếp nhắm đến deepfake. Điều 50 của Đạo luật AI EU, có hiệu lực từ ngày 2 tháng 8 năm 2026, yêu cầu bên triển khai dùng AI để tạo deepfake phải công khai rằng nội dung được tạo hoặc chỉnh sửa nhân tạo, đồng thời yêu cầu nhà cung cấp hệ thống tạo sinh đánh dấu đầu ra ở định dạng máy có thể đọc được. Tại Hoa Kỳ, Đạo luật TAKE IT DOWN, được ký ban hành vào tháng 5 năm 2025, quy định việc đăng tải deepfake thân mật không có sự đồng thuận là tội phạm liên bang; kể từ ngày 19 tháng 5 năm 2026, các nền tảng thuộc phạm vi điều chỉnh phải gỡ nội dung đó trong vòng 48 giờ kể từ khi nhận được yêu cầu hợp lệ.