Deepfakes

Deepfake đại diện cho một danh mục phương tiện tổng hợp tinh vi, trong đó diện mạo của một người, bao gồm khuôn mặt, giọng nói và biểu cảm, được thay thế một cách thuyết phục bằng diện mạo của một cá nhân khác. Công nghệ này tận dụng các thuật toán học sâu (DL) tiên tiến để phân tích và tái tạo dữ liệu hình ảnh và âm thanh với độ trung thực cao. Mặc dù thường gắn liền với các video lan truyền trên internet hoặc giải trí, nhưng các cơ chế cơ bản đằng sau chúng đại diện cho một cột mốc quan trọng trong AI tạo sinh, chứng minh khả năng của mạng thần kinh trong việc hiểu và thao tác các đặc điểm sinh học phức tạp. Bản thân thuật ngữ này là sự kết hợp giữa "deep learning" (học sâu) và "fake" (giả mạo).

Link to this sectionCông nghệ đằng sau Deepfake#

Việc tạo ra deepfake chủ yếu dựa trên một kiến trúc cụ thể được gọi là Mạng đối nghịch tạo sinh (GAN). Một GAN bao gồm hai mạng thần kinh đối nghịch nhau: bộ tạo (generator) và bộ phân biệt (discriminator). Bộ tạo tạo ra nội dung giả, trong khi bộ phân biệt đánh giá nội dung đó dựa trên dữ liệu thực, cố gắng phát hiện sự giả mạo. Thông qua quá trình đối nghịch này, mô hình cải thiện lặp đi lặp lại cho đến khi phương tiện được tạo ra trở nên không thể phân biệt được với thực tế đối với bộ phân biệt.

Một phương pháp phổ biến khác bao gồm bộ mã hóa tự động (autoencoder), được sử dụng để nén các đặc điểm khuôn mặt vào một không gian tiềm ẩn có chiều thấp hơn và sau đó tái tạo chúng. Bằng cách huấn luyện hai bộ mã hóa tự động trên các khuôn mặt khác nhau nhưng tráo đổi phần bộ giải mã của mạng, hệ thống có thể tái tạo khuôn mặt của một cá nhân nguồn lên các chuyển động của mục tiêu. Trước khi bất kỳ quá trình tráo đổi nào diễn ra, hệ thống phải xác định chính xác khuôn mặt trong video nguồn. Bước tiền xử lý này thường sử dụng các mô hình phát hiện đối tượng thời gian thực như Ultralytics YOLO26 để định vị và theo dõi khuôn mặt của chủ thể với độ chính xác cao.

Link to this sectionCác ứng dụng trong thực tế#

Mặc dù deepfake thường được thảo luận trong bối cảnh thông tin sai lệch, chúng có các ứng dụng mang tính chuyển đổi trong các ngành công nghiệp hợp pháp, từ nghệ thuật sáng tạo đến nghiên cứu y tế.

• Phim và Hiệu ứng hình ảnh: Các hãng phim lớn sử dụng công nghệ deepfake cho hiệu ứng hình ảnh (VFX) để làm trẻ hóa diễn viên hoặc tái tạo diện mạo của những nghệ sĩ đã khuất. Ví dụ, Disney Research đã phát triển các thuật toán hoán đổi khuôn mặt độ phân giải cao giúp tinh giản quy trình hậu kỳ, giảm nhu cầu sử dụng CGI thủ công đắt đỏ.
• Quyền riêng tư và Ẩn danh: Trong báo chí điều tra hoặc làm phim tài liệu, deepfake có thể bảo vệ danh tính của nguồn tin. Thay vì chỉ làm mờ khuôn mặt, điều có thể làm mất đi tính người của đối tượng, các nhà làm phim có thể phủ lên một khuôn mặt tổng hợp, không tồn tại, giúp bảo tồn các biểu cảm khuôn mặt và sắc thái cảm xúc ban đầu trong khi vẫn che giấu hoàn toàn danh tính thực của cá nhân đó.
• Tạo dữ liệu tổng hợp: Các kỹ thuật deepfake được sử dụng để tạo ra dữ liệu tổng hợp đa dạng để huấn luyện các mô hình học máy. Điều này đặc biệt hữu ích trong AI chăm sóc sức khỏe, nơi các quy định nghiêm ngặt về quyền riêng tư dữ liệu (như HIPAA) hạn chế việc sử dụng hình ảnh bệnh nhân thực tế.
• Tiếp thị cá nhân hóa: Các công ty đang khám phá nền tảng video tạo sinh để tạo ra các tin nhắn video được cá nhân hóa trên quy mô lớn, cho phép các thương hiệu tương tác với khách hàng bằng nội dung có vẻ như được người phát ngôn nói trực tiếp với họ bằng nhiều ngôn ngữ.

Link to this sectionVí dụ về triển khai#

Để tạo deepfake hoặc thực hiện hoán đổi khuôn mặt, bước kỹ thuật đầu tiên luôn là phát hiện khuôn mặt hoặc người trong khung hình video để xác định vùng quan tâm. Mã Python dưới đây minh họa cách khởi tạo quá trình phát hiện này bằng thư viện ultralytics.

from ultralytics import YOLO

# Load the official YOLO26 model (latest generation) for object detection
model = YOLO("yolo26n.pt")

# Run inference to locate persons (class 0) in an image
results = model.predict("https://ultralytics.com/images/bus.jpg")

# Output the detected bounding boxes for further processing
for result in results:
    print(f"Detected {len(result.boxes)} objects in the frame.")

Link to this sectionCân nhắc về đạo đức và Phát hiện#

Sự phổ biến của deepfake đặt ra những câu hỏi quan trọng liên quan đến đạo đức AI. Khả năng bị lạm dụng trong việc truyền bá thông tin sai lệch chính trị hoặc tạo ra tài liệu khiêu dâm không có sự đồng thuận đã dẫn đến nhu cầu về các hệ thống phát hiện mạnh mẽ. Các nhà nghiên cứu đang phát triển các biện pháp đối phó nhằm phân tích các dấu hiệu bảo mật sinh trắc học, chẳng hạn như kiểu chớp mắt không đều hoặc phát hiện mạch đập từ những biến đổi nhỏ trong màu da, để xác định phương tiện bị thao túng.

Các tổ chức như Deepfake Detection Challenge đã thúc đẩy sự đổi mới trong các thuật toán pháp y. Khi các mô hình tạo sinh trở nên hiệu quả hơn—dự đoán các kiến trúc tương lai như YOLO26 hướng tới xử lý thời gian thực, end-to-end—các công cụ phát hiện cũng phải tiến hóa song song. Các giải pháp thường bao gồm giám sát mô hình để theo dõi hiệu suất của các thuật toán phát hiện so với các kỹ thuật tạo sinh mới. Các công cụ có sẵn trên Ultralytics Platform có thể hỗ trợ các nhóm quản lý tập dữ liệu để huấn luyện các mô hình phòng thủ này.

Link to this sectionDeepfake so với các khái niệm liên quan#

Điều quan trọng là phải phân biệt deepfake với các thuật ngữ tương tự trong bối cảnh AI để hiểu vai trò cụ thể của chúng:

• Deepfake so với Dữ liệu tổng hợp: Mặc dù deepfake là một loại phương tiện tổng hợp, dữ liệu tổng hợp là một danh mục rộng hơn. Dữ liệu tổng hợp bao gồm bất kỳ dữ liệu nào được tạo ra một cách nhân tạo, chẳng hạn như các tình huống lái xe mô phỏng cho xe tự lái, và không nhất thiết liên quan đến việc thay thế một danh tính con người cụ thể.
• Deepfake so với CGI: Hình ảnh do máy tính tạo ra (CGI) thường liên quan đến việc tạo mô hình và làm hoạt hình 3D cho các đối tượng hoặc nhân vật theo cách thủ công. Deepfake khác biệt vì chúng được tạo ra tự động bởi một mạng thần kinh học từ tập dữ liệu, thay vì được tạo mô hình rõ ràng bởi một nghệ sĩ.
• Deepfake so với Morphing khuôn mặt: Morphing truyền thống là phép nội suy hình học đơn giản giữa hai hình ảnh. Deepfake sử dụng trích xuất đặc trưng để hiểu cấu trúc cơ bản của khuôn mặt, cho phép chuyển động và xoay linh hoạt mà morphing đơn giản không thể đạt được.