Generative AI

AI tạo sinh là nhánh của trí tuệ nhân tạo (AI), trong đó các model học phân phối xác suất của dữ liệu huấn luyện rồi lấy mẫu dữ liệu mới từ phân phối đó: văn bản, hình ảnh, âm thanh, video, code, cảnh 3D hoặc cấu trúc phân tử. Model phân biệt học p(label | input), tức xác suất của nhãn khi biết đầu vào, còn model tạo sinh học chính p(input) hoặc p(input | prompt), nhờ đó có thể tạo ra đầu vào chưa từng tồn tại. Thuật ngữ này trở nên phổ biến trong đời sống sau khi OpenAI phát hành ChatGPT vào ngày 30 tháng 11 năm 2022, nhưng các phương pháp này đã có từ trước: Diederik Kingma và Max Welling giới thiệu bộ mã hóa tự động biến phân vào năm 2013, còn Ian Goodfellow và các cộng sự giới thiệu mạng đối kháng tạo sinh vào năm 2014.

Cách model tạo sinh hoạt động#

Ngày nay, bốn họ model học sâu tạo ra phần lớn nội dung AI tạo sinh, và mọi model ngôn ngữ lớn (LLM) theo kiểu GPT đều thuộc họ đầu tiên:

• Transformer tự hồi quy: Tạo một chuỗi từng token một, mỗi token được điều kiện hóa dựa trên toàn bộ nội dung đã viết trước đó; dùng cho văn bản, code, giọng nói và hình ảnh đã token hóa.
• Model khuếch tán: Thêm nhiễu vào mẫu huấn luyện rồi học cách loại bỏ nhiễu từng bước, do đó quá trình tạo bắt đầu từ nhiễu thuần và khử nhiễu để tạo thành một mẫu. Stable Diffusion, phát hành tháng 8 năm 2022, thực hiện quy trình này trong không gian latent nén.
• Mạng đối kháng tạo sinh (GAN): Huấn luyện một bộ sinh đối đầu với bộ phân biệt, bộ phân biệt cố gắng nhận biết mẫu thật và mẫu được tạo; nhờ đó bộ sinh tạo ra đầu ra chân thực trong một lượt truyền xuôi.
• Bộ mã hóa tự động biến phân (VAE): Mã hóa dữ liệu vào không gian latent có phân phối đã biết rồi giải mã các mẫu được lấy từ không gian đó. Model khuếch tán latent dùng VAE để nén hình ảnh trước khi khử nhiễu.

Ý tưởng nền tảng có thể trình bày chỉ trong vài dòng. Model hỗn hợp Gaussian học phân phối của 150 bông hoa trong tập dữ liệu Iris rồi lấy mẫu các bông hoa mới; bộ phân loại phân biệt được huấn luyện trên cùng dữ liệu sẽ gán nhãn cho chúng:

from sklearn.datasets import load_iris
from sklearn.linear_model import LogisticRegression
from sklearn.mixture import GaussianMixture

iris = load_iris()  # 150 bông hoa: chiều dài và chiều rộng của đài hoa và cánh hoa, tính bằng cm

# Model phân biệt: học p(species | measurements), nên chỉ có thể gán nhãn cho hoa
classifier = LogisticRegression(max_iter=1000).fit(iris.data, iris.target)

# Model tạo sinh: học chính p(measurements), nên có thể lấy mẫu hoa mới
generator = GaussianMixture(n_components=3, random_state=0).fit(iris.data)
new_flowers, _ = generator.sample(3)

# Model phân biệt gán nhãn cho các mẫu được tạo
for flower, species in zip(new_flowers.round(1), classifier.predict(new_flowers)):
    print(flower, iris.target_names[species])

Ba bông hoa được lấy mẫu, chẳng hạn một bông có đài hoa dài 4.7 cm và cánh hoa dài 1.4 cm, chưa từng được đo, nhưng bộ phân loại vẫn gán chúng lần lượt vào các loài versicolor, setosa và virginica, vì ba cụm của hỗn hợp Gaussian tương ứng với ba loài. Bộ tạo văn bản hoặc hình ảnh thay ba phân phối Gaussian bằng một mạng neural có hàng tỷ tham số, đồng thời thay các phép đo bằng token hoặc pixel.

Kết hợp model tạo sinh và model phân biệt#

Phân loại ảnh và phát hiện đối tượng là các tác vụ phân biệt: YOLO26 ánh xạ ảnh thành bounding box và class nhưng không thể tạo ảnh. Hai loại model thường hoạt động nối tiếp nhau. Tính năng gán nhãn thông minh theo class prompt của Ultralytics Platform dùng các mô hình thị giác-ngôn ngữ (VLM) tạo sinh, với Moondream 3.1 làm model mặc định, để vẽ bounding box cho tên class trong dataset; các bounding box đã được kiểm duyệt này trở thành nhãn dùng để huấn luyện bộ phát hiện YOLO26.

Các bộ tạo sinh cũng tạo dữ liệu tổng hợp cho những sự kiện hiếm khó hoặc nguy hiểm khi chụp ảnh, chẳng hạn lỗi bất thường hoặc mối nguy trên đường; các pipeline tạo dữ liệu tổng hợp trộn những hình ảnh này với hình ảnh thật để huấn luyện. Chiều ngược lại cũng phổ biến: bộ phát hiện và bộ phân loại chấm điểm chất lượng hình ảnh được tạo hoặc đánh dấu nội dung không an toàn.

Ứng dụng#

• Tạo văn bản: Trợ lý trò chuyện, tóm tắt và dịch thuật chạy trên LLM; trợ lý lập trình viết và kiểm thử phần mềm dựa trên mô tả.
• Từ văn bản sang hình ảnh: Các model như Stable Diffusion tạo hình ảnh từ prompt; cùng những model đó cũng có thể lấp đầy hoặc thay thế các vùng được tạo mask trong ảnh.
• Từ văn bản sang video: Các model như Sora của OpenAI, được giới thiệu bản xem trước vào tháng 2 năm 2024, tạo clip video từ mô tả.
• Cấu trúc phân tử: AlphaFold 3 của Google DeepMind và Isomorphic Labs, công bố tháng 5 năm 2024, dự đoán cấu trúc của các phức hợp protein bằng một module dựa trên khuếch tán để tạo tọa độ nguyên tử.

Rủi ro và giới hạn#

Các bộ tạo ngôn ngữ ảo giác, tạo ra phát biểu trôi chảy nhưng sai sự thật; bộ tạo hình ảnh và giọng nói hỗ trợ tạo deepfake; còn việc huấn luyện trên dữ liệu web đặt ra các câu hỏi về bản quyền và sự đồng thuận. Đóng dấu bản quyền AI và thông tin xác thực nội dung C2PA đánh dấu nội dung đa phương tiện được tạo để có thể nhận diện về sau. Nội dung được tạo cũng quay trở lại dữ liệu huấn luyện: Ilia Shumailov và các cộng sự đã chứng minh trong Lời nguyền đệ quy, công bố trên Nature năm 2024, rằng các model được huấn luyện lặp đi lặp lại trên đầu ra của chính mình sẽ mất đi các phần hiếm ở đuôi của phân phối ban đầu; họ gọi hiện tượng này là sụp đổ model.