Foundation Model

Model nền tảng là một model học máy lớn, được huấn luyện trên dữ liệu đa dạng ở quy mô lớn và có thể điều chỉnh cho nhiều tác vụ hạ nguồn. Các nhà nghiên cứu Stanford giới thiệu thuật ngữ này trong báo cáo năm 2021 Cơ hội và rủi ro của các model nền tảng, chọn từ "nền tảng" để mô tả các model giữ vai trò cốt lõi trong nhiều ứng dụng nhưng chưa hoàn thiện nếu đứng độc lập. Các model trước đây thường được huấn luyện cho một tác vụ trên một tập dữ liệu có gán nhãn. Model nền tảng học các quy luật tổng quát một lần trong quá trình tiền huấn luyện tốn kém, rồi trở thành điểm khởi đầu cho chatbot, tìm kiếm, dịch thuật, phân loại ảnh, phân đoạn và nhiều ứng dụng khác do các nhóm không tự huấn luyện model như vậy xây dựng. Mô hình ngôn ngữ lớn (LLM) như GPT, Claude, Gemini và Llama là model nền tảng, cũng như các model thị giác như CLIP, DINOv3 và Segment Anything Model (SAM) của Meta.

Cách model nền tảng hoạt động#

Tiền huấn luyện sử dụng các mục tiêu không cần nhãn do con người gán, nhờ đó tập huấn luyện có thể mở rộng đến hàng nghìn tỷ từ hoặc hàng tỷ ảnh. Model ngôn ngữ học bằng cách dự đoán token tiếp theo; bộ mã hóa thị giác học bằng các phương pháp học tự giám sát như mô hình hóa ảnh bị che và tự chưng cất; còn model thị giác-ngôn ngữ học bằng học tương phản trên các cặp ảnh-chú thích. Hầu hết model nền tảng đều dùng kiến trúc Transformer, và hiệu năng cải thiện theo quy luật dựa trên số tham số, dữ liệu và năng lực tính toán như được mô tả trong các quy luật mở rộng quy mô.

Sau tiền huấn luyện, cùng một model được điều chỉnh cho từng tác vụ bằng một trong nhiều cách. Prompt định hướng model bằng chỉ dẫn hoặc ví dụ mà không cần huấn luyện; fine-tuning hoặc fine-tuning hiệu quả tham số (PEFT) cập nhật trọng số bằng dữ liệu tác vụ; còn một head nhỏ được huấn luyện trên embedding đóng băng sẽ biến model thành bộ phân loại hoặc bộ truy xuất:

Báo cáo nêu bật hai hệ quả của mô hình này. Tính chất xuất hiện nghĩa là các năng lực hình thành ở quy mô lớn dù không được huấn luyện trực tiếp, như khi GPT-3 học cách thực hiện tác vụ mới từ một vài ví dụ trong prompt. Tính đồng nhất hóa nghĩa là nhiều ứng dụng hiện được xây dựng dựa trên một số ít model, khiến lỗi và thiên kiến của model lan sang mọi thứ được điều chỉnh từ model đó. Các cơ quan quản lý hiện xử lý trực tiếp những model này: Đạo luật AI của EU gọi chúng là model AI đa dụng, và nghĩa vụ dành cho nhà cung cấp các model này được áp dụng từ ngày 2 tháng 8 năm 2025.

Model nền tảng trong thị giác máy tính#

Model nền tảng thị giác được huấn luyện trên dữ liệu lớn và đa dạng hơn nhiều so với bộ phát hiện chuyên biệt cho từng tác vụ. CLIP học từ 400 triệu cặp ảnh-chú thích và phân loại ảnh thành các danh mục chỉ được đặt tên bằng văn bản, làm cơ sở cho học zero-shot trong thị giác. DINOv3 của Meta tạo ra các đặc trưng đóng băng phục vụ ước tính độ sâu, phân đoạn và lập bản đồ vệ tinh bằng model 7 tỷ tham số được huấn luyện trên 1.7 tỷ ảnh không gán nhãn. SAM, được các tác giả mô tả là model nền tảng cho phân đoạn ảnh, được huấn luyện trên tập dữ liệu SA-1B gồm 11 triệu ảnh và 1.1 tỷ mask; model phân đoạn mọi đối tượng được chỉ định bằng điểm hoặc khung, còn SAM 3 bổ sung prompt văn bản để tìm mọi đối tượng thuộc khái niệm được nêu tên. Model thị giác-ngôn ngữ-hành động mở rộng phương pháp này sang robot học, ánh xạ ảnh camera và chỉ dẫn thành hành động của robot.

Ultralytics Platform dùng các model này để tăng tốc gán nhãn dữ liệu: trong gán nhãn thông minh, một cú nhấp yêu cầu SAM 2.1, SAM 3 hoặc SAM 3.1 tạo mask cho đối tượng; với dataset detection, các model được prompt theo lớp như SAM 3.1 Text và Grounding DINO tìm mọi đối tượng thuộc lớp dựa trên tên lớp. Bảng xếp hạng VLM so sánh độ chính xác tự động gán nhãn dataset detection thực tế của các model được prompt theo lớp và VLM tạo sinh. SAM 2.1 của Meta cũng chạy trong package Ultralytics Python, nơi prompt dạng hộp thay thế mọi bước huấn luyện dành riêng cho tác vụ:

from ultralytics import SAM

# SAM 2.1 của Meta, một model nền tảng phân đoạn, được sử dụng nguyên trạng mà không cần huấn luyện
model = SAM("sam2.1_b.pt")

# Prompt khung quanh chiếc xe buýt xác định tác vụ; model trả về mask của đối tượng đó
results = model("https://ultralytics.com/images/bus.jpg", bboxes=[22, 231, 805, 757])
result = results[0]
result.save(filename="sam_bus_mask.jpg")

Model nền tảng và các thuật ngữ liên quan#

• Mô hình ngôn ngữ lớn (LLM): Model nền tảng dành cho văn bản. Model nền tảng cũng bao gồm ảnh, video, âm thanh, dữ liệu dạng bảng và điều khiển robot.
• AI tạo sinh: Các hệ thống tạo văn bản, ảnh, âm thanh hoặc video. Nhiều hệ thống được xây dựng dựa trên model nền tảng; một số model nền tảng, như DINOv3 và SAM, tạo đặc trưng và mask thay vì nội dung mới.
• Học chuyển giao: Kỹ thuật tái sử dụng model đã tiền huấn luyện cho một tác vụ mới. Model nền tảng là model đã tiền huấn luyện, được thiết kế để tái sử dụng theo cách này trên nhiều tác vụ; trong khi đó, model được huấn luyện cho một tác vụ với tập nhãn cố định, như bộ phát hiện đối tượng COCO có 80 lớp, chủ yếu chuyển giao được sang các tác vụ liên quan chặt chẽ.
• Các model AI tiên tiến: Những model nền tảng có năng lực cao nhất tại một thời điểm nhất định. Theo Đạo luật AI của EU, một model AI đa dụng được huấn luyện với hơn 10²⁵ phép toán dấu phẩy động được mặc định là có rủi ro hệ thống và phải tuân thủ các nghĩa vụ bổ sung.