Large Language Model (LLM)
Khám phá các kiến thức nền tảng về Mô hình Ngôn ngữ Lớn (LLMs). Tìm hiểu về kiến trúc Transformer, quá trình tokenization và cách kết hợp LLM với Ultralytics YOLO26.
Mô hình ngôn ngữ lớn (LLM) là một dạng Trí tuệ nhân tạo (AI) tiên tiến được huấn luyện trên các tập dữ liệu khổng lồ để hiểu, tạo và thao tác với ngôn ngữ của con người. Những model này thể hiện một bước tiến đáng kể của Học sâu (DL), sử dụng các mạng nơ-ron với hàng tỷ tham số để nắm bắt các mẫu ngôn ngữ, ngữ pháp và mối quan hệ ngữ nghĩa phức tạp. Về cốt lõi, hầu hết LLM hiện đại đều dựa trên kiến trúc Transformer, cho phép chúng xử lý các chuỗi dữ liệu song song thay vì tuần tự. Kiến trúc này sử dụng cơ chế self-attention, giúp model đánh giá mức độ quan trọng của các từ khác nhau trong một câu so với nhau, bất kể khoảng cách giữa chúng trong văn bản.
Các cơ chế cốt lõi của LLM#
Chức năng của một LLM bắt đầu với quá trình tokenization, trong đó văn bản thô được chia thành các đơn vị nhỏ hơn gọi là token (từ hoặc từ con). Trong giai đoạn huấn luyện model, hệ thống phân tích hàng petabyte văn bản từ Internet, sách và bài viết. Hệ thống thực hiện học không giám sát để dự đoán token tiếp theo trong một chuỗi, qua đó học cấu trúc thống kê của ngôn ngữ.
Sau giai đoạn huấn luyện ban đầu này, các developer thường áp dụng fine-tuning để chuyên biệt hóa model cho những tác vụ riêng biệt, chẳng hạn như phân tích y khoa hoặc hỗ trợ lập trình. Khả năng thích ứng này là lý do các tổ chức như Stanford Center for Research on Foundation Models phân loại chúng là "foundation model"—những nền tảng tổng quát để xây dựng các ứng dụng cụ thể.
Các ứng dụng trong thực tế#
LLM đã vượt ra ngoài phạm vi nghiên cứu lý thuyết để đi vào các ứng dụng thực tiễn, có tác động lớn trong nhiều ngành:
- Trợ lý ảo thông minh: Dịch vụ khách hàng hiện đại phụ thuộc nhiều vào chatbot được cung cấp bởi LLM. Không giống các hệ thống dựa trên luật trước đây, những tác tử này có thể xử lý các truy vấn có sắc thái phức tạp. Để cải thiện độ chính xác và giảm hallucination, các developer tích hợp Sinh tăng cường truy xuất (RAG), cho phép model tham chiếu tài liệu bên ngoài, cập nhật của công ty trước khi trả lời.
- Hệ thống thị giác-ngôn ngữ đa phương thức: Biên giới mới của AI kết nối văn bản với dữ liệu hình ảnh. Model thị giác-ngôn ngữ (VLM) cho phép người dùng truy vấn hình ảnh bằng ngôn ngữ tự nhiên. Chẳng hạn, việc kết hợp giao diện ngôn ngữ với một detector mạnh như YOLO26 cho phép các hệ thống xác định và mô tả đối tượng trong luồng video thời gian thực dựa trên lệnh thoại.
Kết nối văn bản và thị giác bằng code#
Trong khi LLM tiêu chuẩn xử lý văn bản, ngành đang chuyển dịch sang AI đa phương thức. Ví dụ sau minh họa cách các prompt ngôn ngữ có thể điều khiển các tác vụ thị giác máy tính bằng YOLO-World, một model hiểu các mô tả bằng văn bản để thực hiện phát hiện với từ vựng mở.
from ultralytics import YOLOWorld
# Load a model capable of understanding natural language prompts
model = YOLOWorld("yolov8s-world.pt")
# Define custom classes using text descriptions rather than fixed labels
model.set_classes(["person wearing a red helmet", "blue industrial machine"])
# Run inference to detect these specific text-defined objects
results = model.predict("https://ultralytics.com/images/bus.jpg")
# Show results
results[0].show()Phân biệt các khái niệm liên quan#
Điều quan trọng là phải phân biệt LLM với các thuật ngữ rộng hơn hoặc song song:
- LLM so với Xử lý ngôn ngữ tự nhiên (NLP): NLP là lĩnh vực học thuật bao quát, nghiên cứu sự tương tác giữa máy tính và ngôn ngữ con người. LLM là một công cụ hoặc công nghệ cụ thể được sử dụng trong lĩnh vực đó để đạt được các kết quả tiên tiến nhất.
- LLM so với AI tạo sinh: AI tạo sinh là một nhóm bao gồm mọi AI có khả năng tạo nội dung mới. LLM là tập con dựa trên văn bản của nhóm này, trong khi các model như Stable Diffusion đại diện cho tập con tạo ảnh.
Thách thức và Triển vọng tương lai#
Bất chấp các khả năng của mình, LLM phải đối mặt với những thách thức liên quan đến thiên kiến trong AI, vì chúng có thể vô tình tái tạo các định kiến tồn tại trong dữ liệu huấn luyện. Hơn nữa, năng lực tính toán khổng lồ cần thiết để huấn luyện các model như GPT-4 hoặc Google Gemini làm dấy lên những lo ngại về mức tiêu thụ năng lượng. Nghiên cứu hiện đang tập trung vào lượng tử hóa model để giúp các hệ thống này đủ hiệu quả nhằm chạy trên phần cứng biên.
Để tìm hiểu sâu hơn về khía cạnh kỹ thuật, bài báo nền tảng Attention Is All You Need trình bày cơ sở lý thuyết cho Transformer. Bạn cũng có thể tìm hiểu cách NVIDIA tối ưu hóa phần cứng cho các khối lượng công việc khổng lồ này.
