Small Language Models (SLMs)

Các mô hình ngôn ngữ nhỏ (SLM) là các mô hình trí tuệ nhân tạo được tinh gọn, được thiết kế để hiểu và tạo ngôn ngữ con người một cách hiệu quả. Không giống như các đối tác lớn hơn, SLM thường có từ vài triệu đến khoảng 15 tỷ tham số, cho phép chúng chạy cục bộ trên thiết bị biên thay vì yêu cầu cơ sở hạ tầng điện toán đám mây khổng lồ. Bằng cách vận hành cục bộ, các mô hình này cung cấp khả năng xử lý nhanh hơn, tăng cường quyền riêng tư của người dùng và giảm đáng kể chi phí triển khai.

Link to this sectionPhân biệt các thuật ngữ chính#

Để hiểu rõ hơn về bối cảnh AI, việc phân biệt SLM với các công nghệ liên quan là rất hữu ích:

• SLM so với Mô hình ngôn ngữ lớn (LLM): Trong khi các LLM chứa hàng trăm tỷ tham số và đòi hỏi tài nguyên máy chủ lớn, các SLM lại được tối ưu hóa cao. Điều này cho phép chúng hoạt động với độ trễ suy luận tối thiểu, khiến chúng trở nên lý tưởng cho các ứng dụng chuyên biệt theo từng lĩnh vực mà không cần đến quy mô khổng lồ.
• SLM so với Mô hình thị giác-ngôn ngữ (VLM): SLM tập trung chủ yếu vào các tác vụ xử lý ngôn ngữ tự nhiên. Ngược lại, VLM có thể hiểu cả văn bản và hình ảnh một cách tự nhiên. Tuy nhiên, nhiều nhà phát triển hiện nay kết hợp SLM với các mô hình thị giác tốc độ cao để tạo ra các hệ thống đa phương thức gọn nhẹ.

Link to this sectionCác ứng dụng trong thực tế#

Các mô hình ngôn ngữ nhỏ đang nhanh chóng chuyển đổi các ngành công nghiệp bằng cách đưa trí tuệ tiên tiến trực tiếp đến các thiết bị điện tử tiêu dùng và mạng lưới doanh nghiệp.

• Trợ lý ảo trên thiết bị: Điện thoại thông minh và thiết bị IoT hiện đại tận dụng SLM để xử lý các lệnh thoại tại chỗ. Điều này đảm bảo phản hồi theo thời gian thực và giữ dữ liệu nhạy cảm trên phần cứng. Các mô hình hiện đại như Phi-3 của Microsoft và OpenELM của Apple đang tiên phong trong cuộc cách mạng trên thiết bị này.
• Chatbot chuyên biệt theo lĩnh vực: Các doanh nghiệp triển khai các SLM đã được tinh chỉnh cao độ để hỗ trợ khách hàng tự động. Bằng cách kết hợp các mô hình nhỏ gọn này với Truy xuất tăng cường thế hệ (RAG), các công ty có thể truy vấn cơ sở dữ liệu nội bộ một cách an toàn và giải quyết các vấn đề mà không cần dựa vào các API của bên thứ ba đắt đỏ.
• Điện toán biên trong sản xuất: Trong các cơ sở sản xuất thông minh, SLM hỗ trợ các kỹ thuật viên bằng cách tóm tắt nhanh chóng các hướng dẫn sử dụng thiết bị phức tạp. Khi kết hợp với các mô hình phát hiện đối tượng thời gian thực, các hệ thống này phân tích các lỗi trực quan và tạo ra các báo cáo chẩn đoán bằng văn bản đơn giản ngay tại xưởng sản xuất.

Link to this sectionTriển khai SLM trong các quy trình làm việc hiện đại#

Những đột phá gần đây trong năm 2024 và 2025 đã chứng minh rằng dữ liệu huấn luyện chất lượng cao có thể mang lại hiệu suất sánh ngang với các mô hình khổng lồ từ những năm trước. Các đổi mới như Gemma của Google và Llama 3 8B của Meta cho thấy các kiến trúc nhỏ hơn đã trở nên mạnh mẽ như thế nào.

Khi xây dựng các giải pháp AI toàn diện, các nhà phát triển thường sử dụng Python để tích hợp khả năng suy luận ngôn ngữ của một SLM với độ chính xác về thị giác của các công cụ có trên Nền tảng Ultralytics. Ví dụ: một SLM trên thiết bị có thể xử lý một lệnh nói để bắt đầu một tác vụ thị giác máy tính. Đoạn mã ngắn gọn sau đây minh họa cách tải một mô hình nhẹ như Ultralytics YOLO26 để theo dõi đối tượng, một hoạt động rất phù hợp với cùng loại phần cứng biên đang chạy SLM:

from ultralytics import YOLO

# Load the highly efficient YOLO26 nano model, suitable for edge devices
model = YOLO("yolo26n.pt")

# Run real-time object tracking on a local video stream
results = model.track(source="video.mp4", show=True, tracker="botsort.yaml")

Bằng cách ưu tiên thực thi cục bộ, các kỹ sư giảm đáng kể yêu cầu về băng thông và chi phí vận hành. Khi ngành công nghiệp tiếp tục phát triển các công nghệ Edge AI, sự kết hợp mạnh mẽ giữa thị giác máy tính được tinh gọn và các Mô hình ngôn ngữ nhỏ hiệu quả sẽ thúc đẩy thế hệ hệ thống tự hành, thông minh tiếp theo.