FLOPs

FLOPs, hay Phép toán dấu phẩy động, là một metric tiêu chuẩn được sử dụng để đo độ phức tạp tính toán của một model machine learning. Cụ thể, metric này đếm số phép tính toán học—chủ yếu là phép cộng và phép nhân liên quan đến các số thập phân—mà một mạng neural phải thực hiện để xử lý một đầu vào đơn lẻ, chẳng hạn như hình ảnh hoặc câu. Trong lĩnh vực deep learning, FLOPs đóng vai trò là thước đo lý thuyết để ước tính mức độ "nặng" hoặc tốn kém về mặt tính toán của một model. Số FLOPs cao hơn thường cho thấy model phức tạp hơn và sẽ cần nhiều năng lực xử lý cùng năng lượng hơn để thực thi, trong khi số FLOPs thấp hơn cho thấy một kiến trúc nhẹ được thiết kế nhằm đạt hiệu quả.

Vai trò của FLOPs trong việc lựa chọn model#

Khi phát triển các ứng dụng trí tuệ nhân tạo, các kỹ sư thường phải cân bằng giữa độ chính xác và tốc độ. FLOPs đóng vai trò là chỉ báo thay thế không phụ thuộc phần cứng cho độ trễ inference, cho phép developer so sánh các kiến trúc khác nhau mà không cần benchmark chúng trên mọi thiết bị có thể. Metric này rất quan trọng khi lựa chọn model phù hợp cho các kịch bản triển khai cụ thể. Ví dụ, một nhà nghiên cứu chạy các thử nghiệm trên những server điện toán đám mây mạnh có thể ưu tiên độ chính xác hơn hiệu quả, sử dụng các model có FLOPs cao. Ngược lại, một kỹ sư xây dựng ứng dụng cho các thiết bị edge AI phải ưu tiên FLOPs thấp để đảm bảo ứng dụng hoạt động mượt mà trong giới hạn nghiêm ngặt về công suất và nhiệt.

Các ứng dụng trong thực tế#

Những tác động thực tế của FLOPs thể hiện rõ trong nhiều ngành công nghiệp, nơi tài nguyên tính toán là một yếu tố quan trọng.

• Drone tự hành: Trong các lĩnh vực như robotics nông nghiệp, drone được trang bị camera phân tích tình trạng cây trồng theo thời gian thực. Vì pin của drone có dung lượng giới hạn, từng phần công suất tiêu thụ đều rất quan trọng. Các kỹ sư đặc biệt lựa chọn những model có FLOPs thấp, chẳng hạn như các biến thể Nano của YOLO26, để giảm thiểu mức tiêu hao của bộ xử lý trên thiết bị, qua đó tối đa hóa thời gian bay và phạm vi hoạt động.
• Thực tế tăng cường trên thiết bị di động: Các ứng dụng smartphone sử dụng nhận dạng khuôn mặt cho mục đích bảo mật hoặc áp dụng bộ lọc AR phụ thuộc nhiều vào khả năng xử lý hiệu quả. Các ứng dụng này phải hoạt động mà không khiến thiết bị quá nhiệt hoặc bị giật. Developer sử dụng các ước tính FLOPs để lựa chọn những model nhẹ, phù hợp với năng lực của các chipset di động như dòng Snapdragon hoặc chip dòng A của Apple.

FLOPs so với FLOPS (Phép toán dấu phẩy động mỗi giây)#

Điều quan trọng là phải phân biệt "FLOPs" (số nhiều của FLOP) với "FLOPS" (viết hoa toàn bộ). Mặc dù trông gần như giống hệt nhau, chúng đo lường những đại lượng khác nhau. FLOPs ('s' viết thường) đề cập đến số lượng phép toán tổng cộng mà một model yêu cầu—đây là thước đo tĩnh về độ phức tạp. FLOPS ('S' viết hoa) là viết tắt của Phép toán dấu phẩy động mỗi giây và đo tốc độ hoặc năng lực hiệu năng của phần cứng, chẳng hạn như một GPU. Có thể hình dung FLOPs là quãng đường một chiếc xe cần đi (công việc phải thực hiện), còn FLOPS là tốc độ tối đa của chiếc xe (khả năng thực hiện công việc của phần cứng).

Đo FLOPs bằng Python#

Bạn có thể dễ dàng tính toán chi phí tính toán của một model Ultralytics bằng Python. Điều này đặc biệt hữu ích trong giai đoạn tối ưu hóa model để đảm bảo mạng neural của bạn nằm trong ngân sách phần cứng. Ví dụ sau đây minh họa cách tải một model YOLO26 và xác định FLOPs của model đó.

from ultralytics import YOLO
from ultralytics.utils.torch_utils import get_flops

# Load a lightweight YOLO26 model
model = YOLO("yolo26n.pt")

# Calculate and print the model's FLOPs (Billions of operations)
# This gives you a hardware-independent complexity metric
flops = get_flops(model)
print(f"Model FLOPs: {flops:.2f} Billion")

Giảm FLOPs để nâng cao hiệu quả#

Để giúp các model dễ triển khai hơn, các nhà nghiên cứu sử dụng một số kỹ thuật nhằm giảm FLOPs mà không làm suy giảm đáng kể độ chính xác. Pruning model bao gồm việc loại bỏ các kết nối ít quan trọng hơn trong mạng neural, qua đó làm mạng gọn nhẹ hơn. Một kỹ thuật khác là lượng tử hóa, giúp giảm độ chính xác của các số được sử dụng trong phép tính (ví dụ: từ số dấu phẩy động 32 bit xuống số nguyên 8 bit). Các công cụ có sẵn trên Ultralytics Platform giúp đơn giản hóa những quy trình tối ưu hóa này, tạo điều kiện dễ dàng hơn để triển khai các model hiệu quả lên những mục tiêu như TensorRT hoặc OpenVINO. Bằng cách hiểu và tối ưu hóa FLOPs, developer có thể xây dựng các hệ thống AI vừa mạnh mẽ vừa bền vững.