Docker

Docker là một nền tảng mã nguồn mở cho phép các nhà phát triển tự động hóa việc triển khai, mở rộng và quản lý các ứng dụng bằng cách sử dụng công nghệ container. Trong bối cảnh trí tuệ nhân tạo và học máy, Docker đóng vai trò là một đơn vị phần mềm tiêu chuẩn hóa, đóng gói mã nguồn và tất cả các phụ thuộc đi kèm—chẳng hạn như thư viện, công cụ hệ thống và cấu hình—giúp ứng dụng chạy nhanh chóng và đáng tin cậy giữa các môi trường tính toán khác nhau. Điều này loại bỏ vấn đề phổ biến "nó chạy được trên máy của tôi", đảm bảo rằng một mạng thần kinh được huấn luyện trên máy tính xách tay của nhà nghiên cứu sẽ hoạt động chính xác tương tự khi triển khai trên máy chủ đám mây quy mô lớn hoặc một thiết bị biên.

Link to this sectionTại sao Docker quan trọng đối với AI và học máy#

Quy trình vận hành học máy (MLOps) hiện đại phụ thuộc rất nhiều vào khả năng tái lập và tính di động. Một dự án AI thường bao gồm một stack phần mềm phức tạp, bao gồm các phiên bản cụ thể của Python, driver CUDA cho tăng tốc GPU, và các framework học sâu như PyTorch hoặc TensorFlow. Việc quản lý thủ công những thành phần này giữa các nhóm và cơ sở hạ tầng khác nhau rất dễ xảy ra lỗi.

Docker đơn giản hóa quá trình này bằng cách tạo ra các container nhẹ, độc lập. Không giống như các máy ảo (VM) truyền thống đòi hỏi một hệ điều hành đầy đủ cho mỗi instance, các container chia sẻ kernel hệ điều hành của máy chủ nhưng chạy trong các không gian người dùng biệt lập. Điều này giúp chúng tiết kiệm tài nguyên hơn đáng kể và khởi động nhanh hơn, vốn là yếu tố quan trọng khi mở rộng quy mô cơ sở hạ tầng phục vụ mô hình (model serving) hoặc chạy các tác vụ huấn luyện phân tán.

Link to this sectionCác ứng dụng trong thực tế#

Docker xuất hiện khắp mọi nơi trong vòng đời AI, từ giai đoạn thử nghiệm ban đầu đến triển khai thực tế.

1. Môi trường huấn luyện nhất quán: Một nhóm khoa học dữ liệu có thể sử dụng Docker image để chia sẻ một môi trường phát triển thống nhất. Ví dụ, một nhà nghiên cứu đang làm việc về phát hiện đối tượng có thể pull một image đã được xây dựng sẵn bao gồm tất cả các driver và thư viện cần thiết. Điều này đảm bảo rằng khi họ huấn luyện một mô hình YOLO26, kết quả có thể tái lập bởi các đồng nghiệp bất kể sự khác biệt về phần cứng bên dưới.

2. Triển khai Edge AI: Trong giám sát thành phố thông minh, các mô hình cập nhật cần được đẩy đến hàng ngàn thiết bị biên như camera giao thông hoặc drone. Các Docker container cho phép các kỹ sư đóng gói một phiên bản mô hình mới và triển khai qua mạng (OTA). Vì container bao gồm runtime cho việc suy luận, quá trình cập nhật diễn ra liền mạch và không ảnh hưởng đến hệ điều hành cốt lõi của thiết bị.

Link to this sectionDocker so với Kubernetes so với máy ảo#

Việc phân biệt Docker với các công nghệ liên quan sẽ giúp hiểu rõ vai trò cụ thể của nó:

• Docker so với máy ảo (VMs): Máy ảo ảo hóa phần cứng, nghĩa là mỗi VM chạy một hệ điều hành đầy đủ (như Windows hoặc Linux) trên hypervisor. Việc này tiêu tốn đáng kể bộ nhớ và CPU. Docker ảo hóa hệ điều hành, giúp các container nhỏ gọn và nhanh hơn nhiều so với các máy ảo.
• Docker so với Kubernetes: Đây là các công nghệ bổ trợ, không phải cạnh tranh. Docker là công cụ được sử dụng để tạo và chạy các container riêng lẻ. Kubernetes là một nền tảng điều phối container quản lý các cụm Docker container, xử lý các tác vụ như tự động mở rộng (auto-scaling), cân bằng tải và tự phục hồi trong các môi trường điện toán đám mây quy mô lớn.

Link to this sectionVí dụ: Chạy suy luận trong một container#

Ví dụ sau đây minh họa cách một script Python có thể trông như thế nào bên trong một Docker container được thiết kế cho thị giác máy tính. Script này sử dụng gói ultralytics để load mô hình và thực hiện suy luận. Môi trường container đảm bảo rằng các phụ thuộc cần thiết (như opencv-python và torch) đã có sẵn.

from ultralytics import YOLO

# Load the YOLO26 model (weights are typically included in the Docker image)
model = YOLO("yolo26n.pt")

# Perform inference on an image source
# In a containerized microservice, this might process incoming API requests
results = model.predict("https://ultralytics.com/images/bus.jpg")

# Log the detection results
print(f"Detected {len(results[0].boxes)} objects in the image.")

Link to this sectionTích hợp Docker vào quy trình làm việc của bạn#

Để bắt đầu với containerization, các nhà phát triển thường xác định một Dockerfile, đây là một tài liệu văn bản chứa tất cả các lệnh để tạo ra một image. Sau khi được xây dựng, các image này có thể được lưu trữ trong các registry như Docker Hub hoặc NVIDIA NGC Catalog, nơi cung cấp các container đã được tối ưu hóa cho GPU.

Đối với những ai muốn tinh giản quy trình huấn luyện và triển khai mà không cần quản lý thủ công các Dockerfile, Ultralytics Platform cung cấp các công cụ tích hợp xử lý sự phức tạp của môi trường đám mây. Điều này cho phép người dùng tập trung vào việc cải thiện độ chính xác của mô hình thay vì cấu hình cơ sở hạ tầng. Hơn nữa, bạn có thể khám phá Hướng dẫn bắt đầu nhanh với Docker để tìm hiểu cách chạy các mô hình Ultralytics trong container ngay lập tức.