Docker

Docker là một nền tảng mã nguồn mở cho phép các lập trình viên tự động hóa việc triển khai, mở rộng và quản lý các ứng dụng sử dụng công nghệ container hóa. Trong bối cảnh trí tuệ nhân tạo và học máy, Docker hoạt động như một đơn vị phần mềm tiêu chuẩn đóng gói mã nguồn và tất cả các phần phụ thuộc của nó—như các thư viện, công cụ hệ thống và cài đặt—để ứng dụng chạy nhanh chóng và đáng tin cậy từ môi trường điện toán này sang môi trường điện toán khác. Điều này loại bỏ vấn đề phổ biến "nó chạy trên máy của tôi", đảm bảo rằng một neural network được huấn luyện trên máy tính xách tay của nhà nghiên cứu hoạt động hoàn toàn giống nhau khi được triển khai lên một máy chủ đám mây lớn hoặc một thiết bị biên.

Tại sao Docker quan trọng đối với AI và học máy#

Các machine learning operations (MLOps) hiện đại phụ thuộc rất nhiều vào khả năng tái tạo và tính di động. Một dự án AI thường bao gồm một stack phần mềm phức tạp, bao gồm các phiên bản cụ thể của Python, trình điều khiển CUDA cho GPU acceleration, và các framework học sâu như PyTorch hoặc TensorFlow. Việc quản lý những thứ này thủ công trên các nhóm và cơ sở hạ tầng khác nhau rất dễ xảy ra lỗi.

Docker đơn giản hóa quá trình này bằng cách tạo ra các container nhẹ, độc lập. Không giống như các máy ảo (VM) truyền thống yêu cầu một hệ điều hành đầy đủ cho mỗi thể hiện, các container chia sẻ nhân HĐH của máy chủ nhưng chạy trong các không gian người dùng cô lập. Điều này giúp chúng tiết kiệm tài nguyên hơn đáng kể và khởi động nhanh hơn, điều rất quan trọng khi mở rộng quy mô cơ sở hạ tầng model serving hoặc chạy các tác vụ huấn luyện phân tán.

Các ứng dụng trong thực tế#

Docker xuất hiện khắp mọi nơi trong vòng đời AI, từ giai đoạn thử nghiệm ban đầu đến triển khai thực tế.

1. Môi trường huấn luyện nhất quán: Một nhóm khoa học dữ liệu có thể sử dụng các hình ảnh Docker để chia sẻ một môi trường phát triển đồng bộ. Ví dụ, một nhà nghiên cứu làm việc về object detection có thể kéo một hình ảnh được xây dựng sẵn chứa tất cả các trình điều khiển và thư viện cần thiết. Điều này đảm bảo rằng khi họ huấn luyện một mô hình YOLO26, kết quả có thể được tái tạo bởi các đồng nghiệp của họ, bất kể sự khác biệt về phần cứng cơ bản.

2. Triển khai Edge AI: Trong smart city surveillance, các mô hình được cập nhật cần phải được đẩy đến hàng nghìn thiết bị biên, chẳng hạn như camera giao thông hoặc máydrone. Các container Docker cho phép các kỹ sư đóng gói một phiên bản mô hình mới và triển khai nó qua mạng không dây. Vì container bao gồm thời gian chạy suy luận, quá trình cập nhật diễn ra liền mạch và không ảnh hưởng đến hệ điều hành cốt lõi của thiết bị.

Docker so với Kubernetes so với máy ảo#

Việc phân biệt Docker với các công nghệ liên quan sẽ giúp hiểu rõ vai trò cụ thể của nó:

• Docker so với máy ảo (VMs): Máy ảo ảo hóa phần cứng, nghĩa là mỗi VM chạy một hệ điều hành đầy đủ (như Windows hoặc Linux) trên hypervisor. Việc này tiêu tốn đáng kể bộ nhớ và CPU. Docker ảo hóa hệ điều hành, giúp các container nhỏ gọn và nhanh hơn nhiều so với các máy ảo.
• Docker so với Kubernetes: Đây là các công nghệ bổ sung cho nhau chứ không phải cạnh tranh. Docker là công cụ được sử dụng để tạo và chạy các container riêng lẻ. Kubernetes là một nền tảng điều phối container quản lý các cụm container Docker, xử lý các tác vụ như tự động mở rộng, cân bằng tải và tự phục hồi trong các môi trường cloud computing quy mô lớn.

Ví dụ: Chạy suy luận trong một container#

Ví dụ sau đây minh họa một tập lệnh Python có thể trông như thế nào bên trong một container Docker được thiết kế cho thị giác máy tính. Tập lệnh này sử dụng gói ultralytics để tải một mô hình và thực hiện suy luận. Môi trường container đảm bảo rằng các phần phụ thuộc chính xác (như opencv-python và torch) đã có sẵn.

from ultralytics import YOLO

# Load the YOLO26 model (weights are typically included in the Docker image)
model = YOLO("yolo26n.pt")

# Perform inference on an image source
# In a containerized microservice, this might process incoming API requests
results = model.predict("https://ultralytics.com/images/bus.jpg")

# Log the detection results
print(f"Detected {len(results[0].boxes)} objects in the image.")

Tích hợp Docker vào quy trình làm việc của bạn#

Để bắt đầu với việc container hóa, các lập trình viên thường định nghĩa một Dockerfile, là một tài liệu văn bản chứa tất cả các lệnh để lắp ráp một hình ảnh. Sau khi được xây dựng, những hình ảnh này có thể được lưu trữ trong các registry như Docker Hub hoặc NVIDIA NGC Catalog, cung cấp các container được tối ưu hóa cho GPU.

Đối với những ai muốn hợp lý hóa quy trình huấn luyện và triển khai mà không cần quản lý thủ công các Dockerfile, Ultralytics Platform cung cấp các công cụ tích hợp xử lý độ phức tạp của môi trường đám mây. Điều này cho phép người dùng tập trung vào việc cải thiện model accuracy thay vì cấu hình cơ sở hạ tầng. Hơn nữa, bạn có thể khám phá Docker Quickstart Guide của chúng tôi để tìm hiểu cách chạy các mô hình Ultralytics trong container ngay lập tức.