Containerization
了解容器化如何简化 AI 部署。发现如何使用 Docker 和 Kubernetes 在任何环境中一致地运行 Ultralytics YOLO26。
容器化是一种软件部署策略，它将应用程序的源代码与其库、依赖项和配置文件捆绑在一起，形成一个轻量级的可执行单元，即容器。这种方法将软件与底层基础设施抽象开来，确保应用程序能够在不同的计算环境中始终如一地运行，从开发者的本地笔记本电脑到大型云计算集群皆是如此。在机器学习 (ML) 环境中，容器化通过封装训练和运行神经网络所需的复杂环境，解决了臭名昭著的“在我的机器上能运行”的问题。
Link to this section为什么容器化对人工智能至关重要#
对于数据科学家和机器学习工程师来说，管理环境是一项重大挑战。不同的项目可能需要相互冲突的 Python 版本、CUDA 驱动程序或诸如 PyTorch 之类的库。容器化通过创建隔离且不可变的环境消除了这些冲突。
- 可移植性： 容器化的计算机视觉应用程序可以在开发、测试和生产环境之间无缝迁移。这确保了在工作站上训练的模型在部署到服务器时表现完全一致。
- 效率： 与传统方法不同，容器共享宿主系统的操作系统 (OS) 内核，使其极其轻量。这种高密度特性允许更好的资源利用率，这对于降低实时应用中的推理延迟至关重要。
- 可扩展性： 现代编排工具可以根据流量需求快速启动或关闭容器实例，从而确保高需求服务的可扩展性。
Link to this section容器化与虚拟机对比#
区分容器与虚拟机 (VM) 非常重要。虚拟机模拟了整个硬件堆栈，包括完整的客户操作系统，这会导致显著的资源开销和较慢的启动时间。相比之下，容器化是对操作系统进行虚拟化，允许多个应用程序作为隔离进程在单个共享内核上运行。这种减少的占用空间使得容器成为边缘 AI 场景（如物联网设备或无人机）的首选，因为这些场景的硬件资源受限。若需更深入的技术对比，请参阅红帽关于容器与虚拟机的指南。
Link to this section核心技术#
以下几项关键技术构成了现代容器生态系统的骨干：
- Docker： 构建、运行和管理容器最广泛使用的平台。Ultralytics 提供了一份 Docker 快速入门指南，帮助用户无需手动设置环境即可轻松部署目标检测模型。
- Kubernetes： 一个用于自动化部署、扩展和管理容器化应用程序的开源系统。它对于在企业级 MLOps 流水线中管理大型容器集群至关重要。
- 容器注册表： 诸如 NVIDIA NGC Catalog 之类的服务用于存储和分发容器镜像，这些镜像通常针对特定任务进行了预优化，例如 GPU 加速的模型训练。
- 开放容器倡议 (OCI)： 一项行业标准，确保容器格式和运行时在不同平台间兼容，由开放容器倡议推动。
Link to this section实际应用#
容器化在现代 AI 工作流中无处不在，它实现了快速迭代和可靠的部署。
-
智能城市监控： 市政部门利用联网摄像头部署交通管理系统。通过使用容器，工程师可以同时向成千上万的边缘设备推送软件更新。如果新的目标检测模型提高了准确性，容器可以通过无线方式更新，确保整个城市基础设施性能的一致性。
-
可重复研究： 在学术和工业研究中，复现结果至关重要。通过发布包含确切训练数据处理脚本和模型架构的 Docker 镜像，研究人员可以确保同行评审者能够精确地重复实验。这对于验证深度学习 (DL) 的进展至关重要。
Link to this section示例：容器中的推理#
在为 AI 应用程序创建容器时，通常会包含一个脚本来处理模型服务。以下 Python 代码片段演示了使用 ultralytics 包的简单推理工作流。该脚本将在容器内部运行，并利用环境中预先安装的依赖项。
from ultralytics import YOLO
# Load the YOLO26 model (weights are usually baked into the container image)
# YOLO26 is the latest state-of-the-art model for real-time tasks
model = YOLO("yolo26n.pt")
# Perform inference on an image URL
# In production, this might handle API requests or video streams
results = model.predict("https://ultralytics.com/images/bus.jpg")
# Print the number of detected objects to the logs
print(f"Inference complete. Detected {len(results[0].boxes)} objects.")通过将此逻辑封装在容器内，开发者可以确保 Python 版本和库版本保持不变，从而防止生产环境中出现意外故障。为了简化模型管理、训练和部署，许多团队使用 Ultralytics Platform，它原生支持基于容器的工作流。如需了解更多部署策略，请探索 AWS 容器使用案例指南。
