返回 Ultralytics 术语表
Scalability
探索可扩展性在 AI 中的重要性。了解 Ultralytics YOLO26 和 Ultralytics Platform 如何实现高效、高性能的模型部署。
可扩展性是指系统、网络或流程通过添加资源来处理不断增长的工作量的能力。在人工智能（AI）和机器学习（ML）的语境中，可扩展性描述了模型或基础设施在需求增加时维持性能水平的能力。这种需求通常表现为训练期间数据集规模扩大、推理期间用户流量增加，或计算任务复杂度提升。可扩展的架构支持无缝扩展——无论是将计算机视觉模型部署到单个嵌入式设备，还是通过云集群处理数百万个 API 请求——确保即使在高负载下，推理延迟仍然保持较低水平。
可扩展性在 AI 中的重要性#
面向可扩展性进行设计是成功实施机器学习运维（MLOps）的关键组成部分。在受控研究环境中运行完美的模型，接触生产环境中的高速数据流后可能会失效。有效管理大数据需要能够水平扩展（向集群中添加更多机器）或垂直扩展（为现有机器增加 RAM 或 GPU 等更强的计算资源）的系统。
可扩展 AI 系统的主要优势包括：
- 可靠性： 可扩展系统可确保在流量意外激增期间服务持续稳定运行，避免关键应用崩溃。
- 成本效益： 动态扩展允许资源在低使用率期间缩减，这项功能通常由 AWS 或 Google Cloud 等云计算平台管理。
- 面向未来： 可扩展的基础设施能够适应更新、更复杂的算法（例如视觉 Transformer（ViT）），而无需彻底改造硬件生态系统。
实现可扩展性的策略#
创建可扩展的 AI 解决方案需要同时优化模型架构和部署基础设施。
- 分布式训练： 当训练数据集对于单个处理器而言过大时，分布式训练会将工作负载拆分到多个图形处理单元（GPUs）上。PyTorch Distributed等框架支持开发者并行执行计算，从而显著缩短训练基础模型所需的时间。Ultralytics Platform等工具可通过自动管理云端训练资源来简化这一过程。
- 高效的模型架构： 选择合适的模型架构对于吞吐量至关重要。最新的 Ultralytics YOLO26经过专门设计，比其前代模型更小、更快，因此能够原生适配从边缘 AI设备到大型服务器集群的各种硬件并实现扩展。
- 容器化与编排： 使用 Docker 打包应用可确保它们在不同环境中保持一致运行。对于管理大型容器集群，Kubernetes可自动执行容器化应用的部署、扩展和管理。
- 模型优化： 模型量化和剪枝等技术可减少模型的内存占用和计算成本。NVIDIA TensorRT等工具还能进一步提升推理速度，从而在现有硬件上实现更高吞吐量。
代码示例：可扩展的批量推理#
提高推理期间可扩展性的一种有效方法是将输入分批处理，而不是按顺序逐个处理。这样可以最大限度地利用 GPU，并提高整体吞吐量。
from ultralytics import YOLO
# Load a scalable YOLO26 model (smaller 'n' version for speed)
model = YOLO("yolo26n.pt")
# Define a batch of images (URLs or local paths)
# Processing multiple images at once leverages parallel computation
batch_images = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]
# Run inference on the batch
results = model(batch_images)
# Print the number of detections for the first image
print(f"Detected {len(results[0].boxes)} objects in the first image.")实际应用#
可扩展性使 AI 技术能够从理论研究转变为全球性的工业工具。
- 智能制造： 在制造业中的 AI领域，自动化检测系统必须在高速装配线上每小时分析数千个组件。可扩展的目标检测系统可确保随着生产速度提升，质量控制流程仍能保持较高的准确率，而不会成为瓶颈。
- 零售推荐引擎： 大型电子商务平台利用推荐系统即时提供数百万条个性化产品推荐。可扩展的基础设施使这些平台能够应对黑色星期五等大型活动：在此类活动中，流量可能激增 100 倍，平台可以通过 Microsoft Azure 或类似服务商动态配置额外的服务器节点。
可扩展性与相关概念的比较#
虽然可扩展性经常与性能和效率混用，但三者并不相同。
