向量量化

向量量化是一种强大的数据压缩和离散化技术，在现代 机器学习（ML）和 数字信号处理中得到了广泛应用。 其核心原理是 将大量连续点或向量划分为若干组，并用单个 “原型”向量来表示每组，这些向量共同构成一种称为码本的结构。通过将连续的 高维向量映射到这些离散的码本条目上，系统可以在 保留数据基本语义特征的同时大幅减少内存占用，从而实现有效的 降维。

离散化在深度学习中的作用

在当代深度学习（DL）领域，这一概念 因向量量化变分自编码器（VQ-VAE）而广为人知。与标准 自编码器通过学习连续的潜在空间来 进行特征提取不同，VQ-VAE 学习的是 离散表示。 这使得生成模型能够将图像、音频或视频视为一串离散 令牌，类似于 大型语言模型（LLMs）处理文本 输入的方式。您可以探索关于离散表示学习的基础 研究，了解早期 实现如何为现代基于令牌的视觉系统铺平了道路。

实际应用

在许多现实世界的人工智能应用中，向量量化发挥着至关重要的作用，因为在这些应用中，性能和内存 效率至关重要：

• 生成式人工智能与媒体压缩：通过将复杂的视觉数据压缩为离散的潜在代码，向量量化技术实现了高效的图像 和视频生成。将连续像素映射到离散令牌的模型能大幅降低计算开销， 从而助力 潜在扩散模型等先进架构的发展。
• 高速向量检索：为了实现快速相似性搜索，现代 系统必须查询数百万个嵌入向量。向量 量化技术可对这些海量数据集进行压缩，从而使检索引擎能够执行快速近似最近邻 （ANN）搜索，这对 零售和产品推荐系统中的AI应用大有裨益。 请查阅OpenAI关于嵌入向量的指南，以获取更多 关于高维数据处理的背景信息。

区分相关概念

在设计高效的 计算机视觉（CV）架构时，理解向量量化与相关术语之间的细微差别会很有帮助：

• 向量量化与模型量化：模型量化通常指降低神经网络权重的数值精度（例如，从 32 位浮点数降至 8 位整数），以加速如 Ultralytics 等模型在硬件上的推理过程。而向量量化则是将 数据向量聚类为一组固定的离散原型词汇表。
• 向量量化与向量数据库：向量数据库是存储高维数据的实际基础设施。向量量化是 这些数据库常用的底层算法技术，旨在最大限度地减少内存占用，具体细节 请参阅Qdrant 对向量处理的说明。
• 向量量化与向量搜索：向量搜索是基于向量邻近性主动查找相似项的过程。量化则作为 一种结构优化层，使这种搜索在海量规模下在计算上可行。

基本实现示例

要了解向量量化在实际中是如何将连续输入映射到离散代号的，您可以使用PyTorch 欧几里得距离，并在预定义的码本中查找最近的原型：

import torch

# Define a continuous input batch and a discrete codebook vocabulary
inputs = torch.randn(4, 128)  # 4 input vectors of dimension 128
codebook = torch.randn(10, 128)  # 10 discrete prototype vectors

# Compute distances and find the nearest codebook index for each input
distances = torch.cdist(inputs, codebook)
quantized_indices = torch.argmin(distances, dim=1)

# Retrieve the discrete quantized vectors corresponding to the inputs
quantized_vectors = codebook[quantized_indices]

如需深入了解如何原生计算tensor 以及如何优化这些操作，请参阅官方 PyTorch 文档。

借助Ultralytics 优化工作流程

要将优化后的嵌入向量集成到您的处理流程中，需要强大的工具支持。 Ultralytics 提供了一个端到端的环境，用于整理 训练数据并训练最先进的视觉 模型。通过优化数据管理并简化 模型部署，开发人员可以轻松 生成适合向量量化的高质量视觉特征，从而加速 物体检测和大规模媒体检索 应用的开发。