Um banco de memória é uma estrutura de dados utilizada em algoritmos de aprendizagem automática para armazenar e referenciar informações de iterações anteriores ou amostras processadas, desacoplando efetivamente a capacidade de memória do modelo das suas restrições computacionais imediatas . No contexto da aprendizagem profunda (DL), um banco de memória serve normalmente como um repositório para incorporações ou vetores de características. Isso permite que um modelo compare a entrada atual com um vasto histórico de entradas anteriores sem a necessidade de reprocessar ou manter todos esses dados na memória de acesso aleatório (RAM) ativa simultaneamente. Ao manter um buffer de representações, os modelos podem aprender a partir de um contexto mais amplo, melhorando o desempenho em tarefas que exigem consistência de longo prazo ou comparação com grandes conjuntos de dados.
A principal função de um banco de memória é ampliar as informações disponíveis para além do tamanho atual do lote . Durante o treinamento, à medida que os dados fluem pela rede neural , as representações de características resultantes são enviadas para o banco. Se o banco atingir a sua capacidade máxima , as características mais antigas são geralmente removidas para dar lugar às novas, um processo conhecido como fila First-In, First-Out (FIFO).
Este mecanismo é particularmente vital porque GPU é finita. Sem um banco de memória, comparar uma única imagem com um milhão de outras imagens exigiria um tamanho de lote impossível de caber em um hardware padrão . Com um banco de memória, o modelo pode armazenar vetores leves desses milhões de imagens e referenciá-los de forma eficiente usando técnicas de pesquisa de similaridade, como produto escalar ou similaridade cosseno.
Os bancos de memória tornaram-se uma pedra angular em vários fluxos de trabalho avançados de visão computacional (CV) e linguagem natural :
É útil diferenciar o banco de memória de outros conceitos de armazenamento e processamento encontrados no glossário:
O seguinte Python O trecho demonstra o conceito de um banco de memória First-In, First-Out
(FIFO) usando torch. Essa estrutura é frequentemente usada para manter um histórico contínuo de vetores de características
durante loops de treino personalizados ou tarefas de inferência complexas.
import torch
# Initialize a memory bank (Capacity: 100 features, Vector Dim: 128)
# In a real scenario, these would be embeddings from a model like YOLO26
memory_bank = torch.randn(100, 128)
# Simulate receiving a new batch of features (e.g., from the current image batch)
new_features = torch.randn(10, 128)
# Update the bank: Enqueue new features, Dequeue the oldest ones
# This maintains a fixed size while keeping the memory 'fresh'
memory_bank = torch.cat([memory_bank[10:], new_features], dim=0)
print(f"Updated Memory Bank Shape: {memory_bank.shape}")
# Output: Updated Memory Bank Shape: torch.Size([100, 128])
Embora poderosos, os bancos de memória apresentam o desafio da «deriva de representação». Como a rede do codificador muda ligeiramente a cada etapa de treino, os recursos armazenados no banco há 100 etapas podem estar «obsoletos» ou inconsistentes com o estado atual do modelo. Técnicas como o uso de um codificador de momentum (uma média do modelo atualizada lentamente) ajudam a mitigar esse problema.
track equipas que procuram gerir versões de conjuntos de dados e artefactos de modelos que utilizam essas técnicas avançadas, a Ultralytics fornece um hub centralizado para organizar dados, acompanhar experiências e implementar modelos de forma eficiente. Gerir a complexidade do armazenamento e recuperação de recursos é essencial para passar da inteligência artificial (IA) experimental para sistemas de produção robustos .
.webp)