Transfer Learning

A aprendizagem por transferência é uma técnica de aprendizagem automática que reutiliza um modelo treinado numa tarefa como ponto de partida para uma tarefa relacionada. Treinar uma rede neural com pesos aleatórios exige grandes conjuntos de dados anotados e um poder computacional considerável, enquanto um modelo pré-treinado com milhões de imagens já aprendeu características visuais necessárias para a maioria das novas tarefas. Partindo desses pesos do modelo aprendidos, um novo modelo alcança elevada precisão com muito menos imagens anotadas e numa fração do tempo de treino, e é por isso que a aprendizagem por transferência é a abordagem padrão para criar modelos de visão computacional para tarefas personalizadas.

Como funciona a aprendizagem por transferência#

A aprendizagem por transferência funciona porque as redes profundas aprendem características numa hierarquia. As primeiras camadas de uma rede backbone respondem a arestas, cores e texturas presentes em quase todas as imagens, enquanto as camadas mais profundas as combinam em partes de objetos e conceitos específicos da tarefa. Um estudo de Yosinski et al. mediu esta progressão em redes convolucionais, concluindo que as características da primeira camada são gerais, que a transferibilidade diminui nas camadas superiores à medida que as características se especializam na tarefa original e que as características transferidas melhoram a generalização, mesmo depois do ajuste fino no novo conjunto de dados.

O processo tem duas fases:

1. Pré-treino: Um modelo aprende representações gerais num grande conjunto de dados de benchmark, como ImageNet, COCO ou Objects365, produzindo um conjunto de pesos pré-treinados.
2. Adaptação: As camadas de saída, como um classificador ou uma cabeça de deteção, são substituídas ou redimensionadas para as novas classes e treinadas no conjunto de dados-alvo. Na extração de características, as camadas pré-treinadas permanecem congeladas e só as novas camadas aprendem. No ajuste fino, algumas ou todas as camadas pré-treinadas também são atualizadas, normalmente com uma taxa de aprendizagem mais baixa.

A quantidade de camadas da rede a retreinar depende de duas questões: quantos dados anotados a nova tarefa tem e até que ponto se assemelha aos dados de pré-treino. As notas do CS231n de Stanford apresentam os quatro casos resultantes:

Aprendizagem por transferência para deteção de objetos#

Os modelos de detecção quase sempre são treinados por transferência: os pontos de verificação oficiais do YOLO26 foram pré-treinados no Objects365 por 150 épocas antes do ajuste fino no COCO, conforme documenta a receita de treinamento do YOLO26. Chamar train() em um ponto de verificação carregado com um novo conjunto de dados transfere todos os pesos compatíveis, redefine as linhas de saída específicas das classes quando o número de classes muda — mantendo as linhas cujos nomes de classe correspondem — e aceita um argumento freeze que mantém fixas as camadas iniciais, o que é mais útil em conjuntos de dados pequenos.

from ultralytics import YOLO

# Carregar pesos do YOLO26n pré-treinados nas 80 classes do COCO
model = YOLO("yolo26n.pt")

# Adaptar a um novo conjunto de dados de uma única classe; freeze=10 mantém fixas as primeiras 10 camadas
results = model.train(data="medical-pills.yaml", epochs=20, freeze=10)

A rede backbone pré-treinada já deteta formas, arestas e texturas, por isso o treino só tem de aprender como é um comprimido a partir das 92 imagens de treino anotadas no conjunto de dados Medical Pills.

Aprendizagem por transferência e termos relacionados#

• Ajuste fino: Uma forma de realizar a aprendizagem por transferência, na qual os pesos pré-treinados continuam a ser atualizados com os novos dados. A extração de características com uma rede backbone congelada é a outra abordagem principal.
• Adaptação de domínio: Uma forma de aprendizagem por transferência em que a tarefa permanece igual, mas a distribuição dos dados muda, por exemplo, de imagens diurnas para noturnas, muitas vezes com poucos ou nenhuns rótulos do domínio-alvo.
• Aprendizagem zero-shot e aprendizagem few-shot: Lidam com novas classes sem exemplos anotados ou com apenas alguns, recorrendo ao conhecimento geral de um modelo pré-treinado em vez de uma fase completa de adaptação.
• Ajuste fino eficiente em parâmetros (PEFT): Adapta modelos pré-treinados muito grandes ao treinar um pequeno conjunto de parâmetros adicionados ou selecionados, como as matrizes LoRA, enquanto os pesos originais permanecem congelados.
• Esquecimento catastrófico: A perda das competências da tarefa original quando um modelo é ajustado com novos dados. Incluir algumas imagens das classes originais no novo conjunto de treino ou congelar mais camadas ajuda a limitá-lo.