Mixed Precision

A precisão mista é uma técnica fundamental na otimização de modelos usada para acelerar o treino de modelos de aprendizagem profunda e, ao mesmo tempo, reduzir o consumo de memória. Ao combinar estrategicamente diferentes formatos numéricos — normalmente tipos de ponto flutuante de 16 e 32 bits —, este método permite que os algoritmos de aprendizagem automática efetuem cálculos mais rapidamente sem comprometer a precisão final do modelo. Tornou-se uma prática padrão no desenvolvimento moderno de IA, especialmente para tarefas que exigem muitos recursos, como treinar a arquitetura YOLO26 em conjuntos de dados massivos.

Como funciona a precisão mista#

Nos fluxos de trabalho tradicionais de aprendizagem profunda, os modelos normalmente efetuam cálculos utilizando o formato de ponto flutuante de precisão simples (FP32). Cada número em FP32 requer 32 bits de memória. Embora seja altamente preciso, este formato pode exigir muitos recursos computacionais e de memória.

A precisão mista introduz a utilização de meia precisão (FP16), que utiliza apenas 16 bits. No entanto, utilizar apenas FP16 pode causar instabilidade numérica devido a um intervalo dinâmico menor. Para resolver este problema, os métodos de precisão mista mantêm uma "cópia principal" dos pesos do modelo em FP32 para garantir estabilidade, enquanto utilizam FP16 para executar as operações matemáticas mais pesadas, como convoluções e multiplicações de matrizes.

O processo geralmente envolve três passos principais:

1. Conversão: converter as entradas e as ativações do modelo para FP16, de modo a acelerar a execução em hardware compatível, como os Tensor Cores da NVIDIA.

2. Escalonamento da perda: amplificar os valores da função de perda para evitar o "underflow", situação em que pequenas atualizações dos gradientes se tornam zeros em FP16.

3. Acumulação: efetuar as operações aritméticas em FP16, mas acumular os resultados em FP32 para preservar as informações necessárias antes de atualizar os pesos principais.

Vantagens no treino de IA#

A adoção da precisão mista oferece vantagens significativas para programadores e investigadores que utilizam recursos computacionais de forma eficiente:

• Maior velocidade de treino: as operações em FP16 requerem menos largura de banda de memória e são processadas mais rapidamente pelas GPUs modernas. Isto pode reduzir substancialmente o tempo necessário para uma época.
• Menor utilização de memória: como os tensores FP16 ocupam metade da memória dos tensores FP32, os programadores podem praticamente duplicar o seu tamanho do lote. Tamanhos de lote maiores resultam frequentemente em estimativas de gradientes mais estáveis e numa convergência mais rápida.
• Eficiência energética: a redução da carga computacional traduz-se num menor consumo de energia, o que é essencial para operações de treino na cloud em grande escala.

Aplicações no mundo real#

A precisão mista é utilizada em vários setores para processar modelos complexos e grandes conjuntos de dados de forma eficiente.

Condução autónoma#

No desenvolvimento de veículos autónomos, os engenheiros têm de treinar modelos de deteção de objetos com milhões de fotogramas de vídeo de alta resolução. A utilização de precisão mista permite-lhes treinar eficientemente modelos de última geração, como o YOLO26. A menor utilização de memória permite processar entradas de maior resolução, o que é essencial para detetar objetos pequenos, como sinais de trânsito ou peões, à distância.

Análise de imagens médicas#

A análise de imagens médicas envolve frequentemente dados volumétricos 3D provenientes de exames de MRI ou CT, que exigem muita memória. Treinar modelos de segmentação com estes dados em precisão FP32 total resulta frequentemente em erros de "Sem memória" (OOM). A precisão mista permite aos investigadores acomodar estes modelos pesados na memória da GPU, facilitando o desenvolvimento de IA que pode ajudar os médicos a diagnosticar doenças mais cedo.

Implementar a precisão mista com a Ultralytics#

As frameworks modernas, como o PyTorch, normalmente tratam automaticamente das complexidades da precisão mista através de uma funcionalidade chamada Precisão mista automática (AMP). O pacote ultralytics ativa o AMP por predefinição durante o treino para garantir um desempenho ideal.

Segue-se um exemplo conciso de como iniciar o treino com o Ultralytics YOLO26, com a precisão mista ativa por predefinição (controlável através do argumento amp):

from ultralytics import YOLO

# Load the latest YOLO26 model
model = YOLO("yolo26n.pt")

# Train the model on the COCO8 dataset
# amp=True is the default setting for mixed precision training
results = model.train(data="coco8.yaml", epochs=5, imgsz=640, amp=True)

Precisão mista vs. conceitos relacionados#

É útil distinguir a precisão mista de termos semelhantes do glossário para evitar confusões:

• Quantização de modelos: enquanto a precisão mista utiliza números de ponto flutuante de menor precisão (FP16) durante o treino, a quantização normalmente converte os pesos em números inteiros (como INT8) após o treino para implementação. A quantização concentra-se principalmente na latência da inferência em dispositivos de edge, enquanto a precisão mista se concentra na velocidade e na estabilidade do treino.
• Meia precisão: refere-se especificamente ao próprio formato de dados FP16. A precisão mista é a técnica de utilizar FP16 e FP32 em conjunto. Utilizar apenas meia precisão, sem a cópia principal FP32 "mista", resulta frequentemente em modelos que não convergem devido a erros numéricos.

Conclusão#

A precisão mista revolucionou a forma como as redes neuronais são treinadas, funcionando como um facilitador essencial para os enormes modelos de base e sistemas de visão que vemos atualmente. Ao equilibrar a necessidade de precisão matemática com as limitações de velocidade e memória do hardware, permite aos programadores iterar mais rapidamente e criar soluções de IA mais avançadas.

Para quem pretende gerir conjuntos de dados e treinar modelos otimizados de forma integrada, a Plataforma Ultralytics oferece um ambiente abrangente que tira partido automático destas modernas técnicas de otimização.