Compensação entre desvio e variância

O compromisso entre o enviesamento e a variância é um conceito fundamental na aprendizagem supervisionada que descreve o desafio de criar um modelo com um bom desempenho em dados observados(dados de treino) e não observados(dados de teste). Implica encontrar um equilíbrio ótimo entre dois tipos de erros: enviesamento e variância. A capacidade de generalização de um modelo a novos dados depende essencialmente da navegação neste equilíbrio. Essencialmente, a diminuição de um tipo de erro conduz frequentemente a um aumento do outro, e o objetivo do treino do modelo é encontrar um ponto ideal que minimize o erro total. Este conceito é fundamental para evitar tanto a subadaptação como a sobreadaptação, garantindo que o modelo é eficaz para aplicações no mundo real.

Compreender o enviesamento e a variância

Para compreender o compromisso, é essencial entender os seus dois componentes:

• Enviesamento: É o erro introduzido pela aproximação de um problema do mundo real, que pode ser complexo, com um modelo demasiado simples. Um modelo com um elevado enviesamento faz fortes suposições sobre os dados (por exemplo, assumir uma relação linear quando esta não é linear). Isto leva a um subajuste, em que o modelo não consegue captar os padrões subjacentes nos dados, resultando num fraco desempenho nos conjuntos de treino e validação. Um exemplo é a utilização de um modelo de regressão linear simples para um conjunto de dados complexo e não linear.
• Variância: Este é o erro introduzido pela utilização de um modelo demasiado complexo e sensível aos dados específicos em que foi treinado. Um modelo de elevada variância aprende não só os padrões subjacentes, mas também o ruído e as flutuações aleatórias nos dados de treino. Isto leva a um sobreajuste, em que o modelo tem um desempenho excecionalmente bom no conjunto de treino, mas não consegue generalizar para dados novos e não vistos. Uma árvore de decisão profunda é um exemplo clássico de um modelo de elevada variância.

O objetivo final da aprendizagem automática (ML) é desenvolver um modelo com baixo enviesamento e baixa variância. No entanto, estes dois erros estão frequentemente em oposição. Uma parte essencial dos MLOps é a monitorização contínua dos modelos para garantir que mantêm este equilíbrio.

O compromisso na prática

A gestão do compromisso entre o desvio e a variância é uma tarefa essencial no desenvolvimento de modelos eficazes de visão computacional e de outros modelos de ML.

• Modelos simples (por exemplo, regressão linear, árvores de decisão superficiais): Estes modelos têm um viés elevado e uma variância baixa. São consistentes mas podem ser imprecisos devido aos seus pressupostos simplistas.
• Modelos complexos (por exemplo, redes neurais profundas, modelos Ensemble ): Estes modelos têm uma tendência baixa e uma variância elevada. Podem captar padrões complexos, mas correm um risco elevado de se ajustarem demasiado aos dados de treino.

Técnicas como a regularização, que penaliza a complexidade do modelo, e o abandono são utilizadas para reduzir a variância em modelos complexos. Da mesma forma, métodos como a validação cruzada k-fold ajudam a estimar o desempenho de um modelo em dados não vistos, fornecendo informações sobre a sua posição no espetro de polarização e variância. A afinação de hiperparâmetros é crucial para encontrar a complexidade correta do modelo que equilibra o enviesamento e a variância para um determinado problema.

Exemplos do mundo real

1. Classificação de imagens: Considere o treino de um modelo para classificação de imagens no complexo conjunto de dados ImageNet. Uma Rede Neural Convolucional (CNN) simples, com muito poucas camadas, teria um viés elevado e um ajuste insuficiente; não seria capaz de aprender as caraterísticas necessárias para distinguir entre milhares de classes. Por outro lado, uma CNN excessivamente profunda e complexa pode atingir uma precisão quase perfeita no conjunto de treino, memorizando as imagens (variância elevada), mas ter um desempenho fraco em novas imagens. As arquitecturas modernas, como a Ultralytics YOLO11, são concebidas com backbones sofisticados e técnicas de regularização para encontrar um equilíbrio eficaz, permitindo um elevado desempenho em tarefas como a deteção de objectos e a segmentação de instâncias.

2. Veículos autónomos: No desenvolvimento de veículos autónomos, os modelos de perceção devem detetar com precisão os peões, os veículos e os sinais de trânsito. Um modelo com um viés elevado pode não conseguir detetar um peão em condições de iluminação invulgares, o que representa um grave risco para a segurança. Um modelo de elevada variância pode ser treinado na perfeição num conjunto de dados da solarenga Califórnia, mas não conseguir generalizar para condições de neve noutra região, uma vez que aprendeu em demasia as especificidades dos seus dados de treino. Os engenheiros utilizam conjuntos de dados maciços e diversificados e técnicas como o aumento de dados para treinar modelos robustos que atinjam um bom equilíbrio entre parcialidade e variância, garantindo um desempenho fiável em ambientes variados. Este é um aspeto fundamental da construção de sistemas de IA seguros.

Diferenciação de conceitos relacionados

É fundamental distinguir a compensação entre o desvio e a variância de outros termos relacionados, nomeadamente o desvio da IA.

• Compensação entre viés e variância: Trata-se de uma propriedade estatística de um modelo relacionada com a sua complexidade e o erro de previsão resultante. O "enviesamento" refere-se aqui a pressupostos simplificadores que causam erros sistemáticos. Trata-se de um conceito fundamental na teoria da aprendizagem estatística e é inerente à construção de modelos.
• Viés de IA ou Viés de conjunto de dados: refere-se a preconceitos sistemáticos na saída de um modelo que resultam em resultados injustos ou discriminatórios. Este tipo de preconceito resulta frequentemente de dados de formação distorcidos ou não representativos ou de uma conceção algorítmica deficiente. Embora um modelo com um elevado grau de enviesamento (subadaptado) possa apresentar um comportamento injusto, o conceito de equidade na IA preocupa-se principalmente com os impactos éticos e sociais e não apenas com o erro de previsão. Abordar o enviesamento da IA envolve estratégias como a curadoria de diversos conjuntos de dados e a implementação de métricas de equidade, o que constitui um desafio diferente da gestão do compromisso estatístico entre a simplicidade e a complexidade do modelo. Os esforços para garantir a ética e a transparência da IA são fundamentais para mitigar esta forma de enviesamento.