Data Drift

A deriva de dados refere-se a um fenómeno em aprendizagem automática (ML) no qual as propriedades estatísticas dos dados de entrada observados num ambiente de produção mudam ao longo do tempo em comparação com os dados de treino originalmente utilizados para criar o modelo. Quando um modelo é implementado, funciona partindo do pressuposto implícito de que os dados do mundo real que encontra serão fundamentalmente semelhantes aos dados históricos com que aprendeu. Se este pressuposto for violado devido à alteração das condições ambientais ou dos comportamentos dos utilizadores, a precisão e a fiabilidade do modelo podem degradar-se significativamente, mesmo que o código e os parâmetros do modelo permaneçam inalterados. Detetar e gerir a deriva de dados é uma componente crítica das Operações de aprendizagem automática (MLOps), garantindo que os sistemas de IA continuam a gerar valor após a implementação do modelo.

Deriva de dados vs. deriva de conceito#

Para manter eficazmente os sistemas de IA, é essencial distinguir a deriva de dados de um termo estreitamente relacionado: a deriva de conceito. Embora ambas resultem numa degradação do desempenho, têm origem em alterações diferentes no ambiente.

• Deriva de dados (alteração de covariáveis): ocorre quando a distribuição das características de entrada muda, mas a relação entre as entradas e a saída pretendida permanece estável. Por exemplo, em visão computacional (CV), um modelo pode ser treinado com imagens captadas durante o dia. Se a câmara começar a captar imagens ao anoitecer, a distribuição das entradas (iluminação, sombras) sofreu uma deriva, mas a definição de um "carro" ou "peão" permanece a mesma.
• Deriva de conceito: ocorre quando a relação estatística entre as características de entrada e a variável pretendida muda. Por outras palavras, a definição da verdade fundamental evolui. Por exemplo, na deteção de fraude financeira, os padrões que constituem uma atividade fraudulenta mudam frequentemente à medida que os autores de fraude adaptam as suas táticas, alterando a fronteira entre transações seguras e fraudulentas.

Aplicações e exemplos do mundo real#

A deriva de dados é um desafio generalizado em todos os setores nos quais a inteligência artificial (AI) interage com ambientes físicos dinâmicos.

1. Sistemas autónomos: no campo dos veículos autónomos, os modelos de perceção dependem da deteção de objetos para navegar em segurança. Um modelo treinado principalmente com dados de estradas ensolaradas da Califórnia pode sofrer uma deriva de dados grave se for implementado numa região com fortes nevões. As entradas visuais (faixas cobertas de neve, sinais obstruídos) diferem drasticamente do conjunto de treino, comprometendo potencialmente funcionalidades de segurança como a deteção de faixas.

2. Imagiologia na área da saúde: os sistemas de análise de imagens médicas podem sofrer deriva quando os hospitais atualizam o seu hardware. Se um modelo tiver sido treinado com radiografias provenientes de um fabricante específico de scanners, a introdução de uma nova máquina com definições de resolução ou contraste diferentes representa uma alteração na distribuição dos dados. Sem manutenção do modelo, o desempenho diagnóstico pode diminuir.

Estratégias de deteção e mitigação#

Identificar a deriva precocemente evita a "falha silenciosa", na qual um modelo faz previsões confiantes, mas incorretas. As equipas utilizam várias estratégias para detetar estas anomalias antes de afetarem os resultados do negócio.

Métodos de deteção#

• Testes estatísticos: os engenheiros utilizam frequentemente métodos como o teste de Kolmogorov-Smirnov para comparar matematicamente a distribuição dos dados de produção recebidos com a referência dos dados de treino.
• Monitorização do desempenho: acompanhar métricas como a precisão e a revocação em tempo real pode funcionar como indicador indireto da deteção de deriva. Uma queda súbita na pontuação média de confiança de um modelo YOLO26 indica frequentemente que o modelo está a ter dificuldades com novos padrões de dados.
• Visualização: ferramentas como o TensorBoard ou plataformas especializadas como o Grafana permitem às equipas visualizar histogramas das distribuições das características, facilitando a deteção visual de alterações.

Técnicas de mitigação#

• Retreino: a solução mais robusta consiste frequentemente em retreinar o modelo. Isto envolve recolher os novos dados afetados pela deriva, anotá-los e combiná-los com o conjunto de dados original. A Ultralytics Platform simplifica este processo ao fornecer ferramentas para a gestão de conjuntos de dados e o treino na cloud.
• Aumento de dados: aplicar um aumento de dados abrangente durante o treino inicial — como alterar o brilho, adicionar ruído ou rodar imagens — pode tornar o modelo mais resistente a pequenas alterações ambientais.
• Adaptação de domínio: as técnicas de aprendizagem por transferência permitem que os modelos se adaptem a um novo domínio-alvo utilizando uma quantidade menor de dados anotados, colmatando a diferença entre o ambiente de treino de origem e a nova realidade de produção.

Pode implementar uma monitorização básica da deriva verificando a confiança das previsões do seu modelo. Se a confiança média ficar consistentemente abaixo de um limiar considerado fiável, isso poderá acionar um alerta para a revisão dos dados.

from ultralytics import YOLO

# Load the official YOLO26 model
model = YOLO("yolo26n.pt")

# Run inference on a new image from the production stream
results = model("https://ultralytics.com/images/bus.jpg")

# Monitor confidence scores; consistently low scores may signal data drift
for result in results:
    for box in result.boxes:
        print(f"Class: {box.cls}, Confidence: {box.conf.item():.2f}")

Gerir a deriva de dados não é uma correção pontual, mas um processo contínuo ao longo do ciclo de vida. Os fornecedores de cloud disponibilizam serviços geridos, como o AWS SageMaker Model Monitor ou o Google Cloud Vertex AI, para automatizar este processo. Ao monitorizarem proativamente estas alterações, as organizações garantem que os seus modelos permanecem robustos, mantendo padrões elevados de segurança da IA e eficiência operacional.