Data Flywheel

Um volante de dados é um ciclo de autorreforço em que um modelo de IA implantado gera dados — incluindo suas entradas, previsões, erros e feedback dos usuários — que são selecionados e organizados para formar dados de treinamento melhores para a próxima versão. Cada lançamento trata mais casos corretamente, um produto melhor atrai mais uso, e esse uso gera mais dados de que o próximo lançamento precisa. O nome vem do volante mecânico, que exige esforço para começar a girar e depois armazena impulso.

Na visão computacional, o ciclo gira em torno dos casos difíceis: os quadros em que um detector não identificou um objeto, disparou um falso alarme ou apresentou baixa confiança. Um sistema de inspeção visual encontra novos materiais e reflexos após o lançamento, e um modelo de inventário no varejo encontra embalagens sazonais, então essas são as imagens que vale a pena rotular. A equipe do Autopilot da Tesla apresentou uma versão conhecida desse ciclo, que chamou de mecanismo de dados, no Autonomy Day de 2019: casos em que a rede teve um desempenho ruim eram identificados na frota, rotulados e adicionados ao treinamento. Produtos baseados em modelos de linguagem de grande porte seguem o mesmo ciclo com avaliações, edições e conversas, que alimentam conjuntos de avaliação, o ajuste fino e a aprendizagem por reforço com feedback humano.

Como funciona um volante de dados#

Cada ciclo passa por captura, revisão, novo treinamento e uma decisão de lançamento:

A captura determina quais dados de produção entram no ciclo. Armazenar tudo é caro e, em grande parte, redundante, então os sistemas mantêm entradas que carregam informação: previsões de baixa confiança, divergências entre modelos, correções dos usuários, classes raras e entradas que indicam deriva de dados. Selecionar os exemplos que mais ensinarão o modelo é a função da aprendizagem ativa.

A revisão transforma as entradas capturadas em dados de referência. Anotadores com participação humana no ciclo confirmam ou corrigem cada rótulo, removem duplicatas e conteúdo confidencial, e os exemplos aprovados são adicionados a um conjunto de dados versionado, para que cada modelo possa ser associado aos dados usados em seu treinamento.

O novo treinamento produz um modelo candidato que precisa superar o modelo atual em um conjunto de teste fixo e separado, muitas vezes um conjunto de dados de referência cuidadosamente selecionado, antes do lançamento. A implantação gradual e o monitoramento do modelo detectam regressões e iniciam o ciclo seguinte.

A Ultralytics Platform automatiza a etapa de captura com Agents, fluxos de trabalho visuais cujo modelo Collect Uncertain Detections processa as imagens de um conjunto de dados com um modelo implantado, mantém as imagens com pelo menos uma detecção dentro de um intervalo de confiança escolhido, como 0.25 a 0.5, e as adiciona sem rótulos a um conjunto de dados de destino para revisão no editor de anotações.

Por que os volantes de dados param#

Um volante só gira tão rápido quanto sua etapa mais lenta, e a rotulagem humana costuma ser essa etapa. Devolver as próprias previsões do modelo como rótulos, sem revisão humana, permite que os erros se reforcem. Um sistema que age com base em suas previsões também influencia os dados que verá em seguida, então um recomendador aprende apenas sobre os itens que escolheu exibir; pesquisadores do Google citaram ciclos de feedback desse tipo entre as fontes de dívida técnica oculta em sistemas de aprendizado de máquina em 2015. Avaliar cada versão com um conjunto de teste que muda junto com os dados recebidos esconde regressões, e mover exemplos de teste para o treinamento causa vazamento de dados.

Volante de dados e termos relacionados#

• IA centrada em dados: a prática de melhorar modelos aprimorando os dados. Um volante aplica essa prática continuamente, usando a produção como fonte de dados.
• Aprendizagem contínua: atualiza um modelo com novos dados ao longo do tempo, evitando o esquecimento catastrófico de tarefas anteriores. Em vez disso, a maioria dos volantes treina novamente com todo o conjunto de dados crescente a cada lançamento.
• Operações de aprendizado de máquina (MLOps): os pipelines e as ferramentas de versionamento, treinamento, implantação e monitoramento que mantêm cada ciclo do volante reproduzível.
• Efeitos de rede: um produto ganha valor à medida que mais pessoas o usam. Um volante de dados só gera uma vantagem duradoura quando esse uso produz dados que os concorrentes não conseguem coletar facilmente.