Conheça o aprendizado em conjunto e seu papel na IA e no ML

Para ver uma apresentação visual dos conceitos abordados neste artigo, assista ao vídeo abaixo.

Inovações de IA, como mecanismos de recomendação e sistemas de detecção de fraudes, dependem de algoritmos e modelos de aprendizado de máquina para fazer previsões e tomar decisões com base em dados. Esses modelos conseguem identificar padrões, prever tendências e ajudar a automatizar tarefas complexas.

No entanto, um único modelo pode ter dificuldade para captar todos os detalhes dos dados do mundo real. Ele pode ter bom desempenho em alguns casos, mas não em outros, como quando um modelo de detecção de fraudes não identifica novos tipos de transação.

Essa limitação é um desafio que engenheiros de IA enfrentam com frequência ao criar e implantar modelos de aprendizado de máquina. Alguns modelos sofrem sobreajuste ao aprender os dados de treinamento em excesso, enquanto outros sofrem subajuste por não identificar padrões importantes. O aprendizado em conjunto é uma técnica de IA que ajuda a resolver esses desafios ao combinar vários modelos, chamados de aprendizes-base, em um único sistema mais poderoso.

Podes imaginá-la como uma equipa de especialistas a trabalhar em conjunto para resolver um problema. Neste artigo, vamos explorar o que é a aprendizagem por conjuntos, como funciona e onde pode ser utilizada.

O que é aprendizado em conjunto?#

Aprendizado em conjunto é um conjunto de técnicas que combinam vários modelos para resolver o mesmo problema e produzir um único resultado aprimorado. Ele pode ser aplicado tanto no aprendizado supervisionado (em que os modelos aprendem com dados rotulados) quanto no aprendizado não supervisionado (em que os modelos encontram padrões em dados não rotulados).

Em vez de depender de um modelo para fazer previsões, um conjunto usa vários modelos, cada um analisando os dados à sua maneira. Quando as saídas são combinadas, o resultado costuma ser mais preciso, estável e capaz de generalizar do que aquele que qualquer modelo poderia produzir sozinho.

Você pode comparar isso a um painel de analistas que examina o mesmo problema. Cada analista ou modelo individual interpreta os dados de forma diferente.

Um pode se concentrar em padrões, outro em anomalias e outro no contexto. Ao reunir essas perspectivas, o grupo pode tomar uma decisão mais equilibrada e confiável do que qualquer julgamento individual.

Essa abordagem também ajuda a lidar com dois dos maiores desafios do aprendizado de máquina: viés e variância. Um modelo com alto viés é simples demais e ignora padrões importantes, enquanto um modelo com alta variância é sensível demais e se ajusta excessivamente aos dados de treinamento. Ao combinar modelos, o aprendizado em conjunto encontra um equilíbrio entre os dois, melhorando o desempenho do sistema em dados novos e ainda não vistos.

Entendendo como funciona o aprendizado em conjunto#

Cada modelo de um conjunto é conhecido como aprendiz-base ou modelo-base. Eles podem ser do mesmo tipo de algoritmo ou uma combinação de algoritmos diferentes, dependendo da técnica de conjunto usada.

Veja alguns exemplos comuns dos diferentes modelos usados no aprendizado em conjunto:

• Árvores de decisão: Esses modelos dividem os dados em ramos com base nos valores das características para tomar decisões. Por exemplo, em problemas de classificação, como prever se um cliente vai comprar um produto, eles consideram fatores como idade, renda e histórico de navegação.
• Redes neuronais: Inspiradas na forma como o cérebro humano processa informação, constituem a arquitetura básica da maioria dos modelos modernos de IA e aprendizagem automática.
• Máquinas de vetores de suporte (SVMs): Esses algoritmos classificam dados encontrando uma fronteira de decisão ideal, chamada hiperplano, que maximiza a margem entre diferentes classes. Em outras palavras, a SVM traça a melhor linha possível para separar os grupos, deixando o maior espaço entre eles. Por exemplo, ela pode ser usada para determinar se um e-mail é spam com base em padrões como a frequência das palavras e a estrutura do texto.
• Modelos de regressão logística: Eles estimam probabilidades e são frequentemente usados em tarefas de classificação binária. Um exemplo típico é prever se uma transação é fraudulenta ou legítima.

Um conjunto de modelos combinado costuma ser chamado de aprendiz forte porque integra os pontos fortes dos aprendizes-base (também chamados de modelos fracos) e minimiza seus pontos fracos. Isso é feito combinando as previsões de cada modelo de forma estruturada, usando votação majoritária em tarefas de classificação ou média ponderada em tarefas de regressão para produzir um resultado final mais preciso.

Fig. 1. Um exemplo de aprendizado em conjunto (fonte)

Quando usar o aprendizado em conjunto#

Antes de explorarmos as diversas técnicas de aprendizado em conjunto, vamos dar um passo atrás e entender quando esse tipo de abordagem deve ser usado em um projeto de aprendizado de máquina ou de IA.

O aprendizado em conjunto tem maior impacto quando um único modelo tem dificuldade para fazer previsões precisas ou consistentes. Ele também pode ser usado quando os dados são complexos, ruidosos ou imprevisíveis.

Veja algumas situações comuns em que os métodos de conjunto são particularmente eficazes:

• Baixa precisão do modelo: Quando as previsões de um modelo não são confiáveis o suficiente, combinar vários modelos pode melhorar significativamente a precisão e o desempenho. Por exemplo, na avaliação de crédito ou no diagnóstico médico, até pequenas melhorias na precisão das previsões podem fazer uma grande diferença.
• Dados ruidosos ou inconsistentes: Se um conjunto de dados contém valores atípicos, erros ou flutuações aleatórias, o aprendizado em conjunto ajuda a suavizar essas irregularidades calculando médias ou votando entre vários modelos.
• Necessidade de robustez: Os modelos de conjunto são menos sensíveis a pequenas mudanças nos dados, o que os torna mais estáveis e confiáveis em ambientes de produção, onde as entradas do mundo real podem variar.
• Tarefas de previsão complexas: Em tarefas como reconhecimento de imagens, detecção de fraudes ou previsão de séries temporais, os conjuntos captam uma variedade maior de padrões e relações do que um único modelo conseguiria captar sozinho.

Dito isto, quando um único modelo já tem um bom desempenho, muitas vezes é a melhor opção: é mais simples de treinar, mais fácil de interpretar e mais rápido de manter. Antes de utilizar um conjunto de modelos, é importante ponderar o benefício de uma maior precisão face ao tempo adicional, à capacidade computacional e à complexidade necessários.

Visão geral das técnicas de aprendizado em conjunto#

Agora, vamos conhecer as principais maneiras de aplicar o aprendizado em conjunto em projetos de aprendizado de máquina. Existem várias técnicas fundamentais para combinar modelos, cada uma melhorando o desempenho à sua maneira. Os métodos de conjunto mais comuns são bagging, boosting, stacking e blending.

Bagging#

Bagging, abreviação de agregação bootstrap, é um método de aprendizado em conjunto que ajuda a melhorar a estabilidade e a precisão do modelo ao treinar várias versões do mesmo modelo em diferentes partes dos dados.

Cada subconjunto é criado por um processo chamado amostragem bootstrap, no qual os pontos de dados são selecionados aleatoriamente com reposição. Isso significa que, depois de selecionado, um ponto de dados é recolocado no conjunto antes da próxima seleção. Assim, o mesmo ponto pode aparecer mais de uma vez, enquanto outros podem ficar de fora. Essa aleatoriedade garante que cada modelo seja treinado com uma versão ligeiramente diferente do conjunto de dados.

Durante a inferência, todos os modelos treinados são executados em paralelo para fazer previsões com dados novos e ainda não vistos. Cada modelo produz sua própria saída com base no que aprendeu, e essas previsões individuais são combinadas para formar o resultado final.

Em tarefas de regressão, como a previsão de preços de imóveis ou de vendas, isso geralmente significa calcular a média das saídas de todos os modelos para obter uma estimativa mais suave. Em tarefas de classificação, como identificar se uma transação é fraudulenta, o conjunto costuma usar votação majoritária para decidir a classe final.

Bagging em ação: o algoritmo Random Forest#

Um bom exemplo de aplicação eficaz do bagging são as árvores de decisão, que podem facilmente sofrer sobreajuste quando treinadas em um único conjunto de dados. Ao treinar muitas árvores com amostras ligeiramente diferentes e combinar seus resultados, o bagging reduz o sobreajuste e aumenta a confiabilidade.

Considere o algoritmo Random Forest. Ele é um conjunto de árvores de decisão, em que cada árvore é treinada com um subconjunto aleatório do conjunto de dados de treinamento e um subconjunto aleatório de características.

Essa aleatoriedade nas características ajuda a garantir que as árvores tenham menor correlação entre si e que o modelo como um todo seja mais estável e preciso. Um algoritmo Random Forest pode ser usado para classificar imagens, detectar fraudes, prever a rotatividade de clientes, prever vendas ou estimar preços de imóveis.

Fig. 2. Uma visão geral do algoritmo Random Forest (fonte)

Boosting#

Boosting é outra técnica de aprendizado em conjunto que busca aprimorar aprendizes fracos (modelos), treinando-os em sequência, um após o outro, em vez de em paralelo. O conceito central do boosting é que cada novo modelo aprende com os erros dos modelos anteriores, melhorando gradualmente o desempenho do modelo como um todo.

Ao contrário do bagging, que reduz a variância calculando a média de modelos independentes, o boosting reduz o viés fazendo com que cada novo modelo dê mais atenção aos casos difíceis com os quais os modelos anteriores tiveram dificuldade.

Como os modelos de boosting são treinados em sequência, a forma como suas previsões são combinadas no final difere um pouco da de outros métodos de conjunto. Cada modelo contribui para a previsão final de acordo com seu desempenho durante o treinamento; os modelos mais precisos recebem pesos maiores.

Em tarefas de regressão, o resultado final costuma ser uma soma ponderada das previsões de todos os modelos. Em tarefas de classificação, o algoritmo combina os votos ponderados dos modelos para decidir a classe final. Essa abordagem ajuda o boosting a criar um modelo geral robusto, dando mais peso aos modelos mais precisos e ainda aprendendo com os demais.

Veja alguns tipos comuns de algoritmos de boosting:

• AdaBoost (boosting adaptativo): Esse método começa treinando um modelo simples, como uma pequena árvore de decisão, e depois aumenta o peso dos pontos de dados classificados incorretamente. Esses pesos fazem com que o próximo modelo se concentre mais nos exemplos difíceis. Ao longo de várias iterações, os modelos se complementam, e suas previsões combinadas produzem um resultado mais robusto e preciso. Por exemplo, o AdaBoost pode melhorar a detecção de spam ou a precisão do reconhecimento facial.
• Gradient Boosting: Em vez de reponderar as amostras, o Gradient Boosting treina cada novo modelo para corrigir os erros residuais — as diferenças entre os valores reais e previstos — dos modelos anteriores. Essa abordagem iterativa é eficaz tanto em tarefas de regressão quanto de classificação, como previsão de vendas e avaliação de crédito.
• XGBoost (Aumento Extremo do Gradiente): Esta versão avançada do aumento do gradiente melhora a velocidade e a precisão. Utiliza regularização, que penaliza ligeiramente os modelos demasiado complexos durante o treino, para que se concentrem em padrões relevantes em vez de memorizar os dados. Embora os modelos continuem a ser treinados sequencialmente, o XGBoost acelera o processo através da paralelização durante a construção das árvores. Consegue avaliar simultaneamente muitos pontos de divisão possíveis em diferentes núcleos da CPU. Isto torna o treino muito mais rápido, sobretudo com grandes conjuntos de dados, mantendo um elevado desempenho preditivo.

Fig. 3. Exemplo de classificador baseado em árvore de decisão (DTB) treinado com uma abordagem de boosting para prever o risco de diabetes. (fonte)

Stacking#

Stacking, também chamado de generalização empilhada, vai além ao usar as previsões de vários modelos como entrada para um modelo final, conhecido como metamodelo. Você pode imaginar isso como um grupo de especialistas que compartilha suas opiniões, enquanto um tomador de decisão final aprende a ponderar essas opiniões para fazer a melhor escolha possível.

Por exemplo, um modelo pode ser ótimo para detectar fraudes, enquanto outro é melhor para prever a perda de clientes. O meta-aprendiz analisa o desempenho de cada um e combina seus pontos fortes para gerar uma previsão final mais precisa.

Combinação#

A combinação funciona de forma semelhante ao empilhamento, pois também combina as previsões de vários modelos para tomar uma decisão final, mas utiliza uma abordagem mais simples e rápida. Em vez de recorrer à validação cruzada (um método que divide os dados em várias partes e as alterna entre treino e teste para tornar o modelo mais fiável), como acontece no empilhamento, a combinação reserva uma pequena parte dos dados, chamada conjunto de validação reservado.

Os modelos base são treinados com os dados restantes e, em seguida, fazem previsões no conjunto de validação, que ainda não viram. Isso produz duas informações essenciais: as respostas reais, ou rótulos verdadeiros, e as previsões feitas por cada modelo base.

Essas previsões são então passadas para outro modelo, chamado modelo de combinação ou meta-modelo. Esse modelo final analisa a precisão das previsões de cada modelo base e aprende a combiná-las da melhor maneira possível.

Como a combinação depende de apenas uma divisão entre treino e teste, em vez de repetir o processo várias vezes, ela é mais rápida e fácil de configurar. A desvantagem é que há um pouco menos de informação para aprender, o que pode torná-la ligeiramente menos precisa.

Avaliação de algoritmos de conjunto#

Uma parte importante do aprendizado de conjunto é avaliar o desempenho de um modelo em dados que ele ainda não viu. Por mais avançada que seja uma técnica, é preciso testá-la para garantir que ela consiga generalizar, ou seja, fazer previsões precisas em novos exemplos do mundo real, em vez de apenas memorizar os dados de treinamento.

Veja algumas métricas de desempenho comuns usadas para avaliar modelos de IA:

• Acurácia: essa métrica mede a proporção de previsões corretas entre todas as previsões feitas pelo modelo. Ela oferece uma visão geral rápida do desempenho.
• Precisão: indica quantas das amostras previstas como positivas são realmente positivas. Uma precisão alta significa que o modelo comete poucos erros de falso positivo.
• Revocação: essa medida se concentra em quantos dos casos positivos reais foram identificados corretamente pelo modelo. Ela é especialmente importante em áreas como a saúde, onde deixar passar um caso positivo, como um diagnóstico de doença, pode ter consequências graves.

Aplicações do aprendizado de conjunto no mundo real#

Até agora, exploramos como funciona o aprendizado de conjunto e quais técnicas estão por trás dele. Agora, vamos ver onde essa abordagem está causando impacto.

Veja algumas áreas importantes em que o aprendizado de conjunto é aplicado com frequência:

• Análise de dados e previsão: nos negócios e na análise de dados, os modelos de conjunto ajudam as organizações a fazer previsões melhores, combinando informações de vários modelos. Isso resulta em previsões de vendas mais precisas, planejamento de demanda mais eficiente e uma compreensão mais clara do comportamento dos clientes.
• Classificação binária: tarefas como detecção de spam, prevenção de fraudes e diagnóstico médico geralmente exigem distinguir entre dois resultados possíveis. Os modelos de conjunto ajudam a reduzir falsos positivos e falsos negativos, o que é especialmente crucial em áreas como cibersegurança e saúde.
• Problemas de regressão: ao prever valores contínuos, como preços de imóveis, receita de vendas ou risco de crédito, os métodos de conjunto capturam relações complexas nos dados. Isso gera previsões mais precisas, que ajudam a tomar melhores decisões financeiras e operacionais.

Além dos dados estruturados com o aprendizado de conjunto#

Embora o aprendizado de conjunto seja mais usado com dados estruturados ou tabulares, como planilhas com informações numéricas ou categóricas, ele também pode ser aplicado a dados não estruturados, como texto, imagens, áudio e vídeo.

Esses tipos de dados são mais complexos e difíceis de interpretar para os modelos, mas os métodos de conjunto ajudam a melhorar a precisão e a confiabilidade. Por exemplo, em visão computacional, os conjuntos de modelos podem aprimorar tarefas como classificação de imagens e detecção de objetos.

Ao combinar as previsões de vários modelos de visão, como redes neurais convolucionais (CNNs), o sistema consegue reconhecer objetos com mais precisão e lidar com variações de iluminação, ângulo ou plano de fundo que poderiam confundir um único modelo.

Um exemplo de combinação de modelos Ultralytics YOLOv5#

Um exemplo interessante do uso do aprendizado de conjunto em visão computacional é quando um engenheiro combina vários modelos de detecção de objetos para melhorar a precisão. Imagine um engenheiro trabalhando em um sistema de monitoramento de segurança para um canteiro de obras, onde a iluminação, os ângulos e os tamanhos dos objetos mudam constantemente.

Um único modelo pode não detectar um trabalhador nas sombras ou confundir máquinas em movimento. Com um conjunto de modelos, cada um com pontos fortes diferentes, o sistema se torna mais confiável e menos propenso a cometer esses erros.

Em particular, modelos como Ultralytics YOLOv5 combinam muito bem com a combinação de modelos. Os engenheiros podem combinar diferentes variantes do YOLOv5, como YOLOv5x e YOLOv5l6, para gerar previsões em conjunto. Cada modelo analisa a mesma imagem e produz suas próprias detecções, que são então calculadas em média para gerar um resultado final mais robusto e preciso.

Fig. 4. Detecção de objetos em uma imagem usando YOLOv5. (Fonte)

Vantagens e desvantagens do aprendizado de conjunto#

Veja alguns benefícios importantes do uso do aprendizado de conjunto:

• Resiliência a dados ruidosos: os conjuntos são menos afetados por valores discrepantes ou ruído aleatório no conjunto de dados, pois dependem de vários modelos.
• Melhor generalização: os conjuntos reduzem o sobreajuste, ajudando os modelos a ter um bom desempenho em dados inéditos, em vez de apenas memorizar exemplos de treinamento.
• Flexibilidade entre algoritmos: você pode combinar diferentes tipos de modelos, como árvores de decisão, redes neurais e modelos lineares, para aproveitar os pontos fortes específicos de cada um.

Embora o aprendizado de conjunto ofereça várias vantagens, também há alguns desafios a considerar. Veja alguns fatores que convém ter em mente:

• Maior custo computacional: treinar e manter vários modelos exige mais memória, capacidade de processamento e tempo do que usar um único modelo.
• Menor interpretabilidade: como o resultado final vem da combinação de vários modelos, pode ser difícil entender por que determinada decisão foi tomada. No entanto, isso depende dos modelos usados: quando você usa modelos interpretáveis, como árvores de decisão ou máquinas de vetores de suporte, geralmente é mais fácil entender os resultados.
• Considerações sobre o projeto do conjunto: criar um conjunto envolve escolher a combinação certa de modelos e garantir que funcionem bem em conjunto. Em alguns casos, porém, isso pode ser mais simples, pois não é necessário ajustar os hiperparâmetros de cada modelo individualmente.

Principais conclusões#

O aprendizado de conjunto mostra como a combinação de vários modelos pode tornar os sistemas de IA mais precisos e confiáveis. Ele ajuda a reduzir erros e melhorar o desempenho em diferentes tipos de tarefas. À medida que o aprendizado de máquina e a IA continuam avançando, técnicas como essa impulsionam uma adoção mais ampla e soluções de IA mais práticas e eficientes.

Junte-se à nossa crescente comunidade e ao nosso repositório do GitHub para saber mais sobre IA de visão. Explore nossas páginas de soluções para conhecer aplicações de visão computacional na agricultura e IA na logística. Confira nossas opções de licenciamento para começar hoje mesmo a criar seu próprio modelo de visão computacional!