Gerenciamento inteligente de conjuntos de dados em visão computacional com a Ultralytics Platform

A IA visual, ou visão computacional, percorreu um longo caminho desde os primeiros dias, evoluindo de uma área de pesquisa experimental para uma tecnologia essencial que impulsiona aplicações do mundo real. Hoje, entusiastas de IA podem criar modelos poderosos para tarefas como detecção de objetos e segmentação de instâncias usando ferramentas e frameworks acessíveis.

No entanto, à medida que essas aplicações passam da experimentação para a produção, a gestão de conjuntos de dados continua sendo um desafio crítico e muitas vezes negligenciado. À medida que os conjuntos de dados de visão computacional crescem em tamanho e complexidade, as equipes costumam ter dificuldade para manter anotações consistentes, acompanhar alterações entre versões e garantir a qualidade geral dos dados.

Até mesmo os modelos mais avançados podem ter um desempenho inferior em ambientes do mundo real se os dados usados no treinamento estiverem incompletos, desequilibrados ou mal gerenciados. Essa crescente disparidade entre o desempenho no desenvolvimento e a confiabilidade no mundo real é o motivo pelo qual é necessária uma abordagem mais estruturada para a gestão de conjuntos de dados.

Outra limitação comum é que a coleta, a anotação e o treinamento de dados costumam ser realizados com ferramentas separadas. Um fluxo de trabalho fragmentado dificulta a gestão eficiente de conjuntos de dados, aumenta o risco de inconsistências e desacelera as iterações.

Para resolver gargalos de IA visual, como a gestão de conjuntos de dados e os fluxos de trabalho fragmentados, lançamos recentemente a Ultralytics Platform. Ela é um espaço de trabalho completo que reúne gestão de conjuntos de dados, anotação, treinamento, implantação e monitoramento em um fluxo de trabalho unificado.

Ao conectar cada etapa do ciclo de vida da visão computacional, fica mais fácil acompanhar as alterações nos conjuntos de dados, comparar o desempenho entre versões e aprimorar continuamente os dados para obter melhores resultados.

Fig. 1. Exemplo de visualização das imagens do conjunto de dados na Ultralytics Platform (Fonte)

Neste artigo, vamos explorar como a Ultralytics Platform ajuda você a acompanhar, comparar e melhorar seus conjuntos de dados para criar modelos de visão computacional mais confiáveis. Vamos começar!

A importância da gestão de conjuntos de dados em visão computacional#

O desempenho de um modelo de visão computacional está intimamente ligado aos dados usados no treinamento. A precisão do modelo, ou seja, a frequência com que as previsões estão corretas, depende não apenas do algoritmo, mas também de quanto o conjunto de dados representa as condições do mundo real.

Em termos simples, um modelo aprende padrões diretamente dos dados, então quaisquer lacunas, vieses ou inconsistências no conjunto de dados podem influenciar suas previsões. Em outras palavras, dados de baixa qualidade, anotações incorretas ou uma cobertura limitada das variações do mundo real nas imagens — como diferentes condições de iluminação, ângulos dos objetos, planos de fundo ou níveis de oclusão — podem reduzir significativamente a precisão, mesmo que a arquitetura do modelo seja robusta.

Isso também se aplica ao ajuste fino de um modelo, processo em que um modelo pré-treinado continua sendo treinado com dados novos ou atualizados para se adaptar melhor a um caso de uso ou ambiente específico. Como a precisão do modelo depende tanto dos dados, gerenciá-los corretamente é essencial.

A gestão de conjuntos de dados inclui organizar, rotular e atualizar continuamente os dados para que permaneçam precisos e relevantes. Isso facilita a melhoria do desempenho ao longo do tempo, especialmente ao retreinar ou ajustar modelos com novos dados.

Como a qualidade dos conjuntos de dados afeta a confiabilidade no mundo real#

Casos de uso de visão computacional, como sistemas de monitoramento de segurança, são um ótimo exemplo da importância da gestão adequada dos dados. Esses sistemas precisam funcionar de forma confiável em diversas condições do mundo real, incluindo diferentes ambientes de iluminação, ângulos de câmera, níveis de aglomeração e oclusões parciais.

Se os dados de treinamento não abrangerem essas variações ou não forem diversos o suficiente quanto à aparência dos objetos em diferentes cenas e condições, o modelo poderá ter dificuldade para detectá-los com precisão. Por exemplo, um modelo treinado principalmente com cenas bem iluminadas e sem elementos em excesso pode ter um desempenho ruim em ambientes com pouca luz ou muito aglomerados. Em sistemas de segurança, isso pode resultar em eventos não detectados ou alertas falsos.

Para evitar isso, é importante manter conjuntos de dados que não sejam apenas limpos e rotulados com precisão, mas também equilibrados e atualizados continuamente. Isso significa identificar lacunas nos dados, adicionar novos exemplos à medida que as condições mudam e garantir que diferentes classes e ambientes estejam representados de forma equilibrada.

Com um conjunto de dados mais completo e estruturado, os modelos ficam mais preparados para lidar com a variabilidade do mundo real e gerar previsões mais confiáveis.

Principais aspectos da gestão de conjuntos de dados#

Então, como é, na prática, a gestão de conjuntos de dados? Ela envolve organizar, rotular e manter os dados para que possam ser usados com eficácia durante todo o processo de desenvolvimento do modelo.

Por exemplo, organizar os dados inclui estruturar o conjunto de dados e dividi-lo em conjuntos de treinamento, validação e teste. O conjunto de treinamento é usado para ensinar o modelo, o conjunto de validação é usado para monitorar o desempenho e orientar ajustes durante o desenvolvimento, e o conjunto de teste é usado para avaliar o desempenho do modelo final com dados que ele nunca viu.

Já a rotulagem envolve anotar imagens com detalhes como rótulos de classe, caixas delimitadoras ou máscaras de segmentação. Como o modelo aprende com essas anotações, a precisão e a consistência são cruciais para ajudá-lo a aprender padrões relevantes e gerar previsões confiáveis.

Além disso, manter o conjunto de dados envolve revisar e atualizar os dados ao longo do tempo. Isso pode incluir corrigir erros de anotação, remover dados de baixa qualidade ou duplicados e adicionar novos exemplos para abranger casos ausentes ou mudanças nas condições.

De forma mais ampla, a gestão de conjuntos de dados é um processo contínuo. À medida que os modelos são avaliados e novos dados são coletados, os conjuntos de dados precisam ser atualizados para refletir as condições do mundo real e os casos extremos. Acompanhar essas atualizações e comparar versões diferentes ajuda as equipes a entender o que está melhorando o desempenho e onde são necessárias outras mudanças.

Gerenciamento de conjuntos de dados com a Ultralytics Platform#

A Ultralytics Platform oferece um fluxo de trabalho estruturado para gerenciar conjuntos de dados em um único ambiente, abrangendo tudo, desde a preparação dos dados até a exportação. Ela foi projetada para atender tanto desenvolvedores individuais quanto equipes, facilitando a gestão consistente de conjuntos de dados, seja trabalhando por conta própria ou colaborando em vários projetos.

Cada etapa foi projetada para simplificar a organização, o processamento e o uso dos conjuntos de dados durante todo o ciclo de vida do desenvolvimento do modelo. Ao reunir essas etapas em um só lugar, a plataforma reduz a fragmentação e facilita a manutenção da consistência entre fluxos de trabalho.

A seguir, vamos percorrer as principais etapas e ver como a plataforma dá suporte a cada uma delas.

Como enviar conjuntos de dados para a Ultralytics Platform#

Começar a trabalhar com conjuntos de dados na plataforma é simples e flexível, com várias maneiras de importar ou reutilizar dados. Você pode enviar seus próprios dados ou começar mais rápido usando conjuntos de dados públicos disponíveis na plataforma. Também pode clonar conjuntos de dados existentes compartilhados pela comunidade e usá-los como base para seu trabalho.

Os recursos comunitários da plataforma facilitam a exploração e a reutilização de trabalhos existentes. Com acesso a conjuntos de dados criados por outros usuários, incluindo milhões de imagens e anotações, você pode começar rapidamente sem precisar coletar e rotular tudo por conta própria. Ao clonar um conjunto de dados, você cria uma cópia no seu espaço de trabalho, que pode modificar e expandir sem alterar o original.

Para envios, a plataforma aceita imagens individuais, vídeos e arquivos compactados de conjuntos de dados, como ZIP, TAR ou GZ. Ela também aceita formatos de conjunto de dados amplamente usados, como YOLO e COCO, facilitando a importação de conjuntos de dados e anotações existentes sem conversões adicionais. Além disso, você pode enviar um conjunto de dados usando um arquivo NDJSON exportado pela plataforma, facilitando a recriação ou reutilização de conjuntos de dados em diferentes projetos.

Após o envio, a plataforma processa os dados por meio de um pipeline estruturado. Isso inclui validar os formatos e tamanhos dos arquivos, redimensionar imagens quando necessário, analisar anotações e gerar estatísticas do conjunto de dados.

Por exemplo, os vídeos são convertidos em quadros para que possam ser usados no treinamento, enquanto as imagens são otimizadas e preparadas para facilitar a navegação e a análise. Após o processamento, os conjuntos de dados ficam prontos para anotação, análise e treinamento de modelos na plataforma.

Anotação de dados na Ultralytics Platform#

Depois de enviados, os conjuntos de dados podem ser revisados e anotados diretamente na plataforma. Ela inclui ferramentas integradas de anotação de imagens para várias tarefas de visão computacional, como detecção de objetos, segmentação de instâncias, estimativa de pose, detecção de caixas delimitadoras orientadas (OBB) e classificação de imagens.

Fig. 2. Uso da Ultralytics Platform para rotulagem de dados (Fonte)

As anotações podem ser criadas manualmente com essas ferramentas ou agilizadas com recursos assistidos por IA, como a anotação inteligente com tecnologia SAM. Com o SAM, você pode gerar máscaras, caixas delimitadoras ou caixas orientadas interagindo com a imagem, acelerando o processo de rotulagem sem comprometer a precisão.

Análise da qualidade dos conjuntos de dados com a Ultralytics Platform#

Além de preparar e anotar os dados, entender a qualidade dos conjuntos de dados é essencial para criar modelos de visão computacional confiáveis. Sem uma visão clara de fatores como a distribuição das classes, a qualidade das anotações, as divisões do conjunto de dados e a representação dos dados em diferentes condições, pode ser difícil identificar problemas que afetam o desempenho do modelo.

A Ultralytics Platform inclui recursos integrados para ajudar a analisar conjuntos de dados com mais eficácia. Essas informações ficam disponíveis diretamente na interface do conjunto de dados, em abas como Images, Classes e Charts.

Na aba Charts, você pode ver estatísticas do conjunto de dados, como a distribuição das divisões (treinamento, validação e teste), a frequência das classes e mapas de calor das anotações que mostram onde os objetos aparecem nas imagens.

A aba Classes apresenta uma análise detalhada da contagem de anotações por classe, facilitando a identificação de desequilíbrios entre classes. Já a aba Images mostra detalhes de cada imagem, como dimensões, contagem de anotações e distribuição dos rótulos entre imagens individuais.

Essas informações facilitam a identificação de problemas como desequilíbrio entre classes, cenários ausentes ou distribuição desigual dos dados. Por exemplo, você pode perceber que algumas classes têm pouquíssimos exemplos ou que a maioria das anotações está concentrada em áreas específicas de uma imagem.

Além da análise de dados, a plataforma oferece suporte à curadoria e ao aumento de dados, ou seja, ao refinamento de conjuntos de dados pela correção ou remoção de dados problemáticos e à criação de variações dos dados existentes para melhorar o desempenho do modelo. Essas melhorias podem ser feitas diretamente na plataforma, atualizando anotações, adicionando novos dados ou reorganizando as divisões do conjunto de dados com base nas informações da análise.

Como exportar conjuntos de dados da Ultralytics Platform#

Depois de preparado e validado, um conjunto de dados pode ser exportado para uso em diferentes ambientes. Isso dá a você a flexibilidade de usar seus dados de visão computacional onde preferir, seja para treinar modelos localmente, na nuvem ou em outras ferramentas e fluxos de trabalho.

A Ultralytics Platform oferece suporte a vários formatos de exportação, incluindo YOLO, COCO e NDJSON, facilitando a integração de conjuntos de dados a diferentes ferramentas e fluxos de trabalho de treinamento.

Fig. 3. Exportação de um conjunto de dados da Ultralytics Platform (Fonte)

Exportar um conjunto de dados cria um instantâneo fixo dos dados em um momento específico, incluindo imagens, anotações e estrutura. Isso é útil porque os conjuntos de dados costumam mudar à medida que novos dados são adicionados, as anotações são atualizadas ou as divisões são ajustadas. Ao exportar um instantâneo, você pode preservar a versão exata do conjunto de dados usada em uma determinada execução de treinamento.

Isso simplifica a reprodução dos resultados mais tarde, pois você pode treinar um modelo novamente com a mesma configuração de dados e comparar o desempenho entre diferentes versões do conjunto de dados. Por exemplo, você pode avaliar se adicionar novas imagens ou corrigir anotações realmente melhora a precisão do modelo, em vez de tentar adivinhar o que mudou.

As exportações são processadas de forma assíncrona e, quando estiverem prontas, os conjuntos de dados poderão ser baixados e usados em ambientes de treinamento locais, na nuvem ou offline.

Melhoria iterativa da qualidade dos conjuntos de dados na Ultralytics Platform#

Nos fluxos de trabalho de aprendizado de máquina e aprendizado profundo, a gestão de conjuntos de dados continua mesmo após a implantação, porque os dados do mundo real costumam ser diferentes dos dados usados no treinamento.

À medida que os modelos recebem novas entradas, as lacunas no conjunto de dados — como a ausência de condições de pouca luz, diferentes ângulos de câmera, oclusões ou cenas aglomeradas — e os erros de anotação ficam mais evidentes, tornando necessário refinar os dados ao longo do tempo.

Há várias maneiras de melhorar um conjunto de dados. Você pode adicionar novas imagens ou vídeos para abranger condições ausentes, como ambientes com pouca luz, diferentes ângulos de câmera, oclusões ou cenas aglomeradas, ajudando a reduzir pontos cegos nos dados.

Ao mesmo tempo, garantir que as anotações sejam precisas e consistentes — por exemplo, que os objetos estejam rotulados corretamente e as caixas delimitadoras ou máscaras sejam precisas — ajuda o modelo a aprender padrões mais confiáveis.

Isso geralmente segue um ciclo simples: treine o modelo, avalie os resultados, identifique erros, melhore o conjunto de dados e treine novamente. Cada etapa ajuda a identificar problemas como anotações incorretas, dados ausentes ou casos sub-representados.

Imagine que você está trabalhando em um sistema de monitoramento de prateleiras de lojas em tempo real, usado para detectar produtos. As primeiras versões do conjunto de dados podem não incluir certos tipos de produtos, condições de iluminação ou configurações de prateleiras muito cheias. Durante a avaliação, você pode perceber que o modelo tem dificuldade para detectar itens nessas situações.

Para melhorar o desempenho, você pode coletar novas imagens que abranjam esses cenários ausentes e atualizar as anotações quando necessário. Com o tempo, repetir esse processo ajuda o modelo a se tornar mais preciso e confiável nas condições do mundo real.

A Ultralytics Platform dá suporte a esse fluxo de trabalho conectando as atualizações dos conjuntos de dados ao treinamento e à avaliação. Com o acompanhamento de experimentos e as métricas de desempenho integrados, fica mais fácil monitorar o progresso e melhorar continuamente os conjuntos de dados ao longo do tempo.

Acompanhamento das alterações nos conjuntos de dados com a Ultralytics Platform#

Falamos brevemente sobre como os conjuntos de dados evoluem ao longo do tempo como parte do processo de desenvolvimento do modelo. À medida que novos dados são adicionados, as anotações são aprimoradas e as classes são atualizadas, acompanhar essas mudanças se torna essencial para manter a qualidade dos dados e garantir um desempenho consistente do modelo.

Veja alguns dos principais recursos da Ultralytics Platform que dão suporte ao acompanhamento de conjuntos de dados e ao controle de versões:

• Versionamento de conjuntos de dados: você pode criar versões fixas de conjuntos de dados como instantâneos NDJSON. Cada versão registra detalhes importantes, como a quantidade de imagens, classes e anotações, além do tamanho do conjunto de dados em um momento específico. Essas versões ficam armazenadas e podem ser baixadas posteriormente, facilitando a reprodução de experimentos e a comparação de resultados entre diferentes estados do conjunto de dados.
• Aba Versions: todas as versões do conjunto de dados são organizadas na aba Versions, onde você pode consultar o histórico de versões, adicionar descrições às alterações e acompanhar a evolução do conjunto de dados ao longo do tempo.
• Vinculação a modelos: a aba Models mostra todos os modelos treinados com um conjunto de dados, incluindo métricas como mAP e detalhes do treinamento. As versões dos conjuntos de dados são vinculadas às execuções de treinamento, ajudando você a entender como as alterações nos dados afetam o desempenho do modelo.
• Aba Errors: a aba Errors destaca os arquivos cujo processamento falhou, juntamente com detalhes dos erros e sugestões. Assim, você pode identificar e corrigir problemas como arquivos corrompidos ou formatos não compatíveis antes do treinamento.
• Interface do conjunto de dados (abas Images e Classes): essas visualizações permitem navegar pelas imagens, revisar anotações, gerenciar rótulos de classe e analisar a distribuição das classes. Recursos como filtragem, classificação e identificação de imagens sem anotações facilitam o monitoramento da qualidade do conjunto de dados ao longo do tempo.
• Estatísticas e gráficos: visualizações de dados integradas, como a distribuição das divisões, a frequência das classes e os mapas de calor das anotações, ajudam a acompanhar as mudanças na distribuição dos dados e a identificar desequilíbrios à medida que o conjunto de dados evolui.

Fig. 4. Análise da distribuição de classes de um conjunto de dados na Ultralytics Platform (Fonte)

Conexão entre conjuntos de dados, treinamento e implantação na Ultralytics Platform#

A Ultralytics Platform conecta diferentes etapas do desenvolvimento de modelos de IA em um único pipeline. Isso simplifica o processo de transformar dados brutos em aplicações de IA visual prontas para produção.

Depois de preparados e anotados, os conjuntos de dados podem ser usados para treinar modelos de visão computacional, como o Ultralytics YOLO26, diretamente na plataforma. Durante o treinamento, você pode monitorar métricas de desempenho, acompanhar experimentos e avaliar o aprendizado do modelo usando painéis integrados.

Fig. 5. Visão geral das métricas de treinamento de modelos na Ultralytics Platform (Fonte)

Após o treinamento, os modelos podem ser testados com novas imagens diretamente no navegador para avaliar as previsões e identificar áreas que precisam de melhorias antes da implantação. Quando o modelo apresenta um bom desempenho, ele pode ser implantado em produção.

A plataforma oferece suporte à exportação de modelos para vários formatos ou à implantação por meio de serviços de inferência e endpoints dedicados, permitindo que sejam executados em diferentes ambientes.

Após a implantação, as ferramentas integradas de monitoramento ajudam a acompanhar o desempenho do sistema ao longo do tempo, incluindo métricas relacionadas ao uso e ao comportamento do modelo. Isso facilita a manutenção e a melhoria de sistemas de IA visual em aplicações do mundo real.

Práticas recomendadas para a gestão de conjuntos de dados com a Ultralytics Platform#

Veja alguns fatores importantes a considerar ao gerenciar seus conjuntos de dados com a Ultralytics Platform:

• Use filtros para encontrar lacunas: identifique dados sem rótulos ou sub-representados usando ferramentas de filtragem, facilitando a conclusão das anotações e a melhoria da cobertura.
• Corrija os erros logo no início: use a aba Errors para o controle de qualidade e detecte envios com falha, arquivos corrompidos ou formatos não compatíveis antes do treinamento.
• Atualize os conjuntos de dados continuamente: adicione novos dados, corrija anotações e inclua casos extremos à medida que surgirem. Isso ajuda a melhorar a cobertura e garante que os modelos tenham um desempenho confiável em cenários do mundo real.
• Gerencie cuidadosamente as divisões dos conjuntos de dados: mantenha um bom equilíbrio entre os conjuntos de treinamento, validação e teste. Você pode reorganizar as divisões manualmente ou usar a redistribuição automática quando necessário.

Para saber mais sobre a Ultralytics Platform, consulte a documentação oficial da Ultralytics.

Principais conclusões#

À medida que os projetos de visão computacional crescem, gerenciar os conjuntos de dados com eficácia se torna tão importante quanto desenvolver os modelos. Uma abordagem estruturada para a gestão de conjuntos de dados ajuda a melhorar a qualidade dos dados, simplificar os fluxos de trabalho e favorecer o desempenho dos modelos ao longo do tempo.

A Ultralytics Platform simplifica esse processo ao reunir a gestão de conjuntos de dados, o treinamento e a implantação em um único fluxo de trabalho. Ao adotar uma abordagem estruturada para a gestão de conjuntos de dados, as equipes podem reduzir a complexidade, aumentar a eficiência e criar sistemas de visão computacional mais escaláveis e confiáveis.

Participe da nossa crescente comunidade e explore nosso repositório no GitHub para acessar recursos de IA. Para começar a desenvolver com IA visual hoje mesmo, confira nossas opções de licenciamento. Saiba como a IA na agricultura está transformando a agricultura e como a IA visual na área da saúde está moldando o futuro visitando nossas páginas de soluções.