A Scaleout reduz atualizações de modelos de semanas para horas com Ultralytics YOLO

Treinar modelos de aprendizado de máquina geralmente pressupõe que você pode reunir todos os seus dados em um só lugar, enviá-los para a nuvem e implantar um modelo finalizado. Em muitos cenários do mundo real, essa suposição não se sustenta. Em ambientes de defesa, industriais e regulamentados, os dados estão vinculados à sua localização por leis de privacidade, classificação de segurança ou puro custo de banda, e a rede que conecta esses locais nem sempre é confiável.

A Scaleout cria infraestrutura exatamente para estas condições. A sua plataforma, Scaleout Edge, utiliza aprendizagem federada para levar o treino de modelos até onde os dados residem, em vez de mover os dados para o modelo. Para projetos de computer vision, a Scaleout treina à medida e afina Ultralytics YOLO models em Vision Ground Nodes, estações de edge aceleradas por GPU implementadas em cada local, para que a deteção continue a melhorar no terreno sem que imagens sensíveis saiam nunca do dispositivo.

Levando o aprendizado de máquina para onde os dados vivem#

Fundada em 2018 por pesquisadores da Uppsala University que trabalhavam com sistemas distribuídos em larga escala, a Scaleout decidiu tornar possível o aprendizado de máquina onde os dados não podem ser centralizados. Seu foco são contextos onde reunir dados em um só lugar é difícil ou impossível, e o aprendizado federado é o mecanismo central que faz isso funcionar.

A Federated learning distribui o treino por muitos dispositivos e, em seguida, reúne as atualizações dos seus modelos num plano de controlo central que as agrega num novo modelo global. Cada dispositivo beneficia de compreender o seu próprio ambiente local, enquanto a frota como um todo beneficia da inteligência coletiva. Os dados ficam onde pertencem e apenas o que o modelo aprendeu é que viaja.

O trabalho da Scaleout abrange setores de defesa, industriais, de transporte e outros setores regulamentados, e inclui compromissos como o programa acelerador NATO DIANA e uma colaboração com a BAE Systems. Em todos eles, o padrão é o mesmo, com dados que não podem se mover e modelos que ainda precisam melhorar.

As complexidades do aprendizado de máquina na edge#

Aqui está uma visão mais detalhada das limitações que a Scaleout enfrentou ao treinar modelos em campo:

• Hardware limitado: Implantações em campo não possuem servidores de data center, apenas pequenos dispositivos de baixo consumo, como o computador em um drone. Executar um modelo finalizado neles é viável, mas treinar novamente um modelo exige muito mais computação.

• Dados bloqueados no dispositivo: As imagens necessárias para a re-treinagem são frequentemente proprietárias e não podem ser enviadas para um servidor central, pelo que o modelo tem de aprender a partir de dados que nunca saem do edge.

• Sem especialistas no local: Os operadores que capturam dados em campo raramente são engenheiros de aprendizado de máquina, portanto o retreinamento não pode depender da presença de experiência em ciência de dados.

• Condições em constante mudança: Ambientes de campo mudam rapidamente, portanto o modelo tem que ser atualizado continuamente em vez de em ciclos de retreinamento lentos e periódicos.

Ajustando modelos Ultralytics YOLO na edge#

Para trabalhar dentro dessas limitações, a Scaleout construiu um loop de treinamento que roda inteiramente em campo, com modelos Ultralytics YOLO no seu centro.

Em cada local, um Vision Ground Node, uma estação de edge acelerada por GPU com sua própria computação e armazenamento, fica ao lado de uma frota de drones. À medida que os drones capturam filmagens, o nó seleciona os frames mais úteis, um operador os rotula e o modelo YOLO é ajustado nesse hardware local.

Após algumas épocas de treinamento, apenas o modelo atualizado é enviado de volta ao plano de controle, nunca as filmagens brutas. Esse loop é entregue através do módulo de visão da Scaleout, uma extensão da plataforma Scaleout Edge que agrupa as ferramentas que um projeto de visão computacional precisa em um único pacote.

Ele reúne seleção de frames, anotação, treinamento e implantação, com o Ultralytics YOLO lidando com a detecção, para que as equipes possam construir sobre uma base funcional em vez de montar essas peças sozinhas.

A Scaleout colocou essa abordagem em prática pela primeira vez no programa acelerador NATO DIANA, usando o YOLOv8 para ajustar a detecção em dados coletados em campo. Esses dados não podiam ser movidos através de redes de campo ou centralizados por motivos de propriedade, então a equipe descentralizou o ajuste, permitindo que o modelo aprendesse com novos exemplos localmente.

O loop também é construído para operadores em vez de cientistas de dados. O sistema guia um não especialista através da revisão e rotulagem dos frames que importam, para que as pessoas em campo possam manter o modelo melhorando por conta própria.

As ferramentas de suporte refletem isto, com a versão de código aberto do Label Studio para anotação, um servidor de streaming para receber feeds de drones e o Ultralytics Python package para afinação. Tudo isto corre em hardware que vai desde módulos NVIDIA Jetson até uma unidade de campo robusta ou um portátil, dependendo da implementação.

Por que escolher Ultralytics YOLO models?#

Para a Scaleout, a maior vantagem do Ultralytics YOLO é a leveza dos modelos, o que torna o treino federado através de ligações fracas prático. Em vez de mover dados em bruto, a Scaleout move apenas a atualização do modelo. O modelo que utiliza mais, Ultralytics YOLOv8 nano, tem cerca de 10,7 MB, pelo que uma atualização completa é um pacote pequeno para enviar, mesmo quando a largura de banda é escassa.

O Ultralytics Python package também dá aos engenheiros da Scaleout a flexibilidade para treinar e implementar em hardware variado. O modelo compacto YOLOv8 nano corre confortavelmente em dispositivos edge limitados, enquanto as export options do pacote suportam a implementação nos diferentes ambientes em que a Scaleout trabalha. Como os modelos são fáceis de afinar, as equipas conseguem iterar rapidamente à medida que as condições do terreno mudam.

O Ultralytics YOLO ajuda a Scaleout a atualizar modelos mais rapidamente#

Com o Ultralytics YOLO, a parte mais pesada do trabalho permanece no dispositivo. O treinamento roda em centenas de gigabytes de filmagens de campo, mas o que realmente viaja é um modelo de cerca de 10 MB. Isso resulta em uma redução de aproximadamente dez vezes nos dados que precisam se mover, o que torna o treinamento federado viável sobre as redes limitadas nas quais essas implantações dependem.

A abordagem também muda a rapidez com que um modelo melhorado volta para o campo. O que poderia levar semanas ou meses, coletando dados, enviando-os para um local central, retreinando e reimplantando, colapsa para dias e horas quando o loop roda na edge.

Isto nota-se mais claramente no trabalho da Scaleout com drone. Em reconhecimento de defesa, um drone faz um padrão de busca e utiliza um modelo Ultralytics YOLO integrado para detetar, identificar e geolocalizar objetos de interesse em tempo real, com todo o processamento a ser tratado no computador do próprio drone em vez de ser enviado para análise.

À medida que os drones coletam novas filmagens, esses dados alimentam um Vision Ground Node onde o YOLO é ajustado nos novos frames, e um modelo atualizado é enviado de volta, tudo sem que a filmagem saia do local. Modelos de detecção precisam acompanhar condições que mudam rapidamente e com dados que não podem ser movidos, e um modelo retreinado localmente permanece útil onde um estático, treinado centralmente, ficaria para trás.

Fig 1. Um exemplo de como a Scaleout e o Ultralytics YOLO alimentam drones de IA (Source)

O mesmo padrão se estende muito além dos drones. Em configurações industriais como locais de energia e instalações remotas, onde os dados de cada local são sensíveis, a plataforma melhora modelos de detecção em muitos locais sem que nenhum dado bruto atravesse a fronteira da instalação. Seja que os dados residam em um drone ou em uma instalação fixa, a Scaleout mantém a filmagem no local e move apenas o que o modelo aprendeu.

Construindo IA adaptável para ambientes onde os dados não podem se mover#

À medida que a Scaleout cresce, ela continua a estender sua visão computacional federada baseada em edge para mais configurações e hardware. Seus módulos pré-construídos são projetados para comprimir meses de integração em dias, para que os clientes possam trazer seu próprio hardware e adotar o loop de aprendizado adaptável sem reconstruir o código de aprendizado de máquina subjacente.

Com o Ultralytics YOLO no núcleo do seu pipeline de detecção, a Scaleout está tornando possível treinar e melhorar a IA exatamente nos ambientes onde as abordagens convencionais falham, mantendo os dados no local, permanecendo operacional quando as redes falham e transformando frotas de dispositivos de edge em um sistema que continua aprendendo como um todo.

Pronto para explorar o que a Vision AI pode fazer por ti? Dirige-te ao nosso GitHub repository para descobrir como os modelos YOLO estão a transformar áreas como AI in manufacturing e computer vision in robotics. Consulta as nossas licensing options e começa a tua jornada rumo a uma automação mais inteligente.