A Scaleout reduz atualizações de modelos de semanas para horas com Ultralytics YOLO

Treinar modelos de aprendizado de máquina geralmente pressupõe que você pode reunir todos os seus dados em um só lugar, enviá-los para a nuvem e implantar um modelo finalizado. Em muitos cenários do mundo real, essa suposição não se sustenta. Em ambientes de defesa, industriais e regulamentados, os dados estão vinculados à sua localização por leis de privacidade, classificação de segurança ou puro custo de banda, e a rede que conecta esses locais nem sempre é confiável.

Scaleout constrói infraestrutura exatamente para essas condições. Sua plataforma, Scaleout Edge, usa aprendizado federado para levar o treinamento do modelo até onde os dados vivem, em vez de mover os dados para o modelo. Para projetos de visão computacional, a Scaleout treina e ajusta de forma personalizada modelos Ultralytics YOLO em Vision Ground Nodes, estações de edge aceleradas por GPU implantadas em cada local, para que a detecção continue melhorando em campo sem que imagens confidenciais saiam do dispositivo.

Link to this sectionLevando o aprendizado de máquina para onde os dados vivem#

Fundada em 2018 por pesquisadores da Uppsala University que trabalhavam com sistemas distribuídos em larga escala, a Scaleout decidiu tornar possível o aprendizado de máquina onde os dados não podem ser centralizados. Seu foco são contextos onde reunir dados em um só lugar é difícil ou impossível, e o aprendizado federado é o mecanismo central que faz isso funcionar.

O aprendizado federado distribui o treinamento entre muitos dispositivos e, em seguida, coleta as atualizações de seus modelos em um plano de controle central que as agrega em um novo modelo global. Cada dispositivo se beneficia do entendimento do seu próprio ambiente local, enquanto a frota como um todo se beneficia da inteligência coletiva. Os dados permanecem onde pertencem, e apenas o que o modelo aprendeu é transmitido.

O trabalho da Scaleout abrange setores de defesa, industriais, de transporte e outros setores regulamentados, e inclui compromissos como o programa acelerador NATO DIANA e uma colaboração com a BAE Systems. Em todos eles, o padrão é o mesmo, com dados que não podem se mover e modelos que ainda precisam melhorar.

Link to this sectionAs complexidades do aprendizado de máquina na edge#

Aqui está uma visão mais detalhada das limitações que a Scaleout enfrentou ao treinar modelos em campo:

• Hardware limitado: Implantações em campo não possuem servidores de data center, apenas pequenos dispositivos de baixo consumo, como o computador em um drone. Executar um modelo finalizado neles é viável, mas treinar novamente um modelo exige muito mais computação.

• Dados bloqueados no dispositivo: As filmagens necessárias para o retreinamento são frequentemente proprietárias e não podem ser enviadas para um servidor central, portanto o modelo tem que aprender a partir de dados que nunca saem da edge.

• Sem especialistas no local: Os operadores que capturam dados em campo raramente são engenheiros de aprendizado de máquina, portanto o retreinamento não pode depender da presença de experiência em ciência de dados.

• Condições em constante mudança: Ambientes de campo mudam rapidamente, portanto o modelo tem que ser atualizado continuamente em vez de em ciclos de retreinamento lentos e periódicos.

Link to this sectionAjustando modelos Ultralytics YOLO na edge#

Para trabalhar dentro dessas limitações, a Scaleout construiu um loop de treinamento que roda inteiramente em campo, com modelos Ultralytics YOLO no seu centro.

Em cada local, um Vision Ground Node, uma estação de edge acelerada por GPU com sua própria computação e armazenamento, fica ao lado de uma frota de drones. À medida que os drones capturam filmagens, o nó seleciona os frames mais úteis, um operador os rotula e o modelo YOLO é ajustado nesse hardware local.

Após algumas épocas de treinamento, apenas o modelo atualizado é enviado de volta ao plano de controle, nunca as filmagens brutas. Esse loop é entregue através do módulo de visão da Scaleout, uma extensão da plataforma Scaleout Edge que agrupa as ferramentas que um projeto de visão computacional precisa em um único pacote.

Ele reúne seleção de frames, anotação, treinamento e implantação, com o Ultralytics YOLO lidando com a detecção, para que as equipes possam construir sobre uma base funcional em vez de montar essas peças sozinhas.

A Scaleout colocou essa abordagem em prática pela primeira vez no programa acelerador NATO DIANA, usando o YOLOv8 para ajustar a detecção em dados coletados em campo. Esses dados não podiam ser movidos através de redes de campo ou centralizados por motivos de propriedade, então a equipe descentralizou o ajuste, permitindo que o modelo aprendesse com novos exemplos localmente.

O loop também é construído para operadores em vez de cientistas de dados. O sistema guia um não especialista através da revisão e rotulagem dos frames que importam, para que as pessoas em campo possam manter o modelo melhorando por conta própria.

As ferramentas de suporte refletem isso, com a versão de código aberto do Label Studio para anotação, um servidor de streaming para trazer feeds de drones e o pacote Python Ultralytics para ajuste. Tudo isso roda em hardware que varia de módulos NVIDIA Jetson a uma unidade de campo robusta ou um laptop, dependendo da implantação.

Link to this sectionPor que escolher Ultralytics YOLO models?#

Para a Scaleout, a maior vantagem do Ultralytics YOLO é a leveza dos modelos, o que torna o treinamento federado sobre conexões ruins prático. Em vez de mover dados brutos, a Scaleout move apenas a atualização do modelo. O modelo que ela mais usa, Ultralytics YOLOv8 nano, tem cerca de 10.7 MB, então uma atualização completa é um pacote pequeno para enviar, mesmo quando a largura de banda é escassa.

O pacote Python Ultralytics também dá aos engenheiros da Scaleout a flexibilidade para treinar e implantar em hardware variado. O modelo YOLOv8 nano compacto roda confortavelmente em dispositivos de edge restritos, enquanto as opções de exportação do pacote suportam implantação nos diferentes ambientes em que a Scaleout trabalha. Como os modelos são diretos para ajustar, as equipes podem iterar rapidamente à medida que as condições de campo mudam.

Link to this sectionO Ultralytics YOLO ajuda a Scaleout a atualizar modelos mais rapidamente#

Com o Ultralytics YOLO, a parte mais pesada do trabalho permanece no dispositivo. O treinamento roda em centenas de gigabytes de filmagens de campo, mas o que realmente viaja é um modelo de cerca de 10 MB. Isso resulta em uma redução de aproximadamente dez vezes nos dados que precisam se mover, o que torna o treinamento federado viável sobre as redes limitadas nas quais essas implantações dependem.

A abordagem também muda a rapidez com que um modelo melhorado volta para o campo. O que poderia levar semanas ou meses, coletando dados, enviando-os para um local central, retreinando e reimplantando, colapsa para dias e horas quando o loop roda na edge.

Isso fica mais evidente no trabalho da Scaleout com drones. No reconhecimento de defesa, um drone realiza um padrão de busca e usa um modelo Ultralytics YOLO a bordo para detectar, identificar e geolocalizar objetos de interesse em tempo real, com todo o processamento sendo tratado pelo computador do próprio drone em vez de ser enviado para análise.

À medida que os drones coletam novas filmagens, esses dados alimentam um Vision Ground Node onde o YOLO é ajustado nos novos frames, e um modelo atualizado é enviado de volta, tudo sem que a filmagem saia do local. Modelos de detecção precisam acompanhar condições que mudam rapidamente e com dados que não podem ser movidos, e um modelo retreinado localmente permanece útil onde um estático, treinado centralmente, ficaria para trás.

Fig 1. Um exemplo de como a Scaleout e o Ultralytics YOLO alimentam drones de IA (Fonte)

O mesmo padrão se estende muito além dos drones. Em configurações industriais como locais de energia e instalações remotas, onde os dados de cada local são sensíveis, a plataforma melhora modelos de detecção em muitos locais sem que nenhum dado bruto atravesse a fronteira da instalação. Seja que os dados residam em um drone ou em uma instalação fixa, a Scaleout mantém a filmagem no local e move apenas o que o modelo aprendeu.

Link to this sectionConstruindo IA adaptável para ambientes onde os dados não podem se mover#

À medida que a Scaleout cresce, ela continua a estender sua visão computacional federada baseada em edge para mais configurações e hardware. Seus módulos pré-construídos são projetados para comprimir meses de integração em dias, para que os clientes possam trazer seu próprio hardware e adotar o loop de aprendizado adaptável sem reconstruir o código de aprendizado de máquina subjacente.

Com o Ultralytics YOLO no núcleo do seu pipeline de detecção, a Scaleout está tornando possível treinar e melhorar a IA exatamente nos ambientes onde as abordagens convencionais falham, mantendo os dados no local, permanecendo operacional quando as redes falham e transformando frotas de dispositivos de edge em um sistema que continua aprendendo como um todo.

Pronto para explorar o que a Vision AI pode fazer por você? Vá até o nosso repositório GitHub para descobrir como os modelos YOLO estão transformando áreas como IA na fabricação e visão computacional na robótica. Confira nossas opções de licenciamento e comece sua jornada em direção a uma automação mais inteligente.