Aprendizagem federada

Conceitos fundamentais da aprendizagem federada

A Aprendizagem Federada funciona através de um processo iterativo, normalmente orquestrado por um servidor central ou coordenador:

1. Inicialização: O servidor central começa com um modelo global inicial (por exemplo, um modelo genérico Ultralytics YOLO genérico para deteção de objectos).
2. Distribuição: Este modelo global é enviado para uma seleção de dispositivos clientes (por exemplo, telemóveis, servidores locais).
3. Treino local: Cada dispositivo cliente treina o modelo recebido utilizando os seus próprios dados locais. Como esses dados nunca saem do dispositivo, a privacidade é mantida. Esta etapa utiliza recursos computacionais locais.
4. Transmissão de actualizações: Em vez de enviar dados em bruto, os clientes enviam apenas os parâmetros actualizados do modeloweights and biases) ou gradientes calculados para o servidor central. Técnicas como a agregação segura e a privacidade diferencial podem ser aplicadas aqui para aumentar a segurança.
5. Agregação: O servidor central agrega as actualizações dos clientes participantes (por exemplo, calculando a média dos pesos) para melhorar o modelo global partilhado.
6. Iteração: Os passos 2-5 são repetidos até que o modelo global atinja o nível de desempenho desejado, muitas vezes avaliado utilizando métricas padrão discutidas em guias como YOLO Performance Metrics.

Este processo permite que o modelo global aprenda a partir de uma vasta e diversificada gama de dados distribuídos por muitos locais sem comprometer a privacidade do utilizador. Podes explorar a investigação e as aplicações da Aprendizagem Federada para obteres mais informações.

Aprendizagem Federada Vs. Formação distribuída

Embora a Aprendizagem Federada envolva a formação em várias máquinas, difere significativamente da Formação Distribuída tradicional:

• Distribuição de dados: A formação distribuída normalmente assume que os dados são recolhidos centralmente e depois distribuídos (muitas vezes de forma idêntica e independente, ou IID) pelos nós num ambiente controlado como um centro de dados. A Aprendizagem Federada assume inerentemente que os dados são descentralizados desde o início e são frequentemente não IID, reflectindo variações de dados do mundo real entre utilizadores ou localizações.
• Privacidade: A preservação da privacidade é um objetivo fundamental da Aprendizagem Federada. O objetivo principal da formação distribuída é normalmente a escalabilidade e a velocidade, com menos atenção à privacidade dos dados durante o próprio processo de formação.
• Rede e hardware: A aprendizagem federada tem de lidar com ligações de rede pouco fiáveis e capacidades de hardware heterogéneas dos dispositivos dos clientes, enquanto a formação distribuída funciona frequentemente em redes de elevada largura de banda e hardware mais uniforme.

Aplicações da aprendizagem federada

A Aprendizagem Federada é particularmente valiosa em cenários em que os dados são sensíveis, grandes ou inerentemente distribuídos:

• Cuidados de saúde: Treinar modelos de diagnóstico para tarefas como a análise de imagens médicas em vários hospitais sem partilhar registos sensíveis de pacientes. Isto permite a criação de modelos mais robustos, tirando partido de diversos dados de pacientes, ao mesmo tempo que cumpre regulamentos de privacidade rigorosos, como a HIPAA. Vê exemplos em Federated Learning for Healthcare Informatics e explora soluções relacionadas com IA nos cuidados de saúde.
• Dispositivos móveis: Melhorar as funcionalidades no dispositivo, como teclados de texto preditivos (por exemplo, o Gboard da Google), reconhecimento de comandos do assistente de voz ou recomendações personalizadas, treinando modelos diretamente nos telemóveis dos utilizadores sem carregar dados pessoais ou histórico de comunicações para servidores centrais.
• Finanças: Detetar transacções fraudulentas treinando modelos em dados de transacções mantidos por diferentes bancos sem exigir que os bancos partilhem dados confidenciais dos clientes.
• IoT industrial: Desenvolver modelos de manutenção preditiva para máquinas com base em dados de sensores de diferentes fábricas ou locais sem centralizar dados operacionais potencialmente proprietários.

Benefícios da aprendizagem federada

• Aumenta a privacidade: Os dados brutos permanecem localizados no dispositivo do cliente, reduzindo significativamente os riscos de privacidade.
• Carga de comunicação reduzida: A transmissão de actualizações de modelos é normalmente muito menos intensiva em termos de largura de banda do que a transferência de conjuntos de dados completos.
• Aprendizagem em tempo real: Os modelos podem ser potencialmente actualizados com maior frequência utilizando os dados locais mais recentes nos dispositivos periféricos.
• Aproveita dados diversos: Permite o acesso a conjuntos de dados maiores e mais variados que não podem ser centralizados devido a razões legais, éticas ou logísticas, reduzindo potencialmente o Overfitting.

Desafios da aprendizagem federada

Apesar das suas vantagens, a Federated Learning enfrenta vários obstáculos:

• Eficiência de comunicação: Coordenar e agregar actualizações de potencialmente milhares ou milhões de dispositivos pode ser lento e complexo, especialmente com largura de banda limitada ou ligações pouco fiáveis.
• Heterogeneidade dos sistemas: Os dispositivos clientes variam muito em termos de poder de processamento (CPU/GPU), memória, conetividade de rede e disponibilidade de energia.
• Heterogeneidade estatística: Os dados entre dispositivos são tipicamente não-IID (não idêntica e independentemente distribuídos), o que pode distorcer o modelo global ou abrandar a convergência.
• Preocupações com a segurança: Embora melhore a privacidade dos dados, o próprio sistema pode ser vulnerável a ataques adversários que visam actualizações de modelos ou potenciais violações de segurança no servidor central. Garantir a segurança geral dos dados continua a ser crucial.
• Gestão de clientes: A seleção dos clientes adequados, a gestão da participação e o tratamento das desistências são desafios logísticos.

Estruturas como o TensorFlow Federated e bibliotecas de organizações como a OpenMined pretendem resolver alguns destes desafios. Embora complexa, a Aprendizagem Federada é uma direção promissora para a construção de sistemas de IA em grande escala e sensíveis à privacidade. Plataformas como o Ultralytics HUB facilitam o ciclo de vida geral de implantação e gerenciamento de modelos, potencialmente abrangendo modelos desenvolvidos usando abordagens federadas. Podes explorar várias opções de implementação de modelos no ecossistema Ultralytics . Combinar a FL com outras técnicas, como a aprendizagem ativa, é também uma área de investigação em curso, conforme discutido na publicação do blogue Aprendizagem ativa acelera o desenvolvimento da visão por computador.