Data Security

Segurança de dados é a proteção de dados digitais contra acesso não autorizado, roubo, adulteração e perda durante todo o ciclo de vida, da coleta e do armazenamento ao processamento, compartilhamento e exclusão. Seus objetivos costumam ser expressos pela tríade CIA: confidencialidade, para que somente pessoas e sistemas autorizados possam ler os dados; integridade, para que os dados permaneçam corretos e inalterados; e disponibilidade, para que possam ser usados quando necessário. O Cybersecurity Framework 2.0 do NIST, publicado em fevereiro de 2024, organiza o trabalho em seis funções: governar, identificar, proteger, detectar, responder e recuperar. No aprendizado de máquina, os dados a proteger incluem os dados de treinamento e seus rótulos, os pesos do modelo que codificam o que foi aprendido com esses dados, as imagens e os prompts enviados para inferência e os registros que os documentam.

Controles essenciais#

A segurança de dados combina várias camadas para que uma falha em um controle não exponha tudo:

• Criptografia: os dados em repouso são criptografados com cifras como AES-256, e os dados em trânsito são transmitidos por TLS.
• Controle de acesso: cada pessoa e serviço recebe apenas os privilégios mínimos necessários, por meio de funções, autenticação multifator e credenciais de curta duração em vez de senhas compartilhadas.
• Gerenciamento de chaves e segredos: as chaves de criptografia ficam em um serviço de gerenciamento de chaves ou módulo de segurança de hardware, separados dos dados, e são alternadas periodicamente. As chaves de API não devem ficar no código-fonte nem em notebooks.
• Verificações de integridade e backups: somas de verificação e assinaturas digitais detectam arquivos alterados, e backups versionados e imutáveis permitem a recuperação após ataques de ransomware ou exclusões acidentais.
• Registros de auditoria: cada leitura, gravação e alteração de permissão é registrada para que acessos incomuns, como uma conta baixando um conjunto de dados inteiro à noite, possam ser detectados e investigados.

A criptografia autenticada garante confidencialidade e integridade ao mesmo tempo. Este exemplo usa Fernet do pacote cryptography do Python para criptografar uma linha de um arquivo de rótulos e, em seguida, detectar a inversão de um único bit:

import base64

from cryptography.fernet import Fernet, InvalidToken

# Em produção, a chave vem de um serviço de gerenciamento de chaves e nunca é armazenada junto com os dados
cipher = Fernet(Fernet.generate_key())

label = b"0 0.48 0.63 0.21 0.37\n"  # uma linha de anotação YOLO
token = cipher.encrypt(label)  # texto cifrado AES-128-CBC mais uma etiqueta HMAC-SHA256
print(cipher.decrypt(token) == label)

# Inverte um bit do texto cifrado armazenado, como aconteceria em caso de adulteração ou corrupção do disco
raw = bytearray(base64.urlsafe_b64decode(token))
raw[30] ^= 1
try:
    cipher.decrypt(base64.urlsafe_b64encode(bytes(raw)))
except InvalidToken:
    print("Integrity check failed: decryption refused")

A primeira linha imprime True porque o token intacto é descriptografado e volta ao rótulo original. Depois que um bit do texto cifrado muda, a etiqueta HMAC deixa de corresponder, então decrypt gera InvalidToken e imprime Integrity check failed: decryption refused sem retornar dados alterados.

Segurança de dados no aprendizado de máquina#

Os sistemas de IA criam superfícies de ataque que bancos de dados comuns não têm:

• Envenenamento de dados: um invasor com permissão para gravar em um conjunto de dados, uma fila de rotulagem ou uma fonte de dados extraída da web insere amostras que fazem o modelo treinado se comportar mal, muitas vezes apenas quando aparece um gatilho oculto.
• Arquivos de modelo inseguros: checkpoints salvos com o pickle do Python podem executar código arbitrário quando carregados. O PyTorch 2.6 definiu torch.load como padrão para weights_only=True, que recusa qualquer conteúdo além de tensores e tipos simples, e o formato safetensors armazena somente tensores.
• Ataques de inferência de associação: consultar um modelo treinado pode revelar se um registro específico fazia parte do conjunto de treinamento, então os pesos treinados com dados sensíveis precisam da mesma proteção que os dados.
• Injeção de prompt: instruções ocultas em documentos ou páginas da web podem fazer uma aplicação de LLM revelar dados de seu contexto ou enviá-los a um invasor por meio de suas ferramentas.
• IA paralela: funcionários inserem dados confidenciais em ferramentas de IA que a organização não aprovou, sem os controles de acesso e registros da organização.

Os dados de visão computacional tornam os riscos maiores porque imagens de pessoas, casas, veículos e pacientes muitas vezes contêm informações pessoais. Na área da saúde, exames que hospitais dos EUA usam para análise de imagens médicas estão sujeitos à Regra de Segurança da HIPAA, que exige salvaguardas administrativas, físicas e técnicas para informações eletrônicas de saúde protegidas. Processar quadros na própria câmera com IA de borda mantém o vídeo bruto totalmente fora da rede, o aprendizado federado treina um modelo compartilhado enquanto cada local mantém seus dados, e a IA confidencial executa treinamento ou inferência com dados sensíveis em enclaves de hardware criptografados na nuvem. Para conjuntos de dados que precisam permanecer na rede interna de uma empresa, a integração On Premise da Ultralytics Platform executa a ingestão, as pré-visualizações e o treinamento dos conjuntos de dados no próprio computador da empresa: o worker monta a pasta do conjunto de dados como somente leitura e estabelece uma conexão de saída por HTTPS sem abrir portas de entrada, e os pixels das imagens nunca chegam à Platform, que recebe somente rótulos, métricas e o melhor checkpoint.

Segurança dos dados vs. privacidade dos dados#

A privacidade de dados diz respeito a se os dados pessoais são coletados, usados, compartilhados e retidos de forma legal e conforme as informações fornecidas às pessoas, nos termos de leis como o GDPR. A segurança de dados fornece as proteções técnicas e organizacionais das quais dependem os compromissos de privacidade e abrange todos os dados valiosos, incluindo segredos comerciais, código-fonte e pesos de modelos que não contêm informações pessoais. Técnicas de aprimoramento da privacidade, como a privacidade diferencial, ficam entre as duas, limitando o que um modelo ou uma estatística divulgados revelam sobre qualquer pessoa. Uma violação é uma falha de segurança que se torna um incidente de privacidade quando dados pessoais são expostos: pelo Artigo 33 do GDPR, o controlador tem 72 horas a partir do momento em que toma conhecimento da violação para notificar sua autoridade supervisora, a menos que seja improvável que a violação coloque em risco os direitos e as liberdades das pessoas.