Shadow AI

IA sombra é o uso de ferramentas, modelos e serviços de inteligência artificial dentro de uma organização sem o conhecimento ou a aprovação das equipes de TI, segurança ou conformidade. Casos típicos incluem funcionários colando conteúdo do trabalho em uma conta pessoal de um assistente de IA generativa, desenvolvedores chamando uma API de modelo sem aprovação e equipes ativando recursos de IA em softwares que já usam. IA sombra é um subconjunto da TI sombra, o problema mais antigo de aplicativos e serviços em nuvem não aprovados, e cresce pelo mesmo motivo: as ferramentas são gratuitas ou baratas, podem ser adotadas em minutos e aumentam a produtividade.

Por que IA sombra difere de TI sombra#

Os serviços de IA processam os dados que recebem e também os armazenam. Cada prompt enviado a um modelo de linguagem de grande porte (LLM) sai da organização, e os planos para consumidores podem reter conversas ou usá-las como dados de treinamento, a menos que o usuário desative essa opção. Em 2023, engenheiros da Samsung colaram código-fonte confidencial e anotações de reuniões no ChatGPT, e a empresa então restringiu o uso de ferramentas de IA generativa em seus dispositivos.

Os riscos também existem na direção oposta. A saída de um assistente não avaliado pode introduzir alucinações, código inseguro ou texto com licença pouco clara em produtos e decisões sem que ninguém os verifique. Pesos de modelos baixados de hubs públicos como o Hugging Face podem executar código arbitrário ao serem carregados se usarem o formato pickle do Python; por isso, o formato safetensors armazena apenas tensores. Agentes de IA conectados a e-mails, calendários ou repositórios de código com um token pessoal de funcionário podem agir nos sistemas da empresa, e uma página da web ou documento malicioso pode conduzi-los por meio de injeção de prompt.

O custo aparece nos dados sobre violações. O relatório Cost of a Data Breach de 2026 da IBM constatou que 43% das organizações afetadas que analisou tiveram incidentes envolvendo IA sombra, ante 20% no ano anterior, e que essas violações custaram em média US$ 5,39 milhões, em comparação com a média geral de US$ 4,99 milhões.

Formas comuns de IA paralela#

• Chatbots e assistentes de escrita: contas pessoais usadas para resumir contratos, depurar código proprietário ou redigir respostas que contenham registros de clientes.
• Recursos de IA incorporados: um fornecedor adiciona transcrição, resumo ou atas de reunião a uma ferramenta aprovada, e o recurso começa a enviar dados a um novo subprocessador sem uma nova análise.
• Modelos e APIs não avaliados: desenvolvedores enviam imagens para uma API externa de visão computacional ou implantam pesos baixados cuja licença, proveniência e segurança ninguém verificou.
• Extensões e agentes de navegador: ferramentas que leem todas as páginas abertas por um funcionário ou agem em nome dele em contas conectadas.

Detecção e redução da IA paralela#

A descoberta combina vários sinais: registros de rede e DNS que mostram tráfego para endpoints de IA, agentes de segurança de acesso à nuvem e ferramentas de prevenção contra perda de dados que inspecionam uploads, inventários de extensões do navegador, relatórios de despesas com assinaturas de IA e chaves de API, além de pesquisas ou programas de anistia nos quais as equipes declaram as ferramentas que usam. Cada ferramenta identificada passa então pela mesma triagem, apresentada abaixo, e entra no inventário do qual a governança de IA depende.

Os programas que reduzem a IA paralela combinam regras claras sobre quais dados podem ser inseridos em quais ferramentas com opções aprovadas igualmente fáceis de usar: contas empresariais com o treinamento em dados de clientes desativado, um gateway de IA que registra e filtra todo o tráfego de modelos e modelos auto-hospedados para os trabalhos mais sensíveis. O treinamento em literacia em IA explica por que as regras existem e quais ferramentas estão aprovadas.

O trabalho de visão computacional tem uma versão própria do problema quando imagens de pessoas, produtos ou instalações ficam em contas pessoais de ferramentas online de anotação e treinamento. Num espaço de trabalho de equipe da Ultralytics Platform, os conjuntos de dados, modelos e implantações criados por qualquer membro pertencem à equipe, todos os membros podem vê-los e as funções de Owner, Admin, Editor e Viewer determinam quem pode alterá-los.

A IA paralela é um problema de visibilidade que se transforma em incidentes de privacidade de dados e segurança de dados, pois uma equipe de segurança não pode avaliar, proteger ou monitorar uma ferramenta cuja existência desconhece. O NIST AI Risk Management Framework aborda esse problema na subcategoria GOVERN 1.6, que prevê mecanismos para inventariar sistemas de IA, com recursos alocados de acordo com as prioridades de risco organizacionais.