Transparency in AI

A transparência em IA é a abertura sobre como um sistema de inteligência artificial (AI) é criado, treinado, avaliado e utilizado, bem como a informação dada às pessoas de que estão a interagir com um sistema desse tipo. Responde a perguntas sobre o sistema como um todo: que dados foram usados para treinar o modelo, quem o criou e com que finalidade, qual é o seu desempenho e para quem, para que não deve ser utilizado e se um interlocutor de chat, uma imagem ou uma decisão foi gerada por IA. A transparência permite que os utilizadores ajustem o nível de confiança, que auditores e reguladores verifiquem as alegações sobre o sistema e que investigadores encontrem falhas como o enviesamento algorítmico, razão pela qual os Princípios de IA da OCDE e a maioria dos restantes quadros de ética em IA a enumeram como princípio fundamental.

Formas de transparência#

• Divulgação: As pessoas são informadas quando interagem com um sistema de IA ou veem conteúdo gerado por IA. O artigo 50.º do Regulamento da UE relativo à IA, aplicável desde 2 de agosto de 2026, exige que os chatbots deixem claro que os utilizadores estão a falar com uma máquina, exige que os fornecedores de sistemas generativos assinalem os respetivos resultados num formato legível por máquina e exige que os responsáveis pela implementação identifiquem as deepfakes. Normas como as Content Credentials (C2PA) e a marca de água em IA implementam essa sinalização.
• Documentação: Um cartão de modelo descreve a utilização prevista de um modelo, os dados de treino, os resultados da avaliação discriminados por grupo e as limitações conhecidas; as fichas de dados para conjuntos de dados fazem o mesmo para os dados, registando a motivação, a composição, o processo de recolha e as utilizações recomendadas. Ao abrigo do Regulamento da UE relativo à IA, os fornecedores de modelos de IA de finalidade geral também têm de publicar um resumo dos dados usados no treino, recorrendo a um modelo que a Comissão Europeia publicou em julho de 2025.
• Acesso: A publicação de pesos, código ou dados permite que terceiros inspecionem, reproduzam e testem diretamente um modelo, em vez de dependerem dos relatórios do seu criador.
• Explicações dos resultados: As decisões individuais podem ser explicadas com métodos de IA explicável (XAI), exigidos pelo RGPD e pelo Regulamento da UE relativo à IA em alguns contextos de alto risco.

O acesso existe em vários graus. Um modelo fechado só pode ser utilizado através da API do seu criador; um modelo de pesos abertos publica os seus parâmetros; e a Definição de IA de Código Aberto 1.0 da Open Source Initiative, publicada em outubro de 2024, também exige o código completo de treino e inferência e informações suficientes sobre os dados de treino, incluindo a sua proveniência e processamento, para que uma pessoa qualificada possa criar um sistema substancialmente equivalente:

Transparência e explicabilidade#

Os termos sobrepõem-se e por vezes são usados em conjunto, como em «transparência e explicabilidade». A transparência diz respeito ao sistema e ao processo que o produziu e aplica-se mesmo a um modelo que ninguém consegue interpretar, por exemplo, quando um criador documenta os dados de treino e os resultados dos testes. A explicabilidade diz respeito ao motivo pelo qual um modelo produziu um resultado específico, como quais os píxeis que determinaram uma classificação. Os modelos interpretáveis, como as árvores de decisão pequenas, são concebidos para serem compreensíveis, e a interpretabilidade mecanística faz engenharia inversa aos circuitos internos de redes de grande dimensão. A proveniência dos dados, o registo da origem dos dados e das alterações que sofreram, fornece grande parte das informações presentes nos relatórios de transparência.

Documentação que acompanha o modelo#

A documentação é mais útil quando permanece associada ao modelo após a implementação. Ultralytics YOLO26 grava em cada modelo exportado uma descrição do modelo e do respetivo conjunto de dados de treino, a versão da biblioteca, a data de exportação, a tarefa, o tamanho da entrada e os nomes das classes, por exemplo, nas propriedades de metadados de um ficheiro ONNX, e o Ultralytics volta a ler esses campos para executar corretamente o modelo:

import onnx
from ultralytics import YOLO

# Export YOLO26 to ONNX; the exporter embeds provenance metadata in the file
model = YOLO("yolo26n.pt")
onnx_path = model.export(format="onnx")

# Anyone holding only the exported file can read where it came from
metadata = {prop.key: prop.value for prop in onnx.load(onnx_path).metadata_props}
for key in ("description", "author", "version", "date", "task", "imgsz"):
    print(f"{key}: {metadata[key]}")

Os campos apresentados identificam o modelo, os respetivos dados de treino, o software usado para o exportar e a data da exportação, sem necessidade de aceder à execução de treino original.

Medir a transparência#

O Índice de Transparência de Modelos Fundamentais de Stanford atribui pontuações aos principais criadores de IA com base em 100 indicadores que abrangem os dados e o poder computacional por detrás dos seus modelos emblemáticos, os próprios modelos e a forma como são utilizados após a publicação. Na edição de 2025, que avaliou 13 criadores, a média desceu de 58 em 2024 para 40 em 100; os criadores foram mais opacos quanto aos dados e ao poder computacional de treino, enquanto a IBM alcançou a pontuação mais elevada do índice, com 95.