Tudo o que precisas de saber sobre IA explicável (XAI)

Alguma vez viste uma resposta de uma ferramenta de inteligência artificial (AI), como o ChatGPT, e te perguntaste como chegou a essa conclusão? Então, já te deparaste com a preocupação da “caixa negra” da AI. É um termo que se refere à falta de clareza sobre a forma como os modelos de AI processam e analisam dados. Até mesmo os engenheiros e cientistas de AI que trabalham regularmente com algoritmos de AI de ponta podem ter dificuldade em compreender totalmente o seu funcionamento interno. Na verdade, apenas 22% dos profissionais de TI compreendem verdadeiramente as capacidades das ferramentas de AI.

A incerteza em torno da forma como os modelos de AI tomam decisões pode ser arriscada, especialmente em áreas críticas como a visão computacional na área da saúde e a AI no setor financeiro. No entanto, estão a ser feitos progressos significativos para enfrentar estes desafios e melhorar a transparência.

Em particular, a inteligência artificial explicável (XAI) dedica-se exclusivamente a resolver esta preocupação. Dito de forma simples, é um conjunto de processos e métodos que ajuda os utilizadores humanos a compreender e a confiar nos resultados ou nas saídas fornecidos por algoritmos complexos de aprendizagem automática.

A XAI pode ajudar os programadores a garantir que os sistemas de AI funcionam conforme esperado. Também pode ajudar as empresas de AI a cumprir normas regulamentares. Neste artigo, vamos explorar a inteligência artificial explicável e a sua vasta gama de casos de utilização. Vamos começar!

A importância da inteligência artificial explicável#

A explicabilidade é fundamental quando se trabalha com AI. Isto é especialmente verdade no caso da área da AI, a visão computacional, que é amplamente utilizada em aplicações de setores como a saúde. Ao utilizar modelos de visão em setores tão sensíveis, é importante que o funcionamento do modelo seja transparente e interpretável para todos.

A interpretabilidade dos modelos de visão computacional ajuda os utilizadores a compreender melhor como foi feita uma previsão e qual a lógica por detrás dela. A transparência complementa este aspeto ao tornar claro o funcionamento do modelo para todos, definindo claramente as limitações do modelo e garantindo que os dados são utilizados de forma ética. Por exemplo, a visão computacional pode ajudar os radiologistas a identificar eficazmente complicações de saúde em imagens de raios X.

Fig. 1. Radiografias torácicas analisadas com AI de visão, apresentando classificações de tuberculose saudável, doente, ativa e latente.

No entanto, um sistema de visão que seja apenas preciso não é suficiente. O sistema também precisa de conseguir explicar as suas decisões. Imagina que o sistema conseguia mostrar que partes da imagem conduziram às suas conclusões — então, qualquer saída seria mais clara. Este nível de transparência ajudaria os profissionais de saúde a verificar novamente as suas conclusões e a garantir que os cuidados prestados aos pacientes cumprem as normas médicas.

Outra razão pela qual a explicabilidade é essencial é o facto de tornar as empresas de AI responsáveis e criar confiança nos utilizadores. Uma AI de confiança faz com que os utilizadores se sintam seguros de que as inovações de AI funcionam de forma fiável, tomam decisões justas e tratam os dados de forma responsável.

Principais técnicas de inteligência artificial explicável na visão computacional#

Agora que já discutimos por que razão a explicabilidade é importante na visão computacional, vamos analisar as principais técnicas de XAI utilizadas na AI de visão.

Mapas de saliência#

As redes neuronais são modelos inspirados no cérebro humano, concebidos para reconhecer padrões e tomar decisões através do processamento de dados em camadas interligadas de nós (neurónios). Podem ser utilizadas para resolver problemas complexos de visão computacional com elevada precisão. Mesmo com esta precisão, continuam a ser caixas negras por conceção.

Os mapas de saliência são uma técnica de XAI que pode ser utilizada para ajudar a compreender o que as redes neuronais veem ao analisar imagens. Também podem ser utilizados para resolver problemas dos modelos caso estes não estejam a funcionar conforme esperado.

Os mapas de saliência funcionam concentrando-se nas partes de uma imagem (pixéis) que definem as previsões de um modelo. Este processo é muito semelhante à retropropagação, em que o modelo recua das previsões até à entrada. Mas, em vez de atualizar os pesos do modelo com base nos erros, analisamos apenas o quanto cada pixel "importa" para a previsão. Os mapas de saliência são muito úteis para tarefas de visão computacional, como a classificação de imagens.

Por exemplo, se um modelo de classificação de imagens previr que uma imagem representa um cão, podemos consultar o seu mapa de saliência para compreender por que razão o modelo pensa que é um cão. Isto ajuda-nos a identificar os pixéis que mais afetam a saída. O mapa de saliência destacaria todos os pixéis que contribuíram para a previsão final de que a imagem representava um cão.

Fig. 2. Vista lado a lado das imagens de entrada e dos respetivos mapas de saliência.

Mapeamento de Ativação de Classes (CAM)#

O Mapeamento de Ativação de Classes é outra técnica de XAI utilizada para compreender em que partes de uma imagem uma rede neuronal se concentra ao fazer previsões de classificação de imagens. Funciona de forma semelhante aos mapas de saliência, mas concentra-se na identificação de características importantes da imagem, em vez de pixéis específicos. As características são padrões ou detalhes, como formas ou texturas, que o modelo deteta na imagem.

Métodos como o Mapeamento de Ativação de Classes Ponderado pelo Gradiente (Grad-CAM) e o Grad-CAM++ baseiam-se na mesma ideia, com algumas melhorias.

Eis como funciona o CAM:

• Antes de a rede neuronal tomar a sua decisão final, utiliza uma etapa chamada agrupamento médio global (GAP) para simplificar a informação. O GAP combina todos os pixéis de um padrão detetado num único valor médio, criando um resumo para cada mapa de características (uma representação visual dos padrões detetados).
• A cada mapa de características é atribuído um peso que indica a sua importância para prever uma determinada classe (como "pássaro" ou "gato").
• No entanto, uma limitação do CAM é que podes ter de voltar a treinar o modelo para calcular estes pesos, o que pode ser demorado.

O Grad-CAM melhora este processo ao utilizar gradientes, que funcionam como sinais que mostram o quanto cada mapa de características influencia a previsão final. Este método evita a necessidade de GAP e facilita a visualização daquilo em que o modelo se concentra sem voltar a treiná-lo. O Grad-CAM++ leva isto um passo mais além ao concentrar-se apenas nas influências positivas, o que torna os resultados ainda mais claros.

Fig. 3. Comparação entre CAM, Grad-CAM e Grad-CAM++.

Explicações contrafactuais#

As explicações contrafactuais são um elemento importante da inteligência artificial explicável. Uma explicação contrafactual consiste em descrever uma situação ou um resultado considerando cenários ou acontecimentos alternativos que não ocorreram, mas poderiam ter ocorrido. Pode demonstrar como alterações em variáveis de entrada específicas conduzem a resultados diferentes, como: “Se X não tivesse acontecido, Y não teria ocorrido.”

No contexto da AI e da visão computacional, uma explicação contrafactual identifica a menor alteração necessária numa entrada (como uma imagem ou dados) para levar um modelo de AI a produzir um resultado diferente e específico. Por exemplo, alterar a cor de um objeto numa imagem poderia mudar a previsão de um modelo de classificação de imagens de "gato" para "cão".

Outro bom exemplo seria alterar o ângulo ou a iluminação num sistema de reconhecimento facial. Isto poderia fazer com que o modelo identificasse uma pessoa diferente, mostrando como pequenas alterações na entrada podem influenciar as previsões do modelo.

A forma mais simples de criar estas explicações é através de tentativa e erro: podes alterar aleatoriamente partes da entrada (como características da imagem ou dos dados) até o modelo de AI fornecer o resultado pretendido. Outros métodos incluem abordagens independentes do modelo, que utilizam técnicas de otimização e pesquisa para encontrar alterações, e abordagens específicas do modelo, que dependem de definições internas ou cálculos para identificar as alterações necessárias.

Aplicações da inteligência artificial explicável na visão computacional#

Agora que explorámos o que é a XAI e quais são as suas principais técnicas, podemos analisar como é utilizada na vida real. A XAI tem aplicações diversas em muitos setores. Vamos conhecer alguns casos de utilização que destacam o seu potencial:

• Sistemas de segurança: a XAI pode ser utilizada para melhorar os sistemas de segurança através da deteção de imagens manipuladas em documentos de identificação, como passaportes e cartas de condução. Isto garante a autenticidade das imagens, reforça os processos de verificação de identidade e evita atividades fraudulentas em aplicações sensíveis.

Fig. 4. Como a XAI funciona para detetar imagens manipuladas.

• Condução autónoma: compreender as capacidades e limitações do sistema de AI de visão integrado num automóvel autónomo pode ser uma parte fundamental dos testes ao veículo antes da sua utilização em estradas reais. A XAI pode ajudar as empresas automóveis a identificar e resolver problemas com maior clareza.

• Sistemas jurídicos: os sistemas de análise de documentos com visão são cada vez mais utilizados na tomada de decisões judiciais. A XAI apoia resultados justos e permite analisar decisões automatizadas. Também ajuda os profissionais do direito a compreender como um modelo de AI chega às suas decisões.

• Monitorização da vida selvagem: as câmaras de captura são frequentemente utilizadas para monitorizar a vida selvagem e recolher dados sobre espécies animais. A XAI pode ser utilizada para explicar como a AI classifica estas espécies nas imagens. Deste modo, os esforços de conservação podem ser mais fiáveis e precisos.

Principais conclusões sobre a inteligência artificial explicável#

A inteligência artificial explicável facilita a compreensão do funcionamento dos sistemas de AI e das razões pelas quais tomam determinadas decisões. A transparência sobre os modelos de AI cria confiança e responsabilidade. O conhecimento é poder e ajuda a utilizar as inovações de AI de forma mais responsável. Em áreas críticas como a saúde, a segurança, a condução autónoma e os sistemas jurídicos, a XAI pode ser utilizada para ajudar programadores e utilizadores a compreender as previsões da AI, identificar erros e garantir uma utilização justa e ética. Ao tornar a AI mais transparente, a XAI cria uma ponte entre a tecnologia e a confiança humana, tornando-a mais segura e fiável para aplicações no mundo real.

Para saberes mais, visita o nosso repositório do GitHub e participa na nossa comunidade. Explora as aplicações de AI em automóveis autónomos e na agricultura nas nossas páginas de soluções. 🚀