Tudo o que precisas saber sobre IA explicável (XAI)

Já alguma vez viste uma resposta de uma ferramenta de inteligência artificial (IA) como o ChatGPT e te perguntaste como chegou a essa conclusão? Então, encontraste a preocupação da "caixa negra" da IA. É um termo que se refere à falta de clareza sobre como os modelos de IA processam e analisam dados. Mesmo engenheiros e cientistas de IA que trabalham regularmente com algoritmos de IA de ponta podem achar desafiante compreender totalmente o seu funcionamento interno. De facto, apenas 22% dos profissionais de TI compreendem verdadeiramente as capacidades das ferramentas de IA.

A incerteza sobre como os modelos de IA tomam decisões pode ser arriscada, especialmente em áreas críticas como visão computacional na saúde e IA em finanças. Contudo, tem sido feito um progresso significativo para enfrentar estes desafios e melhorar a transparência.

Em particular, a inteligência artificial explicável (XAI) foca-se exclusivamente na resolução desta preocupação. De forma simples, é um conjunto de processos e métodos que ajudam os utilizadores humanos a compreender e confiar nos resultados ou saídas fornecidas por algoritmos complexos de aprendizagem automática.

A XAI pode ajudar os programadores a garantir que os sistemas de IA estão a funcionar como esperado. Também pode ajudar as empresas de IA a cumprir padrões regulamentares. Neste artigo, exploraremos a inteligência artificial explicável e a sua vasta gama de casos de uso. Vamos começar!

Link to this sectionA importância da inteligência artificial explicável#

A explicabilidade é fundamental ao trabalhar com IA. Isto é especialmente verdadeiro quando se trata da subárea da IA, a visão computacional, que é amplamente utilizada em aplicações em setores como a saúde. Ao utilizar modelos de visão em setores tão sensíveis, é importante que o funcionamento do modelo seja transparente e interpretável por todos.

A interpretabilidade em modelos de visão computacional ajuda os utilizadores a terem uma melhor compreensão de como uma previsão foi feita e a lógica por trás dela. A transparência contribui para isso ao tornar o funcionamento do modelo claro para todos, descrevendo claramente as limitações do modelo e garantindo que os dados são utilizados de forma ética. Por exemplo, a visão computacional pode ajudar radiologistas a identificar eficientemente complicações de saúde em imagens de raios-X.

Fig 1. Raios-X do peito analisados usando IA de visão mostrando classificações de tuberculose saudável, doente, ativa e latente.

No entanto, um sistema de visão que seja apenas preciso não é suficiente. O sistema também precisa de ser capaz de explicar as suas decisões. Digamos que o sistema pudesse mostrar que partes da imagem levaram às suas conclusões - então, quaisquer resultados seriam mais claros. Tal nível de transparência ajudaria os profissionais médicos a verificar os seus achados e a garantir que o cuidado ao paciente cumpre os padrões médicos.

Outra razão pela qual a explicabilidade é essencial é que torna as empresas de IA responsáveis e cria confiança nos utilizadores. Uma IA fiável leva os utilizadores a sentirem-se confiantes de que as inovações em IA funcionam de forma fiável, tomam decisões justas e tratam dados de forma responsável.

Link to this sectionPrincipais técnicas de inteligência artificial explicável em visão computacional#

Agora que discutimos por que a explicabilidade importa na visão computacional, vamos dar uma vista de olhos às principais técnicas de XAI usadas na IA de visão.

Link to this sectionMapas de saliência#

As redes neuronais são modelos inspirados no cérebro humano, concebidos para reconhecer padrões e tomar decisões através do processamento de dados por camadas interconectadas de nós (neurónios). Podem ser usadas para resolver problemas complexos de visão computacional com alta precisão. Mesmo com esta precisão, continuam a ser caixas negras por design.

Os mapas de saliência são uma técnica de XAI que pode ser usada para ajudar a fazer sentido do que as redes neuronais estão a ver quando analisam imagens. Também podem ser usados para solucionar problemas em modelos caso não estejam a ter o desempenho esperado.

Os mapas de saliência funcionam focando-se em que partes de uma imagem (píxeis) definem as previsões de um modelo. Este processo é muito semelhante à retropropagação, onde o modelo traça o caminho de volta das previsões até à entrada. Mas, em vez de atualizar os pesos do modelo com base em erros, estamos apenas a observar o quanto cada píxel "importa" para a previsão. Os mapas de saliência são muito úteis para tarefas de visão computacional como a classificação de imagens.

Por exemplo, se um modelo de classificação de imagens prevê que uma imagem é de um cão, podemos observar o seu mapa de saliência para entender por que o modelo pensa que é um cão. Isto ajuda-nos a identificar quais os píxeis que afetam mais a saída. O mapa de saliência destacaria todos os píxeis que contribuíram para a previsão final de que a imagem é um cão.

Fig 2. Uma vista lado a lado das imagens de entrada e os seus mapas de saliência.

Link to this sectionClass Activation Mapping (CAM)#

O Class Activation Mapping é outra técnica de XAI usada para entender em que partes de uma imagem uma rede neuronal se foca ao fazer previsões de classificação de imagens. Funciona de forma semelhante aos mapas de saliência, mas foca-se na identificação de características importantes na imagem em vez de píxeis específicos. Características são padrões ou detalhes, como formas ou texturas, que o modelo deteta na imagem.

Métodos como Gradient Weighted Class Activation Mapping (Grad-CAM) e Grad-CAM++ constroem sobre a mesma ideia, com algumas melhorias.

Aqui está como o CAM funciona:

• Antes da rede neuronal tomar a sua decisão final, utiliza um passo chamado global average pooling (GAP) para simplificar a informação. O GAP combina todos os píxeis num padrão detetado num único valor médio, criando um resumo para cada mapa de características (uma representação visual de padrões detetados).
• Cada mapa de características recebe então um peso que mostra o quão importante é para prever uma certa classe (como "pássaro" ou "gato").
• No entanto, uma limitação do CAM é que podes precisar de re-treinar o modelo para calcular estes pesos, o que pode ser moroso.

O Grad-CAM melhora isto usando gradientes, que são como sinais que mostram o quanto cada mapa de características influencia a previsão final. Este método evita a necessidade de GAP e torna mais fácil ver em que o modelo se foca sem re-treinar. O Grad-CAM++ leva isto um passo adiante ao focar-se apenas em influências positivas, o que torna os resultados ainda mais claros.

Fig 3. Comparando CAM, Grad-CAM e Grad-CAM++.

Link to this sectionExplicações contrafatuais#

As explicações contrafatuais são um elemento importante da inteligência artificial explicável. Uma explicação contrafactual envolve descrever uma situação ou resultado considerando cenários ou eventos alternativos que não aconteceram, mas que poderiam ter acontecido. Pode demonstrar como mudanças em variáveis específicas de entrada levam a resultados diferentes, como: "Se X não tivesse acontecido, Y não teria ocorrido."

Quando se trata de IA e visão computacional, uma explicação contrafactual identifica a menor mudança necessária em uma entrada (como uma imagem ou dados) para fazer com que um modelo de IA produza um resultado diferente e específico. Por exemplo, alterar a cor de um objeto em uma imagem pode mudar a previsão de um modelo de classificação de imagem de "gato" para "cachorro."

Outro bom exemplo seria mudar o ângulo ou a iluminação num sistema de reconhecimento facial. Isto poderia fazer com que o modelo identificasse um indivíduo diferente, mostrando como pequenas mudanças na entrada podem influenciar as previsões do modelo.

A forma mais simples de criar estas explicações é por tentativa e erro: podes mudar aleatoriamente partes da entrada (como características da imagem ou dados) até que o modelo de IA te dê o resultado desejado. Outros métodos incluem abordagens agnósticas ao modelo, que usam otimização e técnicas de pesquisa para encontrar mudanças, e abordagens específicas do modelo, que dependem de definições internas ou cálculos para identificar as mudanças necessárias.

Link to this sectionAplicações da inteligência artificial explicável em visão computacional#

Agora que explorámos o que é a XAI e as suas principais técnicas, podemos percorrer como é usada na vida real. A XAI tem aplicações diversas em muitos campos. Vamos mergulhar em alguns casos de uso que destacam o seu potencial:

• Sistemas de segurança: A XAI pode ser usada para melhorar sistemas de segurança detetando imagens alteradas em documentos de identificação como passaportes e cartas de condução. Isto garante a autenticidade das imagens, fortalece os processos de verificação de identidade e evita atividades fraudulentas em aplicações sensíveis.

Fig 4. Como a XAI funciona para detetar imagens alteradas.

• Condução autónoma: Entender as capacidades e limitações do sistema de IA de visão a bordo de um carro autónomo pode ser uma enorme parte de testar o carro antes de ser implantado em estradas do mundo real. A XAI pode ajudar as empresas automóveis a identificar e abordar problemas de forma mais clara.

• Sistemas legais: Sistemas de análise de documentos com visão estão a ser cada vez mais usados na tomada de decisões judiciais. A XAI apoia resultados justos e permite que julgamentos automatizados sejam escrutinados. Também ajuda os profissionais legais a entender como um modelo de IA chega às suas decisões.

• Monitorização da vida selvagem: Armadilhas fotográficas são frequentemente usadas para monitorizar a vida selvagem e recolher dados sobre espécies animais. A XAI pode ser usada para explicar como a IA classifica estas espécies nas imagens. Ao fazer isto, os esforços de conservação podem ser mais fiáveis e precisos.

Link to this sectionPrincipais conclusões sobre inteligência artificial explicável#

A inteligência artificial explicável torna mais fácil entender como os sistemas de IA funcionam e por que tomam certas decisões. A transparência sobre modelos de IA cria confiança e responsabilidade. Conhecimento é poder e ajuda a que as inovações em IA sejam usadas de forma mais responsável. Em áreas críticas como saúde, segurança, condução autónoma e sistemas legais, a XAI pode ser usada para ajudar programadores e utilizadores a entender previsões de IA, identificar erros e garantir um uso justo e ético. Ao tornar a IA mais transparente, a XAI reduz a lacuna entre a tecnologia e a confiança humana, tornando-a mais segura e fiável para aplicações do mundo real.

Para saberes mais, visita o nosso repositório no GitHub e interage com a nossa comunidade. Explora aplicações de IA em carros autónomos e agricultura nas nossas páginas de soluções. 🚀