Concept Bottleneck Models

Os modelos de gargalo de conceito (CBMs) são redes neurais que fazem uma previsão através de uma camada intermediária de conceitos compreensíveis por humanos. Em vez de mapear uma entrada diretamente para um rótulo final, um CBM primeiro prevê atributos significativos — como “asa vermelha”, “trinca superficial” ou “estreitamento articular” — e depois usa apenas esses atributos para produzir sua decisão. Essa estrutura torna o modelo mais fácil de inspecionar, depurar e corrigir do que um modelo convencional de caixa-preta.

Como Funcionam os Modelos de Gargalo de Conceito#

Uma rede neural padrão frequentemente representa informações em um espaço latente opaco. Um CBM substitui uma parte dessa representação oculta por um vetor de conceito cujas dimensões possuem significados definidos.

Seu pipeline de previsão possui dois estágios principais:

1. Um preditor de conceitos mapeia a entrada bruta, como uma imagem, para valores de conceito.
2. Um preditor de alvo mapeia esses valores de conceito para a classe ou pontuação final.

Por exemplo, um classificador de pássaros pode prever “bico preto”, “peito branco” e “cauda longa” antes de identificar a espécie. Os conceitos podem ser binários, categóricos ou contínuos. Eles geralmente são aprendidos por meio de aprendizado supervisionado, exigindo que cada exemplo de treinamento inclua tanto os rótulos de destino quanto as anotações de conceito.

Os dois estágios podem ser treinados de forma independente, sequencial ou conjunta. O treinamento independente torna a separação explícita, enquanto o treinamento conjunto pode equilibrar a qualidade do conceito em relação ao desempenho da tarefa final. Em todos os casos, o gargalo deve restringir o preditor de alvo aos conceitos declarados; caso contrário, informações ocultas podem burlar a explicação pretendida.

Por Que a Interpretabilidade e a Intervenção Importam#

Os CBMs são uma forma de IA explicável intrínseca: sua estrutura interpretável é incorporada à previsão em vez de ser adicionada posteriormente. Isso difere de ferramentas pós-hoc, como mapas de saliência, que estimam o que influenciou uma caixa-preta já treinada.

A camada de conceito suporta várias interações úteis:

• Os usuários podem inspecionar quais conceitos causaram uma decisão.
• Especialistas de domínio podem corrigir um conceito impreciso e recalcular a saída.
• Desenvolvedores podem testar se o preditor de alvo segue a lógica de domínio válida.
• As equipes podem medir a precisão do conceito separadamente da precisão da tarefa final.

Essas capacidades estão alinhadas com a orientação do NIST sobre IA explicável e com os controles centrados no ser humano discutidos no Guia de Pessoas + IA. No entanto, uma explicação compreensível não é automaticamente correta. A fidelidade do conceito deve ser avaliada em vez de assumida.

Aplicações no Mundo Real#

• Análise de Imagem Médica: Um modelo que analisa uma radiografia pode estimar conceitos como esporões ósseos, estreitamento do espaço articular e esclerose antes de classificar a gravidade da doença. Um clínico pode revisar ou corrigir esses achados intermediários em vez de receber apenas uma pontuação de gravidade. Essa interação entre humano e modelo é particularmente relevante para os principios de transparência da FDA para dispositivos médicos de aprendizado de máquina.

• Inspeção Visual de Manufatura: Um sistema de visão pode identificar conceitos como componentes ausentes, trincas, descoloração ou alinhamento incorreto, e então usá-los para decidir se um produto passa na inspeção ou requer um reparo específico. A detecção de objetos pode localizar componentes e defeitos, enquanto o classificador baseado em conceito a jusante fornece uma decisão de qualidade auditável.

Limitações e Conceitos Relacionados#

Os rótulos de conceito criam custos adicionais de anotação de dados e podem exigir conhecimento especializado. Conceitos mal definidos podem ser subjetivos, correlacionados, incompletos ou difíceis de reconhecer a partir da entrada. As equipes devem criar regras de rotulagem precisas e auditar divergências entre os anotadores.

Outros riscos importantes incluem erros de previsão de conceito, pontuações não calibradas e vazamento de conceito, onde valores de conceito contínuos codificam informações não intencionais além de seu significado declarado. Orientações sobre calibração de probabilidade podem ajudar a determinar se os valores de confiança do conceito são confiáveis.

Um CBM também é diferente de engenharia de recursos: recursos projetados são entradas computadas manualmente, enquanto conceitos são normalmente previstos a partir de dados brutos e explicitamente supervisionados. Ele não é o mesmo que o princípio do gargalo de informação, que comprime representações sem exigir que cada dimensão seja legível por humanos.

O desempenho do conceito deve ser verificado em fatias de dados relevantes porque anotações tendenciosas ou conceitos ausentes podem produzir erros desiguais. A orientação do Google para identificar viés de ML e o NIST AI RMF Core fornecem práticas úteis de avaliação e governança.

Construindo um Pipeline de Visão Prático#

Um modelo Ultralytics YOLO26 pode atuar como um extrator de conceitos visuais a montante. O seguinte fluxograma do modo Predict coleta classes de objetos detectadas como sinais de conceito candidatos:

from ultralytics import YOLO

# Load a pretrained visual concept extractor
model = YOLO("yolo26n.pt")

# Run inference and select the first result
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]

# Convert detected classes into human-readable concept candidates
concepts = {result.names[int(class_id)] for class_id in result.boxes.cls}
print(sorted(concepts))

result.save(filename="concept_candidates.jpg")

Este não é um CBM completo: um modelo a jusante ainda precisa ser treinado para prever o alvo final exclusivamente a partir dos conceitos selecionados. As equipes podem usar a Ultralytics Platform para anotar dados visuais, treinar extratores de conceitos, comparar experimentos e monitorar componentes implantados. Avalie a precisão do conceito, a precisão do alvo, a calibração, o comportamento de intervenção e subgrupos importantes separadamente usando um fluxograma de avaliação de modelo estruturado.