새롭게 부상하는 신경-기호 AI 분야 소개

오늘날 인공지능 (AI)의 급속한 발전과 컴퓨팅 성능의 가용성 증가에 힘입어 고급 AI 모델이 그 어느 때보다 빠르게 출시되고 있습니다. 실제로 AI 분야는 여러 산업에서 의미 있는 혁신을 이끌고 있습니다.

예를 들어 헬스케어 분야에서는 조기 진단을 위한 의료 영상 분석과 같은 작업을 지원하는 데 AI 시스템이 사용되고 있습니다. 하지만 다른 기술과 마찬가지로 AI에도 한계가 있습니다.

주요 우려 사항 중 하나는 투명성입니다. 예를 들어 객체 탐지 모델이 MRI 뇌 스캔에서 종양의 위치를 정확하게 찾더라도, 모델이 어떻게 그러한 결론에 도달했는지 이해하기 어려울 수 있습니다. 설명 가능성이 부족하면 의사와 연구자가 AI 결과를 충분히 신뢰하거나 검증하기가 더 어려워집니다.

바로 이러한 이유로 새롭게 떠오르는 신경-기호 AI 분야에 대한 관심이 높아지고 있습니다. 신경-기호 AI는 딥러닝의 패턴 인식 능력과 기호 AI에 기반한 구조적이고 규칙 중심적인 추론을 결합합니다. 정확하게 예측하는 동시에 사람이 이해할 수 있는 방식으로 추론 과정을 설명할 수 있는 시스템을 만드는 것이 목표입니다.

이 글에서는 신경-기호 인공지능이 어떻게 작동하고, 학습과 추론을 결합해 더 투명하고 맥락을 이해하는 시스템을 구축하는 방법을 살펴보겠습니다. 시작해 보겠습니다!

신경-기호 AI의 두 가지 측면: 학습과 추론#

신경-기호 AI를 자세히 살펴보기 전에, 신경-기호 AI가 결합하는 두 가지 하위 분야인 딥러닝과 기호 AI부터 살펴보겠습니다.

딥러닝은 데이터에서 패턴을 인식하는 데 중점을 두는 반면, 기호 AI는 규칙, 논리 또는 상식에 기반해 문제를 추론합니다. 두 분야 모두 장점이 있지만 한계도 있습니다. 신경-기호 AI는 두 분야를 결합해 데이터로 학습하고 의사결정을 더 명확하게 설명할 수 있는 시스템을 만듭니다.

딥러닝 개요#

딥러닝은 뇌의 정보 처리 방식에서 느슨하게 영감을 얻은 인공 신경망을 사용하는 머신러닝의 한 분야입니다. 이러한 신경망은 대량의 데이터를 분석하고 내부 연결을 조정해 성능을 개선하는 방식으로 학습합니다.

이를 통해 모든 상황에 맞는 규칙을 직접 만들지 않아도 이미지, 소리, 텍스트에서 패턴을 인식할 수 있습니다. 이러한 특성 덕분에 딥러닝은 이미지 인식, 음성 처리, 언어 번역과 같은 지각 중심 작업에 매우 효과적입니다.

좋은 예로는 이미지에서 객체를 분할하도록 학습한 컴퓨터 비전 모델이 있습니다. 라벨이 지정된 예시가 충분하면 실시간 교통 영상에서 도로, 차량, 보행자를 구분하도록 학습할 수 있습니다.

하지만 정확도가 높더라도 딥러닝 모델은 특정 결과에 도달한 과정을 명확히 설명하는 데 어려움을 겪는 경우가 많습니다. 흔히 블랙박스 문제라고 부르는 이 과제는 사용자가 모델의 의사결정을 해석하거나 검증하기 어렵게 만들며, 특히 헬스케어나 금융처럼 민감한 분야에서 문제가 됩니다. 책임 있는 AI를 위해서는 투명성과 신뢰, 그리고 모델이 특정 예측을 한 이유를 이해할 수 있는 능력이 필요하므로 이는 중요한 문제입니다.

기호 AI 살펴보기#

기호 AI는 지능과 의사결정에 보다 구조적인 접근 방식을 취합니다. 기호를 사용해 지식을 표현하고 그 지식에 논리 규칙을 적용해 문제를 해결하며, 이는 추론과 언어를 사용해 문제를 해결하는 방식과 비슷합니다. 추론 과정의 각 단계가 명확히 정의되어 있으므로 기호 AI의 의사결정은 투명하고 설명하기도 쉽습니다.

기호 지식은 계획, 일정 수립, 구조화된 지식 관리처럼 명확하고 잘 정의된 규칙을 따르는 작업에서 특히 효과적입니다. 하지만 기호 AI는 비정형 데이터나 사전에 정의된 범주에 깔끔하게 들어맞지 않는 상황을 처리하는 데 어려움을 겪습니다.

기호 접근 방식이 적용된 대표적인 사례로 초기 체스 프로그램을 들 수 있습니다. 초기 체스 프로그램은 이전 게임에서 학습하거나 상대에 맞춰 적응하는 대신 사람이 직접 만든 규칙과 고정된 전략을 따랐습니다. 그 결과 게임 방식이 경직되고 예측하기 쉬운 경향이 있었습니다.

그림 1. AI와 하위 분야의 구조 살펴보기. (이미지 제공: 작성자)

신경-기호 AI란 무엇인가요?#

2010년대에 딥러닝이 널리 도입되면서 연구자들은 단순한 패턴 인식을 넘어 관계와 맥락을 이해하는 방법을 모색하기 시작했습니다. 이러한 변화로 AI 모델은 장면에서 고양이와 매트 같은 객체를 탐지하는 데 그치지 않고, 고양이가 매트 위에 앉아 있다는 것처럼 객체 간의 관계도 해석할 수 있게 되었습니다.

하지만 이러한 발전은 핵심적인 한계도 드러냈습니다. 딥러닝 모델은 패턴을 매우 잘 인식할 수 있지만, 추론 과정을 설명하거나 익숙하지 않은 상황을 처리하는 데 어려움을 겪는 경우가 많습니다. 추론에 대한 관심이 다시 높아지면서 연구자들은 1980년대부터 이어져 온 분야인 신경-기호 AI를 다시 주목하게 되었습니다.

신경-기호 AI는 딥러닝과 기호 AI를 통합합니다. 딥러닝처럼 예시를 통해 학습하는 동시에 기호 AI처럼 논리와 추론을 적용할 수 있습니다.

간단히 말해 신경-기호 AI는 정보를 인식하고 맥락을 이해하며 의사결정에 대해 더 명확한 설명을 제공할 수 있습니다. 이 접근 방식은 더 신뢰할 수 있고 인간과 유사한 방식으로 작동하는 AI 시스템의 개발에 한 걸음 더 다가서게 합니다.

그림 2. 신경-기호 AI 이해하기 (이미지 제공: 작성자)

신경-기호 AI의 작동 방식 기본#

신경-기호 아키텍처는 하나의 프레임워크 안에서 학습과 추론을 결합합니다. 일반적으로 원시 데이터를 해석하는 신경망 지각 계층, 논리를 적용하는 기호 추론 계층, 두 계층을 연결하는 통합 계층의 세 가지 주요 부분으로 구성됩니다. 다음으로 각 계층을 자세히 살펴보겠습니다.

신경망 지각 계층#

신경망 지각 구성 요소는 이미지, 동영상, 텍스트, 오디오와 같은 비정형 데이터를 처리하고 시스템이 활용할 수 있는 내부 표현으로 변환합니다. 일반적으로 딥러닝 모델을 사용해 패턴을 탐지하고 입력에서 객체나 특징을 식별합니다. 이 단계에서 시스템은 데이터에 무엇이 있는지 인식하지만, 그 의미나 관계, 맥락에 대해 추론하지는 않습니다.

이 계층에서 사용되는 일반적인 딥러닝 모델 유형은 다음과 같습니다.

• 합성곱 신경망 (CNNs): 이미지와 같은 격자형 데이터를 처리하도록 설계된 신경망의 한 유형입니다. CNN은 합성곱 필터를 사용해 이미지 전체를 훑으며 에지, 텍스처, 형태와 같은 패턴을 탐지합니다. 이러한 패턴을 여러 층으로 쌓아 자동차, 과일, 사람과 같은 객체를 인식하도록 학습합니다.
• Transformer: Transformer는 입력의 여러 부분이 서로 어떻게 연관되는지 이해하도록 설계된 모델입니다. 정보를 순서대로만 읽는 대신 데이터의 여러 부분을 동시에 살펴보고 가장 중요한 부분을 판단할 수 있습니다. 이를 통해 텍스트, 이미지 또는 두 가지 모두에서 맥락을 이해할 수 있습니다. 이러한 유연성 덕분에 Transformer는 대부분의 최신 언어 모델과 여러 비전-언어 시스템의 핵심 아키텍처입니다.
• 순환 신경망 (RNNs): 음성이나 시계열 신호와 같은 순차 데이터를 분석하도록 설계된 모델 유형입니다. 이전 입력을 기억하므로 예측 시 시간에 따른 맥락을 고려할 수 있습니다.

궁극적으로 이러한 신경망 모델은 원시 데이터에서 의미 있는 특징을 추출하고 표현합니다. 이렇게 생성된 출력은 기호 추론 계층의 입력이 되며, 기호 추론 계층은 시스템이 탐지한 내용을 해석하고 추론합니다.

기호 추론 계층#

기호 추론 계층은 신경 지각 계층에서 생성된 정보를 받아 논리를 사용해 의미를 파악합니다. 단순히 패턴만 활용하는 대신 규칙, 지식 그래프, 지식 베이스, 온톨로지(개념과 개념 간 관계를 체계적으로 기술한 것) 등을 활용합니다. 이러한 요소는 시스템이 다양한 요소가 어떻게 연결되는지, 주어진 상황에서 어떤 행동이 적절한지 이해하는 데 도움이 됩니다.

예를 들어 자율주행차에서 신경 지각 계층은 카메라 영상에서 빨간색 신호등을 인식할 수 있습니다. 그러면 기호 추론 계층은 “신호등이 빨간색이면 차량은 정지해야 한다”와 같은 규칙을 적용할 수 있습니다. 명확한 규칙에 기반해 추론하므로 시스템의 결정을 설명하고 검증하기가 더 쉽습니다. 이는 안전과 책임이 중요한 상황에서 특히 중요합니다.

통합 계층#

통합 계층은 신경 지각 계층과 기호 추론 계층을 연결해 학습과 추론이 함께 작동하도록 합니다. 한 방향으로는 신경망 모델의 출력(예: 보행자 감지)을 객체와 속성을 기술하는 기호 표현으로 변환합니다.

반대 방향으로는 기호 규칙(예: “횡단보도에 보행자가 있으면 차량은 정지해야 한다”)을 받아 신경망 모델을 안내하는 신호로 변환합니다. 여기에는 이미지의 관련 영역을 강조하거나, 주의 집중에 영향을 주거나, 모델의 의사 결정 경로를 조정하는 작업이 포함될 수 있습니다.

이러한 양방향 교환은 피드백 루프를 형성합니다. 신경망 측은 기호 규칙을 통해 구조와 해석 가능성을 확보하고, 기호 측은 실제 데이터에 기반해 더 효과적으로 적응할 수 있습니다. 논리 신경망(LNN)과 같은 기법은 논리적 제약 조건을 신경망 아키텍처에 직접 삽입해 이러한 상호작용을 지원합니다.

지각과 추론을 이러한 방식으로 연결하면 신경 기호 AI는 정확하면서도 해석하기 쉬운 결정을 내릴 수 있습니다. 많은 연구자는 이 접근 방식이 더욱 신뢰할 수 있고 인간의 가치에 부합하는 AI를 향한 유망한 단계이며, 향후 인공 일반 지능(AGI) 발전의 기반이 될 가능성도 있다고 봅니다.

신경 기호 AI의 활용 분야#

신경 기호 AI가 무엇이고 어떻게 작동하는지 더 잘 이해했으니, 이제 실제 활용 사례를 살펴보겠습니다.

더 안전한 주행: 보행자를 보는 것에서 이해하는 것까지#

자율주행차가 안전하게 운행하려면 주변 환경을 이해해야 합니다. 자율주행차는 컴퓨터 비전과 같은 기술을 사용해 보행자, 차량, 차선 표시, 교통 표지판을 감지합니다.

딥러닝 모델은 이러한 객체를 정확하게 식별할 수 있지만, 실제 상황에서 객체가 무엇을 의미하는지 또는 서로 어떤 관계가 있는지는 항상 이해하지 못합니다. 예를 들어 신경망 모델은 횡단보도 위의 보행자를 인식할 수 있지만, 그 사람이 건너려는 것인지 아니면 서서 기다리는 것인지는 알아내지 못할 수 있습니다.

신경 기호 AI는 자율주행차가 시각 인식과 논리적 추론을 결합하도록 지원해, 객체를 식별하는 데 그치지 않고 상황을 해석하게 함으로써 이러한 간극을 좁히고자 합니다. 최근 AI 연구에 따르면 신경 지각과 기호 규칙을 결합한 시스템은 보행자 행동 예측을 개선할 수 있습니다.

이러한 시스템에서 신경망 구성 요소는 보행자의 자세, 움직임, 위치와 같은 시각적 단서를 분석합니다. 그런 다음 기호 구성 요소는 논리 규칙을 적용하며, 해당 사람이 횡단보도 근처에 있는지 또는 현재 교통 신호가 무엇을 나타내는지와 같은 요소를 고려합니다.

이 두 관점을 결합하면 신경 기호 시스템은 보행자를 단순히 감지하는 데 그치지 않습니다. 보행자가 길을 건널 가능성에 대해 합리적인 예측을 내리고, 그러한 결정을 내린 이유도 설명할 수 있습니다. 이를 통해 자율주행차는 더 안전하고 투명하게 동작합니다.

그림 3. 신경 기호 AI를 사용해 관찰된 보행자 행동을 바탕으로 예측하기. (출처)

시각 질의응답에서의 논리적 해석#

신경 기호 AI의 또 다른 중요한 활용 분야는 시각 질의응답(VQA)입니다. VQA 시스템은 이미지에 관한 질문에 답하도록 설계되었습니다.

이 기술은 대규모 언어 모델(LLMs)과 시각 모델을 결합해 멀티모달 추론을 수행하며, 시스템이 보는 것과 이해하는 것을 함께 활용합니다. 예를 들어 VQA 시스템에 이미지를 보여 주고 “컵이 테이블 위에 있나요?”라고 물으면, 객체를 인식할 뿐 아니라 객체 간 관계도 이해해야 합니다. 장면에서 컵이 실제로 테이블 위에 놓여 있는지 판단해야 합니다.

최근 연구에서는 신경 지각과 기호 추론을 통합해 신경 기호 AI가 VQA를 어떻게 향상할 수 있는지 보여 주었습니다. 제안된 시스템에서는 신경망이 먼저 이미지를 분석해 색상, 모양, 크기와 같은 객체와 속성을 인식합니다.

그런 다음 기호 추론 구성 요소가 논리 규칙을 적용해 객체 간 관계를 해석하고 질문에 답합니다. “장면에 회색 원기둥이 몇 개 있나요?”라는 질문을 받으면 신경망 부분은 모든 원기둥과 색상을 식별하고, 기호 부분은 조건에 따라 원기둥을 필터링한 뒤 해당하는 개수를 셉니다.

그림 4. 추상적 지식과 논리가 필요한 VQA 시나리오의 예. (출처)

이러한 연구는 신경 기호 VQA가 단순히 답을 제공하는 데서 더 나아갈 수 있음을 보여 줍니다. 모델이 결론에 도달하기까지의 단계를 제시할 수 있으므로, 시스템이 예측을 내리고 사람이 이해할 수 있는 방식으로 추론 근거를 설명하는 설명 가능한 AI를 지원합니다.

신경 기호 AI의 장단점#

신경 기호 AI를 사용할 때 얻을 수 있는 주요 이점은 다음과 같습니다.

• 향상된 추론 능력: 순수 딥러닝 모델과 달리 신경 기호 AI는 다단계 추론, 계획, 규칙 준수, 구조화된 지식 영역 처리와 같이 전통적으로 기호 AI가 뛰어난 작업을 수행할 수 있습니다.
• 적응성: 이러한 시스템은 학습한 범위를 넘어 논리적으로 추론할 수 있으므로 새롭거나 보지 못한 작업에서도 좋은 성능을 발휘합니다. 데이터를 단순히 암기하는 대신 관계와 패턴을 이해합니다.
• 노이즈와 모호성에 대한 견고성: 논리적 제약 조건은 데이터에 노이즈가 있거나 불완전하거나 모호할 때 오류를 방지하는 데 도움이 됩니다. 추론 계층은 신경망 예측을 안내하거나 수정하는 규칙을 적용할 수 있습니다.

신경 기호 AI는 잠재력이 있지만 아직 발전 중이며 실질적인 과제도 존재합니다. 주요 한계는 다음과 같습니다.

• 복잡한 통합: 이 하이브리드 프레임워크는 해석 가능성이 뛰어나지만, 지각과 추론을 결합하는 알고리즘을 설계하는 일은 여전히 어렵습니다.
• 확장성: 대규모 지식 그래프나 복잡한 규칙 집합을 처리할 때 기호 추론은 느려지거나 계산 비용이 커질 수 있습니다. 이로 인해 자율주행, 비디오 처리, 대규모 지식 추론과 같은 실시간 애플리케이션을 효율적으로 배포하기가 더 어려워질 수 있습니다.
• 추론의 견고성: 기호 규칙이 지나치게 경직되면 모호하거나 예측할 수 없는 실제 상황에서 시스템이 제대로 대응하지 못할 수 있습니다. 유연한 학습과 신뢰할 수 있는 추론 간의 균형을 맞추는 일은 여전히 해결해야 할 과제입니다.

핵심 요점#

신경 기호 AI는 세계를 지각할 뿐 아니라 세계에 대해 추론하고 결정을 설명할 수 있는 AI 시스템을 구축하는 데 중요한 진전을 나타냅니다. 데이터에서 학습한 패턴에 주로 의존하는 기존 딥러닝 시스템과 달리, 신경 기호 AI는 통계적 학습을 구조화된 논리 및 지식과 결합합니다. 딥러닝을 대체하는 것이 아니라 그 위에 구축해, 보다 인간과 유사한 방식으로 이해하고 추론하는 AI 개발에 한 걸음 더 다가갑니다.

커뮤니티에 참여하고 GitHub 저장소를 살펴보세요. 솔루션 페이지에서 농업 분야의 AI와 의료 분야의 컴퓨터 비전의 다양한 활용 사례를 확인하세요. 라이선스 옵션을 확인하고 비전 AI 프로젝트 구축을 시작해 보세요!