새롭게 부상하는 뉴로-심볼릭 AI 분야 소개

오늘날 인공지능 (AI)의 급속한 발전과 컴퓨팅 성능의 가용성 증가에 힘입어, 고급 AI 모델이 그 어느 때보다 빠르게 출시되고 있습니다. 실제로 AI 분야는 다양한 산업 전반에서 의미 있는 혁신을 이끌고 있습니다.

예를 들어 의료 분야에서는 조기 진단을 위해 의료 이미지를 분석하는 등의 작업을 지원하는 데 AI 시스템이 사용되고 있습니다. 그러나 모든 기술과 마찬가지로 AI에도 한계가 있습니다.

주요 우려 사항 중 하나는 투명성입니다. 예를 들어 객체 감지 모델은 뇌 MRI 스캔에서 종양의 위치를 정확하게 찾을 수 있지만, 모델이 어떻게 그러한 결론에 도달했는지는 이해하기 어려울 수 있습니다. 이러한 설명 가능성의 부족으로 인해 의사와 연구자가 AI 결과를 완전히 신뢰하거나 검증하기가 더 어려워집니다.

바로 그렇기 때문에 신흥 분야인 뉴로-심볼릭 AI에 대한 관심이 커지고 있습니다. 뉴로-심볼릭 AI는 딥러닝의 패턴 인식 강점과 심볼릭 AI에 사용되는 구조화된 규칙 기반 추론을 결합합니다. 목표는 정확한 예측을 수행할 뿐 아니라, 사람이 이해할 수 있는 방식으로 추론 과정도 설명하는 시스템을 만드는 것입니다.

이 글에서는 뉴로-심볼릭 인공지능이 작동하는 방식과 학습 및 추론을 결합하여 더욱 투명하고 맥락을 인식하는 시스템을 구축하는 방법을 살펴보겠습니다. 시작해 보겠습니다!

뉴로-심볼릭 AI의 두 가지 측면: 학습과 추론#

뉴로-심볼릭 AI를 자세히 살펴보기 전에, 뉴로-심볼릭 AI가 결합하는 두 하위 분야인 딥러닝과 심볼릭 AI를 먼저 자세히 알아보겠습니다.

딥러닝은 데이터의 패턴 인식에 중점을 두는 반면, 심볼릭 AI는 규칙, 논리 또는 상식으로 문제를 추론합니다. 각각 강점이 있지만 한계도 있습니다. 뉴로-심볼릭 AI는 이 둘을 결합하여 데이터에서 학습하는 동시에 결정을 더 명확하게 설명할 수 있는 시스템을 만듭니다.

딥러닝 개요#

딥러닝은 뇌가 정보를 처리하는 방식을 대략적으로 모방한 인공 신경망을 사용하는 머신러닝의 한 분야입니다. 이러한 네트워크는 대량의 데이터를 분석하고 내부 연결을 조정하여 성능을 향상하는 방식으로 학습합니다.

이를 통해 모든 상황에 대해 사람이 직접 만든 규칙이 없어도 이미지, 소리, 텍스트의 패턴을 인식할 수 있습니다. 따라서 딥러닝은 이미지 인식, 음성 처리, 언어 번역과 같은 인식 중심 작업에 매우 효과적입니다.

좋은 예로 이미지에서 객체를 분할하도록 학습된 컴퓨터 비전 모델을 들 수 있습니다. 충분한 라벨링 예제가 있으면 실시간 교통 영상에서 도로, 차량, 보행자를 구분하는 방법을 학습할 수 있습니다.

그러나 딥러닝 모델은 정확도가 높음에도 특정 결과에 도달한 과정을 명확하게 설명하는 데 어려움을 겪는 경우가 많습니다. 일반적으로 블랙박스 문제라고 불리는 이 과제는 특히 의료나 금융처럼 민감한 분야에서 사용자가 모델의 결정을 해석하거나 검증하기 어렵게 만듭니다. 이는 책임 있는 AI에 투명성, 신뢰, 그리고 모델이 특정 예측을 내린 이유를 이해할 수 있는 능력이 필요하기 때문에 중요합니다.

심볼릭 AI 살펴보기#

심볼릭 AI는 지능과 의사 결정에 보다 구조화된 방식으로 접근합니다. 기호를 사용하여 지식을 표현하고, 그 지식에 논리 규칙을 적용해 작업하며, 이는 문제를 해결할 때 추론과 언어를 사용하는 방식과 유사합니다. 추론 과정의 각 단계가 정의되어 있으므로 심볼릭 AI의 결정은 투명하고 설명하기도 더 쉽습니다.

심볼릭 지식은 계획, 일정 관리 또는 구조화된 지식 관리처럼 명확하고 잘 정의된 규칙을 따르는 작업에서 특히 효과적입니다. 그러나 심볼릭 AI는 비구조화된 데이터나 사전 정의된 범주에 깔끔하게 들어맞지 않는 상황을 처리하는 데 어려움을 겪습니다.

실제로 심볼릭 접근 방식이 적용된 대표적인 예로 초기 체스 프로그램을 들 수 있습니다. 이러한 프로그램은 이전 게임에서 학습하거나 상대에 따라 적응하기보다 사람이 직접 만든 규칙과 고정된 전략을 따랐습니다. 그 결과 게임 방식은 경직되고 예측 가능한 경향이 있었습니다.

그림 1. AI의 구조와 하위 분야 살펴보기. (이미지 제작: 저자)

뉴로-심볼릭 AI란 무엇인가요?#

2010년대에 딥러닝이 널리 도입되기 시작하면서 연구자들은 단순한 패턴 인식을 넘어 관계와 맥락을 이해하는 방법을 찾기 시작했습니다. 이러한 변화로 AI 모델은 장면에서 고양이와 매트 같은 객체를 감지할 뿐 아니라, 고양이가 매트 위에 앉아 있다는 사실처럼 객체 간의 관계도 해석할 수 있게 되었습니다.

그러나 이러한 발전은 핵심적인 한계도 부각했습니다. 딥러닝 모델은 패턴을 매우 잘 인식할 수 있지만, 추론 과정을 설명하거나 익숙하지 않은 상황을 처리하는 데 어려움을 겪는 경우가 많습니다. 이러한 추론에 대한 관심이 다시 높아지면서 연구자들은 1980년대부터 존재해 온 분야인 뉴로-심볼릭 AI로 돌아가게 되었습니다.

뉴로-심볼릭 AI는 딥러닝과 심볼릭 AI를 통합합니다. 이를 통해 모델은 딥러닝과 동일한 방식으로 예제에서 학습하는 동시에, 심볼릭 AI처럼 논리와 추론을 적용할 수 있습니다.

간단히 말해 뉴로-심볼릭 AI는 정보를 인식하고, 맥락을 이해하며, 결정에 대해 더 명확한 설명을 제공할 수 있습니다. 이 접근 방식은 더욱 안정적이고 인간과 유사한 방식으로 작동하는 AI 시스템 개발에 한 걸음 더 다가가게 합니다.

그림 2. 뉴로-심볼릭 AI 이해하기 (이미지 제작: 저자)

뉴로-심볼릭 AI의 작동 방식 기초#

뉴로-심볼릭 아키텍처는 단일 프레임워크 안에서 학습과 추론을 결합합니다. 일반적으로 원시 데이터를 해석하는 신경 인식 계층, 논리를 적용하는 심볼릭 추론 계층, 두 계층을 연결하는 통합 계층의 세 가지 주요 부분으로 구성됩니다. 이제 각 계층을 자세히 살펴보겠습니다.

신경 인식 계층#

신경 인식 구성 요소는 이미지, 비디오, 텍스트 또는 오디오와 같은 비구조화된 데이터를 처리하고, 시스템이 활용할 수 있는 내부 표현으로 변환합니다. 일반적으로 딥러닝 모델을 사용하여 입력에서 패턴을 감지하고 객체나 특징을 식별합니다. 이 단계에서 시스템은 데이터에 무엇이 존재하는지는 인식하지만, 아직 의미, 관계 또는 맥락에 대해 추론하지는 않습니다.

이 계층에서 사용되는 일반적인 딥러닝 모델 유형은 다음과 같습니다.

• 합성곱 신경망 (CNNs): 이미지와 같은 격자 형태의 데이터를 처리하도록 설계된 신경망 유형입니다. CNNs는 합성곱 필터를 사용하여 이미지를 훑고 가장자리, 텍스처, 형태와 같은 패턴을 감지합니다. 이러한 패턴을 쌓아 올리면서 자동차, 과일, 사람과 같은 객체를 인식하는 방법을 학습합니다.
• 트랜스포머: 트랜스포머는 입력의 여러 부분이 서로 어떤 관계를 맺는지 이해하도록 설계된 모델입니다. 정보를 엄격한 순서대로 읽는 대신 데이터의 여러 부분을 동시에 살펴보고 가장 중요한 부분을 결정할 수 있습니다. 이를 통해 텍스트, 이미지 또는 두 가지 모두에서 맥락을 이해할 수 있습니다. 이러한 유연성 때문에 트랜스포머는 대부분의 최신 언어 모델과 많은 비전-언어 시스템을 뒷받침하는 핵심 아키텍처입니다.
• 순환 신경망 (RNNs): 음성이나 시계열 신호와 같은 순차 데이터를 분석하도록 설계된 모델 유형입니다. 이전 입력에 대한 메모리를 유지하므로 시간에 따른 맥락을 고려하여 예측할 수 있습니다.

궁극적으로 이러한 신경 모델은 원시 데이터에서 의미 있는 특징을 추출하고 표현합니다. 이 출력은 시스템이 감지한 내용을 해석하고 추론하는 심볼릭 추론 계층의 입력이 됩니다.

심볼릭 추론 계층#

심볼릭 추론 계층은 신경 인식 계층이 생성한 정보를 받아 논리를 사용하여 의미를 해석합니다. 단순히 패턴만을 바탕으로 작업하는 대신 규칙, 지식 그래프, 지식 베이스, 온톨로지(개념과 개념 간 관계를 정리한 설명)와 같은 요소를 활용합니다. 이러한 요소는 시스템이 다양한 요소가 어떻게 연결되는지, 주어진 상황에서 어떤 행동이 적절한지 이해하는 데 도움을 줍니다.

예를 들어 자율주행차에서 신경 인식 계층은 카메라 피드에서 빨간 신호등을 인식할 수 있습니다. 그러면 심볼릭 추론 계층은 “신호등이 빨간색이면 차량은 정지해야 합니다.”와 같은 규칙을 적용할 수 있습니다. 추론이 명확한 규칙에 기반하므로 시스템의 결정을 설명하고 검증하기가 더 쉬워지며, 이는 안전과 책임성이 중요한 상황에서 특히 중요합니다.

통합 계층#

통합 계층은 신경 인식 계층과 심볼릭 추론 계층을 연결하여 학습과 추론이 함께 작동하도록 합니다. 한 방향으로는 신경 모델의 출력(예: 보행자 감지)을 객체와 그 속성을 설명하는 심볼릭 표현으로 변환합니다.

반대 방향으로는 심볼릭 규칙(예: “횡단보도에 보행자가 있으면 차량은 정지해야 합니다.”)을 신경 모델을 유도하는 신호로 변환합니다. 여기에는 이미지의 관련 영역 강조, 어텐션에 영향 주기, 모델의 의사 결정 경로 형성 등이 포함될 수 있습니다.

이러한 양방향 교환은 피드백 루프를 형성합니다. 신경 측은 심볼릭 규칙으로부터 구조와 해석 가능성을 얻고, 심볼릭 측은 실제 데이터에 기반하여 더욱 효과적으로 적응할 수 있습니다. 논리 신경망 (LNNs)과 같은 기법은 논리 제약 조건을 신경 아키텍처에 직접 삽입하여 이러한 상호 작용을 가능하게 합니다.

이처럼 인식과 추론을 연결함으로써 뉴로-심볼릭 AI는 정확하면서도 해석하기 쉬운 결정을 내릴 수 있습니다. 많은 연구자는 이 접근 방식을 더욱 안정적이고 인간의 가치에 부합하는 AI를 향한 유망한 단계로 보고 있으며, 향후 인공 일반 지능 (AGI)으로 발전하기 위한 기반이 될 가능성도 있다고 봅니다.

뉴로-심볼릭 AI의 활용 분야#

이제 뉴로-심볼릭 AI가 무엇이며 어떻게 작동하는지 더 잘 이해했으므로, 실제 활용 사례를 살펴보겠습니다.

더 안전한 주행: 보행자를 보는 것에서 보행자를 이해하는 것까지#

자율주행차가 안전하게 작동하려면 주변 환경을 이해해야 합니다. 자율주행차는 컴퓨터 비전과 같은 기술을 사용하여 보행자, 차량, 차선 표시, 교통 표지판을 감지합니다.

딥러닝 모델은 이러한 객체를 정확하게 식별할 수 있지만, 객체가 맥락에서 무엇을 의미하는지 또는 실제 상황에서 서로 어떤 관계가 있는지를 항상 이해하지는 못합니다. 예를 들어 신경 모델은 횡단보도 위의 보행자를 인식할 수 있지만, 보행자가 곧 건너려는지 아니면 단순히 서서 기다리고 있는지는 판단하지 못할 수 있습니다.

뉴로-심볼릭 AI는 자율주행차가 시각적 인식과 논리적 추론을 결합하도록 하여 단순히 객체를 식별하는 대신 상황을 해석할 수 있게 함으로써 이러한 간극을 해소하려고 합니다. 최근 AI 연구에 따르면 신경 인식과 심볼릭 규칙을 결합한 시스템은 보행자 행동 예측을 향상할 수 있습니다.

이러한 시스템에서 신경 구성 요소는 보행자의 자세, 움직임, 위치와 같은 시각적 단서를 분석합니다. 그런 다음 심볼릭 구성 요소는 해당 사람이 횡단보도 근처에 있는지, 현재 교통 신호가 무엇을 나타내는지와 같은 요소를 고려하여 논리 규칙을 적용합니다.

이 두 관점을 결합하면 뉴로-심볼릭 시스템은 단순히 보행자를 감지하는 것 이상의 작업을 수행할 수 있습니다. 보행자가 건널 가능성이 있는지 합리적으로 예측하고, 그러한 결정을 내린 이유도 설명할 수 있습니다. 이는 자율주행차에서 더 안전하고 투명한 동작으로 이어집니다.

그림 3. 뉴로-심볼릭 AI를 사용하여 관찰된 보행자 행동을 기반으로 예측하기. (출처)

시각적 질의응답에서의 논리적 해석#

뉴로-심볼릭 AI의 또 다른 중요한 활용 분야는 시각적 질의응답 (VQA)입니다. VQA 시스템은 이미지에 관한 질문에 답하도록 설계되었습니다.

VQA는 대규모 언어 모델 (LLMs)과 비전 모델을 결합하여 멀티모달 추론을 수행하며, 시스템이 보는 것과 이해하는 것을 결합합니다. 예를 들어 VQA 시스템에 이미지가 제시되고 “컵이 테이블 위에 있나요?”라는 질문을 받으면, 객체를 인식할 뿐 아니라 객체 간의 관계도 이해해야 합니다. 장면에서 컵이 실제로 테이블 위에 있는지 판단해야 합니다.

최근 한 연구에서는 신경 인식과 심볼릭 추론을 통합하여 뉴로-심볼릭 AI가 VQA를 어떻게 향상할 수 있는지 보여주었습니다. 제안된 시스템에서 신경망은 먼저 이미지를 분석하여 색상, 형태 또는 크기와 같은 객체와 그 속성을 인식합니다.

그런 다음 심볼릭 추론 구성 요소가 논리 규칙을 적용하여 이러한 객체가 서로 어떤 관계가 있는지 해석하고 질문에 답합니다. “장면에 회색 원기둥이 몇 개 있나요?”라는 질문을 받으면 신경 부분은 모든 원기둥과 색상을 식별하고, 심볼릭 부분은 기준에 따라 이를 필터링한 후 올바른 객체의 개수를 셉니다.

그림 4. 추상적 지식과 논리가 필요한 VQA 시나리오 예시. (출처)

이러한 연구는 뉴로-심볼릭 VQA가 단순히 답변을 제공하는 것을 넘어설 수 있음을 보여줍니다. 모델이 결론에 도달하기까지 수행한 단계를 보여줄 수 있으므로, 시스템이 예측을 수행하고 사람이 이해할 수 있는 방식으로 추론을 정당화하는 설명 가능한 AI를 지원합니다.

뉴로-심볼릭 AI의 장단점#

뉴로-심볼릭 AI를 사용할 때 얻을 수 있는 주요 이점은 다음과 같습니다.

• 더 강력한 추론 능력: 순수 딥러닝 모델과 달리 뉴로-심볼릭 AI는 다단계 추론, 계획 수립, 규칙 준수, 구조화된 지식 영역 처리와 같은 작업을 수행할 수 있으며, 이러한 영역에서는 전통적으로 심볼릭 AI가 강점을 보여 왔습니다.
• 적응성: 이러한 시스템은 학습한 범위를 넘어 논리적으로 추론할 수 있으므로 새롭거나 이전에 보지 못한 작업에서도 우수한 성능을 발휘합니다. 단순히 데이터를 암기하는 대신 관계와 패턴을 이해합니다.
• 노이즈와 모호성에 대한 견고성: 논리적 제약 조건은 데이터에 노이즈가 있거나 불완전하거나 모호할 때 오류를 방지하는 데 도움을 줄 수 있습니다. 추론 계층은 신경 예측을 유도하거나 수정하는 규칙을 적용할 수 있습니다.

잠재력이 있음에도 뉴로-심볼릭 AI는 아직 발전 중이며 몇 가지 실질적인 과제를 안고 있습니다. 주요 한계는 다음과 같습니다.

• 복잡한 통합: 이 하이브리드 프레임워크는 높은 해석 가능성을 제공하지만, 인식과 추론을 결합하는 알고리즘을 설계하는 일은 여전히 어렵습니다.
• 확장성: 대규모 지식 그래프나 복잡한 규칙 집합을 처리할 때 심볼릭 추론은 느려지거나 계산 비용이 많이 들 수 있습니다. 이로 인해 자율주행, 비디오 처리 또는 대규모 지식 추론과 같은 실시간 애플리케이션을 효율적으로 배포하기가 더 어려워질 수 있습니다.
• 추론의 견고성: 심볼릭 규칙이 지나치게 경직되면 모호하거나 예측하기 어려운 실제 상황에서 시스템이 제대로 작동하지 못할 수 있습니다. 유연한 학습과 신뢰할 수 있는 추론 사이의 균형을 맞추는 일은 여전히 진행 중인 과제입니다.

핵심 요점#

뉴로-심볼릭 AI는 세상을 인식할 뿐 아니라 세상에 대해 추론하고 자신의 결정을 설명할 수 있는 AI 시스템을 구축하기 위한 중요한 단계입니다. 주로 데이터에서 학습한 패턴에 의존하는 기존 딥러닝 시스템과 달리, 뉴로-심볼릭 AI는 통계적 학습과 구조화된 논리 및 지식을 결합합니다. 딥러닝을 대체하는 대신 그 위에 구축하여, 더욱 인간과 유사한 방식으로 이해하고 추론할 수 있는 AI 개발에 한 걸음 더 다가가게 합니다.

커뮤니티에 참여하고 GitHub 저장소를 살펴보세요. 솔루션 페이지에서 농업 분야의 AI와 의료 분야의 컴퓨터 비전의 다양한 활용 사례를 확인해 보세요. 라이선스 옵션을 알아보고 비전 AI 프로젝트 구축을 시작해 보세요!