세포 분할: 정의 및 비전 AI의 향상 기능

신약 개발, 암 연구, 또는 정밀 의학 분야의 많은 획기적인 발전은 세포를 명확하게 관찰해야 한다는 핵심 과제에서 시작됩니다. 과학자들은 세포 행동을 추적하고, 약물을 평가하며, 새로운 치료법을 탐색하기 위해 선명한 이미지에 의존합니다.

현미경 이미지 한 장에는 수천 개의 세포가 겹쳐 있을 수 있어 경계를 확인하기가 어렵습니다. 세포 분할은 각 세포를 명확하게 분리하여 정확한 분석을 수행함으로써 이 문제를 해결하는 것을 목표로 합니다.

그러나 세포 분할이 항상 간단한 것은 아닙니다. 단 하나의 연구만으로도 수천 장의 상세한 현미경 이미지가 생성될 수 있으며, 이는 사람이 일일이 검토하기에는 너무 많은 양입니다. 데이터셋이 증가함에 따라 과학자들은 세포를 더 빠르고 신뢰성 있게 분리하고 연구할 방법이 필요합니다.

실제로 많은 과학자들이 기계가 시각 정보를 해석하고 분석할 수 있게 해주는 AI의 한 분야인 컴퓨터 비전을 도입하고 있습니다. 예를 들어, 인스턴스 분할을 지원하는 Ultralytics YOLO11과 같은 모델은 세포를 분리하고 세포 내 구조까지 감지하도록 훈련될 수 있습니다. 이를 통해 수 시간이 아닌 수 초 내에 정밀한 분석이 가능해져 연구자들이 연구 규모를 효율적으로 확장할 수 있도록 돕습니다.

그림 1. 세포 핵 분할에 사용된 YOLO가 세포 핵(세포의 중심)을 식별하고 윤곽을 표시하는 모습. (출처)

이 기사에서는 세포 분할의 작동 원리, 컴퓨터 비전을 통한 개선 방법, 그리고 실제 세계에서의 응용 분야를 살펴봅니다. 시작해 보겠습니다!

Link to this section세포 분할을 위한 컴퓨터 비전 활용 살펴보기#

전통적으로 과학자들은 현미경 이미지에서 세포를 직접 추적하며 수동으로 분할했습니다. 이는 소규모 프로젝트에는 효과적이었으나 속도가 느리고 일관성이 없으며 오류가 발생하기 쉬웠습니다. 한 장의 이미지에 수천 개의 세포가 겹쳐 있는 경우, 수동 추적은 금세 감당할 수 없는 수준이 되며 주요 병목 현상이 됩니다.

컴퓨터 비전은 더 빠르고 신뢰할 수 있는 대안을 제공합니다. 이는 딥러닝 기반의 AI 분야로, 기계가 대규모 이미지 세트로부터 패턴을 학습합니다. 세포 연구에서 이는 기계를 통해 개별 세포를 높은 정확도로 인식하고 분리할 수 있음을 의미합니다.

구체적으로 Ultralytics YOLO11과 같은 비전 AI 모델은 객체 감지 및 인스턴스 분할과 같은 작업을 지원하며, 사용자 지정 데이터셋으로 훈련하여 세포를 분석할 수 있습니다. 객체 감지는 여러 세포가 함께 나타나는 경우에도 이미지 내의 각 세포를 찾아 라벨을 지정할 수 있게 합니다.

인스턴스 분할은 각 세포 주위에 정밀한 경계를 그려 정확한 형태를 포착함으로써 한 단계 더 나아갑니다. 이러한 비전 AI 기능을 세포 분할 파이프라인에 통합하면 연구자들이 복잡한 워크플로를 자동화하고 고해상도 현미경 이미지를 효율적으로 처리할 수 있습니다.

Link to this section세포 분할 알고리즘의 진화#

세포 분할 방식은 지난 수년간 많은 변화를 겪었습니다. 초기 이미지 분할 기술은 간단한 이미지에는 효과적이었으나 데이터셋이 커지고 세포를 구별하기 어려워짐에 따라 한계에 부딪혔습니다.

이러한 한계를 극복하기 위해 더 진보된 접근 방식이 개발되었으며, 이는 미생물학 및 현미경 연구에 속도, 정확성, 확장성을 제공하는 오늘날의 컴퓨터 비전 모델로 이어졌습니다.

다음으로, 기본적인 임계값 방식부터 최첨단 딥러닝 모델 및 하이브리드 파이프라인에 이르기까지 분할 알고리즘이 어떻게 진화했는지 살펴보겠습니다.

Link to this section임계값 및 형태학적 방법을 이용한 세포 분할#

컴퓨터 비전이 발전하기 전, 세포 분할은 전통적인 이미지 처리 기술에 의존했습니다. 이러한 방법은 가장자리 감지, 전경과 배경 분리, 형태 평활화와 같이 수동으로 정의된 규칙과 연산에 의존했습니다. 데이터를 통해 패턴을 직접 학습할 수 있는 컴퓨터 비전 모델과 달리, 이미지 처리는 모든 이미지에 동일하게 적용되는 고정된 알고리즘에 의존합니다.

가장 초기 접근 방식 중 하나는 임계값 지정이었으며, 이는 픽셀 밝기 수준을 비교하여 세포를 배경으로부터 분리하는 방법입니다. 세포와 주변 환경 간의 대비가 강할 때 효과적입니다.

그림 2. 임계값 기반 세포 분할의 예. (출처)

결과를 정교화하기 위해 팽창(형태 확장) 및 침식(형태 축소)과 같은 형태학적 연산이 가장자리를 매끄럽게 하거나 노이즈를 제거하거나 작은 간극을 닫는 데 사용됩니다. 접촉하거나 겹치는 세포의 경우 워터셰드 분할이라 불리는 기술이 세포가 만나는 곳에 경계를 그려 분리하는 데 도움을 줍니다.

이러한 기술들은 겹치는 세포나 노이즈가 많은 이미지와 같은 복잡한 경우를 처리하는 데 어려움을 겪지만, 여전히 단순한 응용 분야에서는 유용하며 세포 분할 역사의 중요한 부분을 차지합니다. 그러나 이들의 한계로 인해 더 어려운 이미지에 대해 훨씬 높은 정확도를 제공하는 딥러닝 기반 모델로 분야가 전환되었습니다.

Link to this section세포 분할을 위한 딥러닝 모델#

이미지 처리 기술이 한계에 도달하면서 세포 분할은 학습 기반 접근 방식으로 이동했습니다. 규칙 기반 방법과 달리 딥러닝 모델은 데이터에서 직접 패턴을 식별하므로 겹치는 세포, 가변적인 형태, 다양한 이미지 촬영 방식에 더 잘 적응할 수 있습니다.

합성곱 신경망(CNN)은 컴퓨터 비전에서 널리 사용되는 딥러닝 아키텍처의 한 종류입니다. 이들은 이미지를 계층별로 처리하는데, 초기 계층은 가장자리와 질감 같은 단순한 특징을 감지하고, 더 깊은 계층은 더 복잡한 형태와 구조를 포착합니다. 이러한 계층적 접근 방식은 패턴 인식을 통해 일상적인 객체를 인식하는 것부터 생의학 이미지를 분석하는 것에 이르기까지 많은 시각 작업에 CNN을 효과적으로 만듭니다.

YOLO11과 같은 모델은 이러한 딥러닝 원칙을 기반으로 구축되었습니다. 이들은 실시간 객체 감지 및 인스턴스 분할을 위한 기술로 CNN 기반 아키텍처를 확장하여 세포의 위치를 빠르게 찾고 경계를 표시할 수 있도록 합니다.

Link to this section하이브리드 파이프라인으로 세포 분할 향상#

하이브리드 파이프라인은 여러 방법의 장점을 결합하여 세포 분할을 개선합니다. 여기에는 고전적인 이미지 처리와 딥러닝 모델, 또는 심지어 서로 다른 딥러닝 기반 모델을 함께 사용하는 것이 포함될 수 있습니다.

예를 들어, 한 방법은 노이즈를 줄이고 경계를 선명하게 하기 위해 현미경 이미지를 강화하거나 전처리할 수 있고, 다른 모델은 세포를 감지하고 분할하는 데 사용될 수 있습니다. 이러한 방식으로 작업을 분리함으로써 하이브리드 접근 방식은 정확도를 향상하고 복잡한 이미지를 더 효과적으로 처리하며 대규모 연구를 더 신뢰성 있게 만듭니다.

그림 3. 저품질 세포 입력 이미지(a)와 전처리가 추출하는 패턴(b)의 예로, 추가 분석을 위해 세포 특징을 더 명확하게 만든 모습. (출처)

Link to this section세포 분할에서 데이터셋의 중요성#

컴퓨터 비전 기반 세포 분할에서 고려해야 할 또 다른 핵심 요소는 이미지 데이터입니다. 컴퓨터 비전 모델은 세포를 정확하게 식별하고 분리하는 방법을 학습하기 위해 대규모의 고품질 데이터셋에 크게 의존합니다.

이러한 데이터셋은 일반적으로 주석이 달린 현미경 이미지로 구성됩니다. 원본 이미지 못지않게 데이터 주석 또는 라벨링은 모델에 핵심 정보를 제공하므로 효과적인 데이터셋을 구축하는 데 중요한 역할을 합니다.

예를 들어, YOLO11과 같은 모델을 훈련하여 현미경 이미지에서 암세포를 분할하려면 각 세포가 어디서 시작되고 끝나는지를 보여주는 라벨링된 예제가 필요합니다. 이러한 라벨은 모델이 세포 형태와 경계를 인식하는 방법을 가르치는 가이드 역할을 합니다. 주석은 수동으로 그리거나 시간을 절약하기 위해 반자동 도구를 사용하여 생성할 수 있습니다.

주석 유형은 작업에 따라 다릅니다. 객체 감지의 경우 각 세포 주위에 경계 상자가 그려집니다. 인스턴스 분할의 경우 라벨은 각 세포의 정확한 윤곽을 추적하는 상세한 마스크와 같습니다. 올바른 유형의 주석과 훈련 데이터를 선택하는 것은 모델이 작업에 필요한 내용을 학습하는 데 도움을 줍니다.

Link to this section세포 분할 관련 데이터의 복잡성#

일반적으로 컴퓨터 비전 데이터셋을 구축하는 것은 특히 기존 이미지 컬렉션이 없거나 분야가 매우 독특하고 전문화된 경우 어려울 수 있습니다. 하지만 세포 연구 분야에서는 데이터 수집 및 주석을 더욱 복잡하게 만드는 기술적인 어려움이 존재합니다.

현미경 이미지는 세포 영상 촬영 방식에 따라 매우 다르게 보일 수 있습니다. 예를 들어, 형광 현미경은 세포의 일부가 빛나게 하는 염료를 사용합니다. 이러한 형광 이미지는 평소에는 확인하기 어려운 세부 사항을 강조합니다.

주석은 또 다른 주요 과제입니다. 수천 개의 세포에 수동으로 라벨을 지정하는 것은 느리며 전문 지식이 필요합니다. 세포는 종종 겹치거나 모양이 변하거나 희미하게 나타나 오류가 발생하기 쉽습니다. 반자동 도구가 프로세스 속도를 높일 수는 있지만, 품질을 보장하기 위해서는 보통 사람의 검토가 필요합니다.

업무량을 줄이기 위해 연구자들은 전체 윤곽을 그리는 대신 세포의 위치를 나타내는 관심 위치 마커와 같은 더 간단한 주석을 사용하기도 합니다. 정확도는 떨어지지만 이러한 마커는 여전히 훈련을 위한 중요한 가이드를 제공합니다.

이 외에도 생물학 분야의 데이터 공유는 더 많은 복잡성을 더합니다. 개인정보 보호 문제, 환자 동의, 연구소 간의 장비 차이로 인해 일관성 있는 고품질 데이터셋을 구축하기가 더 어려울 수 있습니다.

이러한 장애물에도 불구하고 오픈 소스 데이터셋은 큰 변화를 가져왔습니다. GitHub와 같은 플랫폼을 통해 공유되는 공개 컬렉션은 많은 세포 유형과 이미지 촬영 방식에 걸쳐 수천 개의 라벨링된 이미지를 제공하며, 모델이 실제 시나리오에 더 잘 일반화되도록 돕습니다.

Link to this section세포 분할 모델의 응용#

이제 컴퓨터 비전을 사용하여 세포를 분할하는 데 사용되는 데이터와 방법에 대해 더 잘 이해했으므로, 세포 분할과 컴퓨터 비전의 실제 응용 사례를 살펴보겠습니다.

Link to this section세포 분할을 이용한 단일 세포 분석#

전체 조직 샘플 대신 개별 세포를 연구하는 단일 세포 분석은 더 넓은 수준에서는 종종 놓치기 쉬운 세부 사항을 과학자들이 볼 수 있게 합니다. 이 접근 방식은 세포 생물학, 신약 개발 및 진단 분야에서 다양한 조건 하에서 세포가 어떻게 기능하고 반응하는지 이해하기 위해 널리 사용됩니다.

예를 들어, 암 연구에서 조직 샘플은 종종 암세포, 면역 세포 및 지지(간질) 세포가 혼합된 상태를 포함합니다. 조직 전체를 단일체로만 보면 면역 세포가 종양과 어떻게 상호 작용하는지 또는 혈관 근처의 암세포가 어떻게 행동하는지와 같은 중요한 차이를 숨길 수 있습니다.

단일 세포 분석은 연구자들이 이러한 세포 유형을 분리하고 개별적으로 연구할 수 있게 하며, 이는 치료 반응과 질병 진행을 이해하는 데 매우 중요합니다. 인스턴스 분할을 지원하는 YOLO11과 같은 모델은 혼잡하거나 겹치는 이미지에서도 각 세포를 감지하고 정확한 형태를 윤곽으로 표시할 수 있습니다. 복잡한 현미경 이미지를 구조화된 데이터로 변환함으로써 YOLO11은 연구자들이 수천 개의 세포를 빠르고 일관성 있게 분석할 수 있게 합니다.

Link to this sectionYOLO를 이용한 세포 추적 및 실시간 영상 촬영#

세포는 분열하고 이동하며 다양한 방식으로 주변 환경에 반응합니다. 살아있는 세포가 시간이 지남에 따라 어떻게 변하는지 분석하는 것은 과학자들이 건강 및 질병 상태에서의 행동을 이해하는 데 도움을 줍니다.

위상차 현미경이나 고해상도 현미경과 같은 도구를 사용하여 연구자들은 염료나 라벨을 추가하지 않고도 이러한 변화를 추적할 수 있습니다. 이는 세포를 자연 상태로 유지하여 결과를 더욱 신뢰할 수 있게 만듭니다.

시간에 따른 세포 추적은 놓치기 쉬운 세부 사항을 포착하는 데도 도움이 됩니다. 한 세포가 다른 세포보다 빠르게 이동하거나, 비정상적인 방식으로 분열하거나, 자극에 강하게 반응할 수 있습니다. 이러한 미묘한 차이를 기록하면 실제 조건에서 세포가 어떻게 행동하는지에 대한 더 명확한 그림을 제공합니다.

Ultralytics YOLOv8과 같은 컴퓨터 비전 모델은 이 프로세스를 더 빠르고 일관성 있게 만듭니다. 이미지 시퀀스 전반에 걸쳐 개별 세포를 감지하고 추적함으로써 YOLOv8은 세포가 겹치거나 모양이 변할 때에도 세포의 움직임, 분열, 상호 작용을 자동으로 모니터링할 수 있습니다.

그림 4. 세포 감지에 사용된 YOLOv8의 분할 결과. (출처: mdpi.com)

Link to this section비전 AI와 생물정보학 및 멀티오믹스의 통합#

전체 세포 분할에 사용되는 YOLO11과 같은 컴퓨터 비전 모델의 통찰력은 생물정보학(생물학적 데이터를 분석하기 위한 컴퓨팅 방식의 사용) 및 멀티오믹스(DNA, RNA 및 단백질 정보의 통합)와 결합될 때 더 큰 영향력을 발휘할 수 있습니다. 함께, 이러한 방법들은 단순히 세포 경계를 그리는 것을 넘어 그 경계가 무엇을 의미하는지 이해하는 방향으로 연구를 이끕니다.

과학자들은 단지 세포의 위치를 식별하는 것을 넘어 세포들이 어떻게 상호 작용하는지, 질병 상태에서 조직 구조가 어떻게 변하는지, 그리고 세포 모양의 작은 변화가 분자 활동과 어떻게 연결되는지 연구할 수 있습니다.

종양 샘플을 고려해 볼 때, 암세포의 크기, 모양 또는 위치와 분자 프로필을 연결함으로써 연구자들은 유전자 돌연변이, 유전자 발현 또는 비정상적인 단백질 활동과의 상관관계를 찾을 수 있습니다. 이는 정적인 이미지를 실용적인 통찰력으로 바꾸어 종양 전반에 걸친 유전자 활동 추적, 실시간 단백질 행동 매핑, 그리고 구조와 기능을 연결하는 참조 지도 구축을 가능하게 합니다.

Link to this section세포 분할의 이점#

세포 분할에 컴퓨터 비전을 사용할 때의 주요 이점은 다음과 같습니다:

• 고처리량 스크리닝: 자동화된 분할은 수백만 개의 세포를 효율적으로 처리하여 대규모 신약 개발 및 테스트를 가속화할 수 있습니다.
• 공간 조직 통찰력: 조직 내 세포가 어떻게 배치되어 있는지 보여주어 종양 환경이나 조직이 어떻게 발달하는지에 대한 중요한 단서를 제공합니다.
• 정량적 데이터 생성: 세포 이미지에서 얻는 시각적 통찰력을 넘어, 분할은 세포 수, 면적 및 강도 수준과 같은 측정 가능한 정보를 제공하여 실험 간의 신뢰할 수 있는 비교를 가능하게 합니다.

Link to this section세포 분할에 비전 AI를 사용할 때의 한계#

컴퓨터 비전이 세포 분할에 많은 이점을 가져다주지만, 몇 가지 한계도 있습니다. 명심해야 할 몇 가지 요소는 다음과 같습니다:

• 데이터 개인정보 보호: 모델 훈련을 위해 주석이 달린 세포 데이터셋을 공유하는 것은 특히 환자 정보가 이미지와 연결된 경우 윤리적 및 규제적 문제를 야기할 수 있습니다.
• 하드웨어 및 컴퓨팅 요구 사항: 고해상도 바이오 이미지 분석에는 강력한 GPU와 스토리지가 필요합니다. 클라우드 컴퓨팅과 최적화된 알고리즘이 이를 더 접근하기 쉽게 만드는 데 도움을 주고 있습니다.
• 모델 일반화: 한 연구소의 현미경이나 염색 프로토콜로 훈련된 모델은 다른 곳에서는 제대로 작동하지 않을 수 있습니다. 다양한 다중 연구소 데이터셋으로 훈련하면 견고성이 향상됩니다.

Link to this section세포 분할의 미래#

차세대 세포 분할은 속도, 정확성 및 확장성을 결합한 컴퓨터 비전 모델에 의해 정의될 것입니다. U-Net과 같은 모델은 큰 영향을 미쳤지만, 컴퓨팅 성능 요구량이 많을 수 있습니다. 컴퓨터 비전의 발전으로 연구자들은 높은 정확도와 실시간 성능을 모두 제공하는 모델로 이동하고 있습니다.

예를 들어, Ultralytics YOLOv8과 같은 최첨단 모델은 전통적인 방식보다 현미경 이미지를 훨씬 빠르게 분할하면서도 선명하고 정확한 경계를 생성할 수 있습니다.

최근 투과 전자 현미경(TEM) 연구에서 성능 지표는 YOLOv8이 U-Net보다 최대 43배 더 빠르게 실행됨을 보여주었습니다. 이러한 성능은 이미지 연구의 규모가 커짐에 따라 점점 더 중요해지는 대규모 데이터셋을 실시간으로 분석할 수 있게 합니다.

그림 5. U-Net(c)과 같은 다른 모델과 비교했을 때, 분할을 위해 YOLOv8(d)을 사용하면 현미경 이미지에서 더 선명하고 정확한 윤곽이 생성됩니다. (출처)

이러한 개선 사항은 이미 실제로 활용되고 있습니다. Theia Scientific’s Theiascope™와 같은 플랫폼은 Ultralytics YOLO 모델을 투과 전자 현미경(TEM)과 통합하여 나노 규모 구조를 일관되고 규모 있게 분할할 수 있도록 합니다. 이 플랫폼은 실시간 감지 및 분할을 위해 Ultralytics YOLO 모델을 사용하여 TEM 이미지가 캡처되는 대로 구조를 자동으로 식별하고 이를 신뢰할 수 있고 분석 가능한 데이터로 변환합니다.

Link to this section핵심 요약#

세포 분할은 현대 현미경 및 생의학 연구에서 핵심적인 역할을 합니다. 이를 통해 과학자들은 개별 세포를 관찰하고, 질병 진행을 추적하며, 치료법이 세포 행동에 미치는 영향을 모니터링할 수 있습니다. YOLO11과 같은 비전 AI 모델은 이 과정을 더 빠르고 정밀하게 만듭니다. 크고 복잡한 이미지를 쉽게 처리함으로써 실험의 반복 가능성과 확장성을 보장합니다.

저희 커뮤니티에 가입하고 GitHub 저장소를 방문하여 AI에 대해 더 자세히 알아보세요. 농업 분야의 AI 및 물류 분야의 컴퓨터 비전과 같은 응용 분야에 대해 자세히 알아보려면 솔루션 페이지를 탐색하세요. 라이선스 옵션을 확인하고 오늘 컴퓨터 비전으로 구축을 시작해 보세요!