생성형 인공지능(AI)이 만든 의료 영상이 실제처럼 보이더라도 해부학적·생물학적으로 정확하다고 단정할 수 없다는 지적이 나왔다.

박진아 카이스트 전산학부 교수는 최근 대한성차의과학회가 주최한 연구교육포럼에서 ‘AI 합성 의료영상 신뢰성’을 주제로 발표했다. 

박 교수는 관련 연구 결과를 소개하며 “실제처럼 보인다고 해서 올바른 것은 아니다”라고 말했다. 

박 교수 연구팀은 실제 뇌 MRI와 환자 데이터를 학습해 성별이나 나이, 질병 상태 등 특정 조건에 맞는 새로운 MRI 영상을 생성하는 기술을 연구해 왔다.

그러나 연구 과정에서 생성된 영상이 실제처럼 보인다는 것만으로 신뢰할 수 있는 의료영상이라고 판단할 수 있는지에 대한 의문이 제기됐다.

이에 연구팀은 성별이나 질병을 조건으로 생성한 영상이라면 실제 데이터에서 관찰되는 생물학적·해부학적 차이도 나타나야 한다고 보고 이를 검증했다.

우선 실제 뇌 MRI 약 5000건을 분석해 32개 뇌 구조의 영역별 부피를 측정하고 성별과 질병에 따른 차이를 확인한 뒤, 생성형 AI 영상에서도 같은 특성이 나타나는지 비교했다.

실제 데이터에서는 남성이 여성보다 절대적인 뇌 크기가 컸고, 알츠하이머병(AD) 환자는 정상군과 비교해 뇌 조직 부피가 감소하고 뇌척수액(CSF) 공간은 증가하는 양상을 보였다.

그러나 생성 영상에서는 다른 결과가 나타났다. 일부 모델에서는 알츠하이머병 환자의 뇌 조직 부피가 오히려 커지고 CSF 공간은 작아지는 등 실제와 반대 방향의 변화가 나타났다.

또한 다른 모델에서는 실제 데이터에서 관찰됐던 성별에 따른 뇌 구조 차이가 충분히 나타나지 않았다.

박 교수는 “영상이 실제처럼 보이는 것과 생물학적 변이를 재현하는 것은 서로 다른 문제”라고 설명했다.

“의료AI 신뢰성 확보 위해서는 해부학·생물학적 정확성 함께 평가해야”

박 교수는 이 같은 현상을 특정 모델 문제로 보기는 어렵다고 진단했다. 데이터 수집부터 전처리, 모델 구조와 학습에 이르는 의료AI 개발 과정 전반을 살펴봐야 한다는 것이다.

가령 MRI를 일정한 공간에 정렬하는 전처리 과정에서 실제 데이터에 존재하는 뇌 크기와 모양 등 생물학적 변이가 약화되거나 변형될 수 있다. 

데이터를 압축하는 과정에서도 세밀한 해부학적 차이나 다양성이 충분히 표현되지 않을 가능성이 있다.

문제는 기존 생성 영상 평가 지표만으로는 이 같은 오류를 충분히 찾아내기 어렵다는 점이다. 하나의 종합 점수만으로는 어떤 영상, 어느 부분에 문제가 있는지 파악하기 어렵기 때문이다.

이에 연구팀은 생성의료 영상을 하나의 종합 점수로 평가하기보다는 영상 자체가 얼마나 실제처럼 보이는지를 나타내는 ‘영상 충실도’와 해부학적 구조가 실제와 얼마나 일치하는지를 보는 ‘해부학적 충실도’를 각각 평가하는 방식을 제안했다.

실제 최신 생성 모델들을 분석한 결과, 시각적으로는 높은 평가를 받으면서도 해부학적 정확성은 상대적으로 떨어지는 사례가 확인됐다.

박 교수는 “높은 영상 충실도가 해부학적 정확성을 보장하는 것은 아니다. 신뢰할 수 있는 의료영상 생성을 위해서는 이미지와 해부학, 생물학을 함께 다차원적으로 평가해야 한다”고 말했다.

이어 “AI 모델을 이용해 만들어야 하는 것은 단순히 그럴듯한 영상이 아니라 의학적으로 의미 있고 해부학적으로 타당하며 생물학적으로 신뢰할 수 있는 영상”이라며 “AI가 신뢰할 수 있는 의료 기술로 발전하려면 생성 기술뿐 아니라 이를 평가하는 방법도 함께 발전해야 한다”고 덧붙였다.