의료 인공지능(AI)이 본격적으로 임상현장에 들어오면서 기술 도입 이후의 검증과 관리가 새로운 과제로 떠올랐다. 환자 안전과 개인정보 보호는 물론 기존 진료 흐름에 제대로 안착하는지, 도입 후에도 성능이 유지되는지까지 병원이 직접 살펴야 할 영역이 넓어지고 있기 때문이다.

서울아산병원은 이런 변화에 대응해 작년 9월 AI혁신지원실을 신설하고 금년 2월부터 본격적인 운영에 들어갔다. 양동현 서울아산병원 AI혁신지원실장(영상의학과)은 “병원이 단순한 제품 소비자가 아니라 주체적인 관리자로서 역할과 책임을 다해야 한다”고 강조했다.

양 실장은 최근 데일리메디와 만나 AI혁신지원실 신설 배경으로 허가받은 의료AI 임상 진입 확대를 꼽았다. 제품 도입을 넘어 실제 진료 적용과 사후 관리까지 병원 차원의 정책이 필요해졌다는 설명이다.

그는 “AI는 기존 의료기기와 달리 도입 이후에도 제대로 작동하는지 모니터링하고, 실제 진료 흐름에 맞게 업무체계도 조정해야 한다”고 말했다.

교수님들 의견 열심히 청취…환자 진료에 도움 되는지 여부가 최우선 고려 사안

AI혁신지원실은 기존 의료기기심의위원회를 대체하진 않는다. AI가 실제 진료현장에 적용될 때 발생할 수 있는 문제를 사전에 검토해 기존 심의체계에 의견을 제시하는 역할을 맡는다.

양 실장은 “과잉진료처럼 사용될 가능성은 없는지, 도입 과정에서 환자 민감정보가 외부로 나갈 위험은 없는지 등을 세세하게 살펴본다”고 설명했다.

검토에는 AI 도입을 원하는 교수와 관련 직원, 업체 관계자가 참여한다. 약 1시간 동안 데이터 이동 경로와 서버 사양, 인허가 상태, 환자 동의 절차 등을 확인한다.

외부 클라우드를 활용하는 AI는 환자 데이터 이동 과정이 병원 기준에 맞는지 살핀다. 이와 별도로 AI가 제시한 재검 권고가 의무기록에 연동될 경우 충분한 근거가 있는지, 특정 기술이 지나치게 많은 환자에게 사용될 우려는 없는지도 검토한다.

지원실이 임상적 필요성까지 독자적으로 판단하는 것은 아니다. 해당 AI를 실제로 사용할 의료진들 의견을 듣고 병원 환경에 맞게 활용할 수 있는지를 살피는 방식이다.

양 실장은 “모든 임상과 상황을 다 알 수는 없기 때문에 도입하려는 교수님들 의견을 열심히 듣는다”며 “결국 우리 병원에서 환자 진료에 도움이 되느냐가 최우선”이라고 말했다.

동일한 AI라도 병원마다 유용성은 달라질 수 있다. 환자군뿐 아니라 이미 갖추고 있는 인력과 시스템이 다르기 때문이다.

예를 들어 서울아산병원은 중환자 위험 모니터링 영역에서 자체 인력과 시스템을 폭넓게 운영하고 있다. 양 실장은 “중환자 위험을 실시간으로 모니터링하는 AI는 다른 병원에서는 핵심 도구가 될 수 있지만, 서울아산병원에서는 기존 시스템을 보완하는 참고용에 그칠 수 있다”고 설명했다.

병원 운영 AI 20종 근접…인공지능 도입하면 인력 감소 아니라 ‘병원 부담’ 오히려 커져

이 같은 관리체계를 운영하려면 소프트웨어 구매 외에도 새로운 업무체계와 인프라가 필요하다.

가령 환자 동의가 필요한 AI는 관련 인력이 추가로 필요할 수 있다. 클라우드 기반 서비스는 외부 서버와 병원을 연결하는 데이터 흐름을 구축해야 하고, 병원 내부에 들어오는 개별 AI 서버도 관리해야 한다.

도입 이후 위험도에 따라 병원 데이터에서 성능을 재평가하거나 정기적으로 모니터링한다. 필요한 경우 의료진과 협의, 6개월 또는 1년 뒤 이용 현황과 성능을 다시 살펴보는 계획을 세운다.

현재 서울아산병원에서 운영되는 AI는 20종에 가까워지고 있다. 이를 전산시스템에 연결하고 지속적으로 관리하려면 별도 IT 인프라도 필요하다.

양 실장은 “병원에 의료AI를 도입한다고 해서 인력이 줄어드는 것은 아니”라며 “기존 인력을 대체하거나 직무를 전환하기 위한 수단으로 바라보는 것은 맞지 않다”고 말했다.

이어 “의료AI는 진료 질(質)과 환자안전을 높이는 데 필요한 일을 보다 효율적으로 수행하도록 돕는 도구”라며 “서울아산병원도 이런 관점에서 AI를 활용하고 있다”고 덧붙였다.

현장 의료진 AI 활용 의지는 높은 편이다. 반면 이를 실제 진료에 구현할 병원 시스템 구축은 별개 사안이다.

양 실장은 “의료진은 자신의 진료에 도움이 된다고 판단하면 AI 도입에 적극적인 편”이라면서도 “오히려 병원 시스템이 이를 따라가기 어려운 경우가 많다”고 소개했다.

이어 “소프트웨어를 구매하는 것만으로 끝나는 게 아니라 이를 뒷받침할 업무체계를 만들고, 필요하면 인력을 투입해 원내 데이터와도 연결해야 한다”고 밝혔다.

의료AI 도입, 병원 관리체계 지원 필요

이 때문에 의료AI 정책에서도 개별 솔루션뿐 아니라 이를 도입하고 관리하는 병원 부담을 함께 고려할 필요가 있다는 목소리가 나온다.

양 실장은 “현재는 개별 AI 솔루션과 수가 등에 상대적으로 초점이 맞춰져 있다”며 “병원도 AI 도입을 위한 절차와 조직을 갖추고, 도입 이후에는 지속적으로 모니터링해야 하는 부담이 있다”고 말했다.

이어 “도입 전부터 꼼꼼하게 검토하고 사후 모니터링 시스템까지 운영하는 병원에 대해서는 그 노력이 평가에 반영될 필요가 있다”며 “AI 운영 수준에 따라 차등을 두는 등 병원이 적극적으로 관리체계를 갖추도록 유도할 지원책도 필요하다”고 덧붙였다.

서울아산병원도 AI 활용 기반을 넓히기 위해 차세대 데이터 플랫폼을 구축하고 있다. 지난해 말 투자를 결정해 금년부터 사업을 진행 중이며, 내년 상반기 프로토타입을 거쳐 하반기 정식 오픈을 목표로 한다.

새 플랫폼은 이용자가 필요한 데이터 위치를 직접 찾아 내려받던 기존 방식에서 벗어나, 자연어로 질문하면 관련 데이터를 찾아 근거와 함께 결과를 보여주는 형태로 설계하고 있다. 

향후에는 플랫폼 안에서 AI가 데이터를 분석하고 다양한 업무를 수행할 수 있도록 할 계획이다.

양 실장은 “AI가 예측하고 최종 결정에 도움을 주려면 데이터 파이프라인이 명확하게 구축돼야 한다”며 “병원이 풍부한 데이터를 바탕으로 결정을 하고 연구 역량도 높일 수 있는 플랫폼을 만들고 있다”고 말했다.