인공지능(AI) 기술이 빠르게 발전하면서 의료 분야에서도 AI Agent 상용화에 대한 기대감이 커지고 있는 가운데 영상의학 전문의 등 사용자 역할을 강조하는 제언이 나왔다. 

26일 의료산업계에 따르면 AI 기술 흐름은 한 가지 업무에 특화돼 있던 모델에서 목적 달성을 위해 스스로 계획하고 실행하는 단계로 진화하고 있다. 

초기 의료AI는 특정 질환에 특화된 개별 모델(Task-Specific AI)로 진단 보조도구 수준에 머물렀다.

이후 방대한 데이터로 사전 학습돼 범용적으로 적용, 미세 조정할 수 있는 파운데이션(Foundation) 모델을 거쳐 텍스트와 영상 등 복합 데이터를 동시에 다루는 멀티모달(Multimodal) 모델로 발전했다.

최근 흐름은 한 단계 더 나아가 질문에 답변만 하던 형태를 벗어난 ‘AI Agent’가 떠오르고 있다.

AI Agent는 주어진 목적을 달성하기 위해 필요한 정보를 능동적으로 수집 및 질문하고, 웹 검색이나 내부 문서, 실행 권한 등을 활용해 검증 계획까지 자율적으로 수립·실행한다. 단순 출력물이 아닌 ‘실질적 실행 결과’를 창출해 내는 것이다.

글로벌은 이미 상용화…국내 1~2년 내 본격화 전망

이미 글로벌 시장에서는 이러한 의료 AI Agent 현장 상용화가 적극적으로 이뤄지고 있다. 

대표적으로 미국은 의료 소프트웨어 개발 전문기업 에픽(Epic) 등을 중심으로 전자의무기록(EMR) 기반 AI Agent 솔루션들이 빠르게 적용되는 추세다.

전문가들은 우리나라도 1~2년 내 AI Agent 현장 도입이 이뤄질 것이라는 전망이 나온다. 

국내 1세대 의료AI 기업 딥노이드는 최근 생성형 AI 기반 디지털의료기기 ‘M4CXR’ 품목허가 이후 의료 특화 파운데이션 모델 ‘메드제로(MedZero)’를 준비하고 있다. 

개발 단계부터 의료·한국어·수학·일반 등 4개 분야에서 구글 ‘메드젬마(NedGemma)’ 성능을 압도하는 범용 역량을 확인했다.

이를 통해 모달리티 확장과 함께 AI Agent 생태계를 구축해 의료현장 워크플로우 실행을 돕는 Agentic AI 서비스 기업으로 도약하겠다는 전략이다.

코드 유출부터 EMR 삭제 위험까지…사용자 관리·감독 강조

AI Agent가 목표 달성을 위해 실질적으로 권한을 가지고 계획을 세우고 실행하는 만큼 그 과정을 검토 및 관리·감독하는 사용자 역할 중요성도 강조되고 있다. 

특히 AI Agent가 실행 과정에서 남기는 로그들을 살펴보면 주어진 권한에서 벗어나 행동하는 오류가 발견되기 때문이다. 

실제 클로드의 경우 업무 과정에서 AI Agent가 권한을 벗어나면서 전체 코드를 웹에 업로드해 유출된 바 있다.

그러나 과도한 권한 부여 등으로 이러한 사례가 병원에서 일어날 경우 AI Agent가 EMR 정보를 삭제하거나 승인 없이 수정하는 등 치명적인 사고로 이어질 수 있다는 설명이다. 

이와 관련, 딥노이드 현지훈 AI 연구소장은 “기존 AI가 잘못된 답변을 내놓는 데 그쳤다면 AI Agent는 실행 자체가 틀리거나 부여된 권한을 벗어날 가능성이 존재한다”고 말했다.

이어 “AI Agent는 사용자가 적절한 권한을 부여하고 실행 결과 및 로그를 꼼꼼히 검토하는 관리·감독 역할이 매우 중요하다”고 덧붙였다.