의료현장에서 인공지능(AI) 활용이 급격히 확산하고 있지만 국내 보건의료 AI 윤리 제도는 선언적 수준에 머물러 있어 구체적인 관리체계 마련이 시급하다는 지적이 제기됐다. 

국제 사회가 위험 기반 규제와 전(全) 주기 관리체계로 빠르게 이행하는 것과 대조적인 모습으로, 각  부처 역할이 분절돼 책임 소재 역시 명확치 않다는 지적이다. 

우혜경 국립공주대 보건환경연구소 교수팀은 최근 보건협회 학회지 대한보건연구에 이 같은 내용을 담은 ‘보건의료 인공지능 윤리 제도화’라는 제하의 논문을 발표했다.  

연구팀에 따르면 세계보건기구(WHO), 유럽연합(EU) 등 주요 국제기구는 AI 윤리 가이드라인을 단순한 가치 합의에서 실행 및 감독 중심 체계로 발전시키고 있다. 

특히 EU의 인공지능법은 의료 AI 대부분을 고위험 시스템으로 분류해 데이터 품질 관리와 알고리즘 투명성 확보, 인간 감독 체계 구축 등을 법적 의무로 규정했다. 

WHO 역시 의료 AI의 형평성 확보를 위해 학습 데이터가 다양한 인구집단을 대표해야 하며, 모델 성능을 성별, 인종, 연령별로 평가하도록 권고하고 있다.  

반면 국내 보건의료 AI 제도는 윤리 원칙과 일부 제도적 기반을 마련했으나, 이를 실행 가능한 운영 체계로 연결하는 구조에 공백이 존재하는 것으로 나타났다. 

과학기술정보통신부, 보건복지부, 식품의약품안전처 등 여러 부처가 윤리, 데이터, 허가 등을 각각 분담해 다층적 구조로 운영 중이지만, 제도 간 위계와 책임 구조가 명확하지 않다는 한계가 있다.  

연구팀은 국내 AI 제도의 주요 한계로 알고리즘 편향 검증 체계의 미제도화, 의료 AI 설명가능성 기준 부재, 전 주기 데이터 관리체계 미흡, 오류 발생 시 책임 주체의 불명확성을 꼽았다.

AI 오진 초래, 책임 배분 기준 無

특히 의료 AI가 오진을 초래했을 때 개발자, 제조사, 의료기관, 의사 중 누가 책임을 져야 하는지 구체적인 배분 기준이 없다는 점이 심각한 문제로 지적됐다. 

현재 국내 가이드라인은 차별 방지와 형평성 확보를 가치 차원에서 선언하고 있을 뿐, 특정 집단에서 유의미한 성능 차이를 보일 경우 이를 공개하거나 개선토록 요구하는 제도가 없는 실정이다.  

이에 따라 보건의료 AI 윤리가 선언적 원칙을 넘어 측정과 검증, 책임 귀속이 가능한 운영 체계로 전환돼야 한다고 연구팀은 제언했다. 

고위험 의료 AI에 대한 다층적 책임 배분 기준을 세우고, 실제 사용 데이터 기반의 성능 모니터링 체계를 의무화하는 등 부처 간 분절된 구조를 통합할 필요가 있다는 것이다. 

연구팀은 “의료 현장의 복잡성을 수용하면서도 유연하게 대응할 수 있는 통합 거버넌스 체계 구축이 향후 국내 보건의료 AI 산업 경쟁력 확보를 위한 핵심 과제가 될 것”이라고 강조했다.