의료 및 임상 현장에서 인공지능(AI) 활용에 대한 책임 소재 논의가 활발한 가운데 결국은 이를 활용한 의사 몫이라는 데 무게가 실리고 있다.

이는 의료계와 학계 등에서 인공지능이 의사 판단을 돕는 보조 도구라는 개념이 점차 명확해지는 추세에 따른 변화다.

한국보건의료연구원(NECA, 원장 이재태)은 최근 ‘의료 분야 생성형 AI 적정 활용 원칙’을 발표했다.

해당 원칙은 의료 AI를 사용하는 모든 주체가 공유해야 할 사회적 약속에 초점을 맞췄으며 개발자 및 서비스 제공자, 의료인, 국민 등 3개 주체별 핵심 역할과 실천 원칙으로 구성됐다.

특히 의료인과 관련해 AI가 임상 판단을 돕는 참고 도구며, 최종 결정 책임이 의료인에게 있음을 분명히 했다. AI를 단순히 잘 만드는 것을 넘어 현장에서 잘 사용하는 것에 목표를 둔 것이다.

가톨릭중앙의료원, 윤리강령 선포 “AI는 인간 중심 의료보조 수단”

지난달 국내 의료기관 최초로 ‘의료 AI 윤리강령’을 선포한 가톨릭대학교 가톨릭중앙의료원(의무부총장 겸 의료원장 민창기) 역시 이 같은 점을 거듭 강조했다.

인공지능을 인간 중심 의료를 실현하기 위한 보조적 도구로 명확히 규정했고, 이는 향후 가톨릭의료원의 의료 AI 연구 및 활용 등에도 반영될 전망이다.

윤리강령을 세부적으로 살펴보면 핵심가치와 지향점, 인간 중심성과 통제, 신뢰성과 데이터 윤리, 사회 정의와 책무 등 총 4가지 원칙과 12개 항목으로 마련됐다.

이 중 인간 중심성과 통제에 해당하는 보조성, 인간 책임성, 관리 감독 항목은 인공지능이 환자와 의료진 관계를 대체하지 않고 증진시키는 보조적 수단으로 활용돼야 한다는 점을 짚었다.

아울러 모든 인공지능은 인간의 철저한 관리 및 감독 아래 운영돼야 한다는 원칙을 핵심으로 제시했다.

법조계 “AI 도움 받을 뿐 판단에 대한 책임은 의료인”

이처럼 의료 AI를 철저히 보조 수단으로 한정하는 흐름 속에서 법적 책임에 대한 무게추는 결국 의사에게 쏠리는 모양새다.

법조계 역시 의료 AI 오진에 따른 최종 책임은 이를 활용해 결정을 내린 의사 몫이라는 데 이견이 없는 상황이다.

법조계 관계자는 “AI 도움을 받을 뿐 의료행위는 의사가 한다. AI가 정리한 지식을 바탕으로 내린 판단에 대한 책임은 의료인에게 있다”며 “만약 AI가 잘못된 정보를 제공했다고 해도 의료인이 사실 여부를 가려야 한다”고 말했다.

한편, ‘최종 책임은 정보를 활용해 판단한 개인에게 있다’는 국내 법조계 시각은 의사가 개입하지 않은 해외 AI 소송 사례에서도 동일하게 적용되는 분위기다. 

최근 미국에서는 AI가 제공한 정보에 의존해 약을 복용한 19세 소년이 사망하자 유족이 오픈AI와 경영진을 상대로 소송을 제기하는 사건이 발생했다.

이와 관련, 법조계 관계자는 “섣불리 얘기하긴 어렵지만 미국과 달리 한국 법제도 하에서는 오픈AI나 개발사에 책임을 묻기가 쉽지 않을 것”이라며 “오픈AI의 경우 온라인상 광범위한 정보를 수집해 정리해 주는 도구인데 이를 그대로 믿고 따랐다고 해서 AI에게 법리적으로 책임을 묻기는 어렵다고 생각한다”고 말했다.

다만, 그는 “향후 AI가 극도로 발달해 인간 전문가를 대체하는 수준에 이른다면 법률적인 책임을 비롯해 제도 전반의 전면적인 변환이 필요할 것”이라고 덧붙였다.