의사
AI 기본법은 보건의료 제공과 이용체계 구축 및 운영에 이용되는 인공지능, 디지털의료기기 개발 및 이용에 활용되는 인공지능으로 생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템을 '고영향 인공지능'에 포함시키고 있다.
인공지능이 탑재된 의료기기 및 디지털의료기기는 물론 의료기관에서 진료를 원활하게 하기 위해 이용하는 인공지능 시스템도 자동으로 고영향 인공지능에 포함될 수 있다. 이는 EU AI법에서 제기된 비판과 유사한 문제 제기를 가능케 한다.
의료기기·의료기관 등 규제 중복 가능성
먼저 AI가 탑재된 의료기기나 체외진단기기는 EU에서는 각각 MDR 및 IVDR(유럽의료기기 규제)에 의해 규제를 받고 있는데, EU AI법이 여기에 추가로 규제를 도입하면 기존 규제와 충돌하거나 중복될 수 있다는 문제 의식이 있다.
AI 의료 영역 제품이 '의료기기법', '체외진단의료기기법', '디지털의료제품법'에 해당되면 각 법률에 따라 기존 검증과 인증 절차를 거치는데, 여기에 AI기본법에 따른 별도 인증 및 가이드라인이 적용될 경우 규제 중복과 충돌 가능성이 현실화될 수 있다.
인공지능 기본법은 '의료기기법'이나 '디지털의료제품법' 등에 의해 규제기관이 시행하는 검증과 인공지능 기본법에 의한 검증과 인증을 조율하고 효율화 할 방안을 아직은 마련하지 않고 있다.
물론 인공지능 기본법 제5조 제1항은 '다른 법률에 특별한 규정이 있는 경우를 제외하고는 이 법에서 정하는 바에 따른다'고 규정하고 있어, 기존 법률의 우선 적용을 인정하는 구조를 갖고 있다.
그러나 실무적으로는 개인정보 보호법과 타 법률 간 중복 적용의 문제에서 드러난 것처럼 '특별한 규정'이 무엇인지가 분명하지 않은 경우가 많고, 이로 인해 수규범자는 양자 모두를 준수해야 하는 부담을 지게 된다. 결국 제5조 제1항이 실제로 규제 중복을 해소할 수 있을지는 불확실하다.
의료인 및 의료기관의 부담을 보면 EU AI법에서 의료인은 '이용자(deployer)'로 분류돼 각종 의무를 부담하는 쟁점이 존재하는데 AI기본법에도 유사한 우려가 있다.
법은 AI를 개발해서 제공하는 자를 '인공지능 개발사업자', 이를 이용해 AI 제품 또는 서비스를 제공하는 자를 '인공지능 이용사업자'로 구분하고, 이 둘을 더해 '인공지능 사업자'로 정의한다.
정의 조항에서는 구분되지만 실제 의무조항에서는 포괄적으로 '인공지능 사업자'라는 표현이 사용되기 때문에 의료기관이나 의료인이 AI를 활용해 진료서비스를 제공하는 경우, '인공지능 이용사업자'로 해석돼 관련 의무를 부담하게 될 가능성을 배제할 수 없다.
의료 AI는 일반 AI와 달라···의료 AI 특수성
이러한 불확실성은 진료 현장에서 의료인이 의료 AI 도입을 꺼리는 원인이 될 수 있다.
결국 진료 현장에서 의료인이 인공지능을 활용했다는 이유로 인공지능사업자로 분류돼 각종 평가, 고지, 신뢰성 확보 의무 등을 부담해야 한다면 의료 AI 도입은 실질적으로 위축될 수밖에 없다.
또한 인공지능 기본법은 의료기기나 디지털의료제품에 활용되는 인공지능이라고 해도 사람의 생명·신체·기본권에 중대한 영향을 미칠 우려가 있다면 고영향 인공지능으로 분류하고 있다.
이는 기존 의료기기법상의 등급 분류 체계와 충돌할 가능성이 있다.
우리나라 의료기기법은 위험 정도에 따라 14등급으로 나누며, 34등급은 명백히 중대한 영향을 줄 수 있는 기기로 분류되지만, 2등급은 잠재적 위험성은 있으나 중대한 위해(危害)까지는 보기 어려운 제품군이다.
그럼에도 AI 기본법에 따라 2등급 의료기기까지 '고영향 인공지능'으로 분류될 경우 규제의 격상 문제가 발생할 수 있다.
다만 과학기술정보통신부장관은 제33조 제3항에 따라 고영향 인공지능 기준과 예시에 관한 가이드라인을 수립·보급할 수 있으며, 이를 통해 의료기기법상의 등급 체계와 기준을 일치시킬 여지가 있다.
AI 기본법 반(半)연성규범 '긍정'···규제 탄력적으로 시행해야
의료 AI가 일반 AI와 가지는 차별점은 몇 가지로 정리된다. 첫째, 의료 AI는 객관적으로 관측 가능한 표적 변수에 기반해 작동한다. 이는 편향 문제 위험이 상대적으로 낮음을 의미한다.
둘째, 의료 AI는 규격화된 임상 환경에서 검증되며, 전문가 집단에 의해 지속적으로 통제되고 검토된다. 이는 설명 가능성이 낮더라도 임상적으로 안전성과 효능이 확인되면 신뢰할 수 있다는 의료계의 공감대를 형성할 수 있게 한다.
셋째, 의료 AI는 진료 과정에서 자동화된 결정이 아니라 참고 자료로 사용되며, 최종 판단은 의료인에게 있기 때문에 자동화된 의사결정과 관련된 규범적 문제에서 비교적 자유롭다.
경직된 경성규범보다 탄력적 대응이 가능한 반(半)연성규범이 현실적으로 더 낫다.
이러한 의료 AI 특수성으로 인해 인공지능 규제는 의료라는 특수영역의 특성을 충분히 반영해야 하며, EU AI법과 같이 일률적이고 포괄적인 규제는 의료 AI 발전에 악영향을 줄 수 있다.
다만 AI기본법은 포괄적 법률임에도 불구하고, 각 영역별 특성을 반영할 수 있는 여지를 남겨두고 있고 자족적인 구조가 아니라 다양한 윤리원칙, 윤리지침, 가이드라인 제정을 전제로 한 구조를 띠고 있어 탄력적인 운용이 가능하다는 점에서 긍정적인 출발이라 할 수 있다.
궁극적으로 인공지능 기본법은 의료 AI에 의무적으로 적용될 경우 발생할 수 있는 문제점을 최소화하기 위해 하위 규정 세분화를 각 영역 현실에 맞게 추진하고, 식약처 등 기존 규제기관과 협력하며, 중지명령·시정명령 등의 규제를 경직되지 않고 탄력적으로 시행해야 한다.
그렇게 함으로써 의료 AI의 특성을 살리고, 규제의 실효성을 확보할 수 있을 것이다.
※ 본 칼럼은 법제처에서 발간하는 '법제'에 최근 게재된 논문 내용 중 일부로, 출판물 저작권 관련 규정에 따라 저작권자 동의 이후 칼럼 게재를 위해 원고 기반으로 재작성 된 글입니다.
데일리메디 기자 (
