의료 인공지능(AI) 발전 가속화로 관련 연구윤리 중요성이 높아진 가운데 대한민국의학한림원이 인공지능 관련 의료연구윤리지침을 공개했다.
지침 핵심은 “인공지능(AI) 연구자는 전 운용기간 동안 편향 감소를 위해 노력함으로써 기술 지속가능성을 증가시켜야 한다”는 내용으로 요약됐다.
다만 해당 지침이 해외 사례를 토대로 마련돼 국내 의료환경에 맞춘 현지화 등 추가 연구분석 필요성이 제안됐다. 인공지능 편향 경향이 해외와 다를 수 있다는 이유다.
연세의대 의료법윤리학과 이일학 교수는 최근 열린 ‘대한민국의학한림원 의료연구윤리지침개정안 공청회’에서 보건의료 인공지능에 따른 윤리지침 일부 개정안을 공개했다.
의료인공지능은 보건의료 환경에서 의료용 데이터를 학습하고 특정 패턴을 인식해 질병을 진단하고 환자에게 최적의 치료 방법을 제공토록 개발된 기기다.
이 교수가 공개한 보건의료 인공지능 개발자 윤리 지침은 3가지로 압축된다. ▲인공지능 안정성 보장 및 투명성과 설명 가능성 책무 실천 ▲연구 데이터 수집 과정 등 사생활 보호, 형평, 정보주체 자율성 존중 ▲인공지능 운용 기간 편향 감소 노력과 기술 지속가능성 증가다.
이 교수는 핵심 키워드를 토대로 지침 설정에 활용했다. 주요 키워드는 ▲데이터 수집 ▲프라이버시 ▲형평성 ▲자기 결정권 ▲임상환경 적용 ▲안전성 ▲책임성 ▲투명성 ▲신뢰 ▲사회적 맥락과 영향 ▲지속가능성 ▲형평성 ▲공적 신뢰다.
이 교수는 “인공지능의 급격한 발달로 연구환경 변화 필요성이 대두됐다”며 “인공지능 토대 진료-연구-산업의 융합 연구 결과가 의료행위를 다시 산업으로 전이되는 등 환자 이익과 연구적 중립성에 대한 가치 문제가 확대됐다”고 밝혔다.
또 인공지능 연구와 관련, 이해 상충 영역도 윤리 이슈는 존재한다. 바로 데이터 관리 및 연구대상자 보호 뿐 아니라 연구자의 전문가적 판단을 보장하기 위한 재정이익 개입 여부 관리다.
한편, 이 교수는 보건의료 인공지능이 윤리적 고려 대상이 되는 특성을 ▲보건의료 인공지능의 개발 과정에서 활용하는 정보(개인의 민감정보) ▲인공지능이 의료행위에 활용될 경우 환자의 안녕과 직결되는 결과에 따른 안전성과 효과성의 엄격한 검증으로 꼽았다.
“국내와 해외 의료 인공지능 편향 다르다”
이화여대 법전원 이원복 교수는 이번 연구윤리 지침안 필요성에 공감하면서도 편향에 관한 추가 연구 및 분석이 필요하다고 제안했다. 핵심은 국내 실정에 맞는 현지화다.
지침 개정안이 참고한 미국 사례의 경우 가치지불제도를 도입해 의료체계가 달라서 발생하는 인공지능 편향 문제가 다수인 데 따른 지적이다.
반면 우리나라의 경우 의료 접근성이 높아 의료 편향이 적을 수 있다는 판단이다. 실제 미국에서 인공지능의 대표적 편향 문제는 인종 등이 개입돼 우리 의료현장과 다른 문제가 존재해 적절한 비교 및 분석이 필요하다는 것이다.
이원복 교수는 “외국 의료체계는 우리나라와 다르기 때문에 인공지능 알고리즘도 고민해야 한다”며 “외국의 연구 결과를 보면 편향이나 차별이 발생한 연구 결과가 우리나라에 대입하면 소수에 그칠 수 있기 때문”이라고 말했다.
즉, 우리나라 인구 구조적 특성에 따라 의료 맥락에서 인공지능 연구 편향이나 차별 등장 가능성이 적을 수도 있다는 설명이다.
이일학 교수는 의료 인공지능 편향 지침과 관련해 필요성을 수긍하고 보완된 설명, 지침 개정안에 포함하는 작업을 고려해 보겠다고 답변했다.
별도로 패널 질문에서 나온 인공지능 진단 오류 책임성에 관한 질문도 눈길을 끌었다. 현재 일각에서 제기되는 AI 진단의 책임소재 문제에 관해서는 당장 직면한 문제는 아니라는 답변이다.
전국의대교수협의회 김장한 회장은 “현재 의료현장에서 인공지능으로 진단해도 최종 과정에서 의사가 서명하고 책임을 지도록 하고 있어 현재는 인간과 인공지능 간 오진 등에 의한 손해배상 설정 단계는 아직 고려하지 않고 있다”고 밝혔다.
조재민 기자 (
