2010년 5월 6일 미국 증시가 갑자기 9%나 폭락했다. 개인 자산으로 따지면 1조 달러 이상이 순식간에 증발한 셈이었다. 6개월에 걸친 조사결과 확인된 원인은 주식매매를 대신해주는 컴퓨터 프로그램이었다.
이 프로그램들이 짧은 시간 내 수익을 내기 위해 행한 수 천번의 거래가 서로 상충되며 일시적인 증시 폭락을 만들어낸 것이다.
몇 년 뒤 주식거래를 대신해주는 인공지능(AI) ‘로보 어드바이저’가 탄생할 때까지 해결책은 제시되지 않았다. '인간은 필요 없다'의 저자 제리 카플란은 “경제학자들은 이 낯선 현상에 ‘시스템적 리스크’라는 소박한 이름을 붙여 마치 항상제를 맞으면 회복할 수 있는 증상처럼 들리게 만들었다”고 꼬집었다.
암 진단에 활용되는 IBM의 슈퍼컴퓨터 ‘왓슨 포 온콜로지’가 어느새 우리 생활에 깊이 들어왔다. 인공지능 의사를 채용한 국내 대학병원들은 왓슨이 제시한 항암치료법이 의료진 견해와 일치했다는 결과도 잇따라 내놨다.
사실 더 이상 왓슨의 성능 자체를 걱정할 필요는 없을지도 모른다. 인공지능은 학습 알고리즘 덕에 시간이 지날수록 발전할 수 있다. 알파고가 3000만 건의 기보를 몇 년만에 흡수했듯 왓슨 또한 환자 데이터를 긁어모으며 더 빠르고 정확한 진단으로 우리를 놀라게 할 것이다.
왓슨 활약은 우리의 인식을 변화시킨다. AI가 환자 치료에 개입하는 것을 삭막하다고 바라보는 시선은 구시대적으로 느껴진다.
의술을 임상경험에서 우러나오는 직관적 능력이라기보다 통계적 데이터로부터 비롯되는 과학이라고 간주하는 쪽으로 무게추가 쏠린다. 전문가들은 왓슨이 의사의 결정을 보조하는 도구에 지나지 않는다고 정의하지만 아이러니하게도 그 도구 하나가 의술에 대한 우리의 가치관을 바꾸고 있는 모양새다.
과거에 상상하던 대로 인공지능이 우리의 삶을 움직이는 모습들이 현실화되고 있지만 고전적인 고민 하나가 해결되지 않고 있다. 왓슨에게 도덕성을 물을 수 있느냐는 점이다.
로봇도 감정을 가질 수 있는가와 같은 동화적인 걱정이 아니다. 기술적 차원의 문제다. 윤리규범을 고려하도록 짜여 있지 않은 AI 알고리즘은 주식매매와 같이 불특정 다수의 사회 구성원에게 영향을 미치는 문제도 망설임 없이 결정해 버리기 때문이다.
이 같은 점을 우려해 도덕적 문제를 해결할 수 있게 하는 알고리즘을 인공지능에 도입하려는 시도는 오래 전부터 있어왔다. 도덕을 학습시키려면 도덕과 비도덕을 판단하는 공식화된 프로그램이 있어야 한다는 난제를 풀기 어려워 지연되고 있는 실정이다.
왓슨도 여기에서 자유로울 수 없다. 인공지능은 의사처럼 단일화된 개별 주체가 아니다. 외래 예약부터 시작해 환자 진단, 처방, 수술기록 검토, 재활치료 계획 수립에 이르기까지 병원 시스템 전반에 활용될 수 있다.
시간이 지나 우리가 생각지도 못한 부분에서 문제점이 발견됐을 때 책임 소재는 어디에 있는 것일까. 왓슨이 내린 진단결과를 전달한 주치의인가. 혹은 개발 주체인 IBM이나 왓슨을 도입하기로 결정한 병원에 물어야 할까.
법적인 문제도 있다. 방대한 데이터를 기반으로 치료행위에 대한 다학제적 분석을 빠르게 해내는 AI에게 우리는 점차 복잡하고 중요한 결정을 맡기게 될 것이다.
수술이 필요하다는 왓슨의 분석을 참고한 의사가 환자에게 수술동의서를 받으려고 한다면 왓슨도 설명의무법을 적용받게 되는 것은 아닐까?
혹은 환자가 원한다면 의사는 인공지능이 어떤 알고리즘을 바탕으로 진단을 내렸는지 그 복잡한 경로를 더듬어 알려줘야 할 의무가 생겨날지도 모른다.
결국 원점으로 돌아온다. 역설적으로 의사들의 할 일은 더 늘어났다. 예전에는 새로운 연구들을 참조해 스스로의 지식을 확인하고 점검하는 작업만 하면 됐다.
그러나 이제는 AI가 믿을 만한 연구 데이터를 수집하고 있는지, 작동 과정에서 오류는 없는지, 환자의 몸에 무리가 가지 않는 치료법을 내 놓는 알고리즘으로 작동하고 있는지 등 기초의학부터 소프트웨어 엔지니어링에 대한 지식까지 갖고 있어야 환자를 제대로 돌볼 수 있게 됐다.
의과대학이 먼저 대비를 시작했다. 하버드는 2019년부터 커리큘럼을 변화해 AI에게 새로운 지식을 가르칠 수 있는 의대생 양성을 목표로 하고 있다.
연세대학교 의학교육학과 전우택 교수는 “수정과 보완으로는 미래를 따라잡을 수 없다. 교육과정 전체가 AI시대에 맞는 새로운 패러다임으로 바뀌어야 한다”고 강조했다.
하지만 이마저도 뒤쳐저 보인다. 왓슨은 이미 현재다. 엄청난 양의 데이터가 오가는 병원은 AI가 학습을 통한 발전을 이룩하기에 최적의 공간이다. 빠르게 앞서 나가는 왓슨을 통제하기 위해 의사 업무는 늘어날 것이다. 모든 것을 기계에 맡긴 편리한 자동화 시스템은 인공지능이 먼저 도입된 병원에 정작 가장 늦게 실현될 수 있다.
한해진 기자 (
