국내도 고위험 인공지능(AI) 금지 및 관련 처별 규제 필요성이 대두됐다. 

유럽연합이 지난 9일 세계 최초로 고위험 인공지능을 포괄 규제하는 ‘인공지능법안’(AI Act)에 합의한데 따른 것이다.

보건의료 영역의 경우 인공지능 환시(Hallucination) 효과에 따른 규제 필요성이 꾸준히 제기되는 분위기다.  

최근 무상의료운동본부 등 다수 시민단체 및 노동조합이 "한국에도 위험한 인공지능을 금지하고 처벌하는 규제가 필요하다"는 공동 논평을 발표하는 등 규제 촉구 목소리가 커지고 있다. 

유럽연합 이사회에 따르면 인공지능 기술 관련 사고·논쟁 수는 2012년 10건에서 2021년 260건으로 26배 증가했다. 

특히 챗GPT 출시 이후 제공자가 통제할 수 없는 범용 인공지능(general-purpose AI)에 대한 우려가 확산돼 인공지능법안 합의에 이르렀다.

유럽연합은 사람 안전과 기본권에 위험한 영향을 미치는 의료기기, 자동차, 항공, 기계, 장난감, 고용, 교육, 사회복지, 금융 등을 폭넓게 포함했고 의료 등 데이터분야 등도 해당된다

챗GPT 출시 이후 논란을 빚었던 생성형 인공지능을 포함한 범용 인공지능에 대해서는 투명성 의무에 더하여 학습 데이터에 대한 공개와 문서화 의무를 강화했다.

해당 법에서는 법에서는 부과 의무를 위반 인공지능 사업자에 대해 전세계 매출액의 최대 7%에 달하는 높은 제재를 부과토록 규정했다. 

올해 G7 등 세계 주요국가들이 첨단 인공지능 위험 통제를 요구하고 나섰고 세계 각국에서 인공지능 위험성 규제 제도가 추진되고 있다. 유엔은 내년 8월까지 첨단 인공지능에 대한 규제 방향을 결정할 예정이다. 

국내도 의료 AI에 대한 환시효과 등 대책 및 주의를 요구하는 의료계 목소리는 물론 각종 가이드라인 및 정책, 법률적인 후속대책 마련에 분주한 상황이다. 

하지만 해외에 비해 명확화되지 못한 범용 인공지능 관련 규제에 비판 여론도 존재한다. 

인공지능법은 실효성 있게 국민 안전과 인권에 미치는 위험성을 예방하고 그로 인한 피해를 방지, 구제를 위한 강력한 규범을 세워야 한다는 주장이다. 

무상의료운동본부는 “정부와 국회는 국민 안전과 기본권을 침해하는 인공지능을 규제하고 인간 중심적이고 투명하며 책임성있는 인공지능 산업을 촉진하는 제대로 된 인공지능법을 마련해야 할 것”이라고 밝혔다. 

조재민 기자 (jojo@dailymedi.com) 기자의 다른기사보기