신약 후보물질의 약효·독성을 예측하거나 의료기기 개발을 지원하는 인공지능에 대해 고영향 AI 해당 여부를 판단할 구체적인 기준을 마련해야 한다는 주장이 제기됐다.

한국경제인협회는 회원사 의견 수렴을 통해 금년 1월 시행된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’과 관련해서 개선과제 19건을 과학기술정보통신부에 건의했다고 29일 밝혔다.

이번 건의는 AI 규제 대상과 적용 범위 명확화, 고지·표시 의무 합리화, 고성능·고영향 AI 규제 구체화, 학습데이터 활용기준 정비 등 5개 분야로 구성됐다.

의료·제약 분야에서는 연구지원 AI의 고영향 AI 판단기준 구체화가 주요 과제로 제시됐다. 

제약·바이오 기업들은 신약후보물질 탐색과 독성 예측 등 연구개발 전반에 AI를 활용하고 있다.

현행법은 보건의료·의료기기 등의 분야에서 쓰이면서 사람의 생명·신체 안전이나 기본권에 중대한 영향을 미칠 우려가 있는 AI를 ‘고영향 AI’로 규정하고 있다.

또한 과기정통부 ‘고영향 AI 판단 가이드라인’은 연구개발 단계에서 도구로 활용되는 AI를 의무 대상에서 제외한다고 안내한다. 

그러나 한경협은 “이 설명만으로는 기업이 실제 사용하는 연구지원 AI가 고영향 AI에 해당하는지 판단하기 어렵다”고 지적했다.

특히 “‘보건의료의 제공‧이용체계 구축‧운영’, ‘의료기기 개발 및 이용’ 요건이 넓게 해석될 경우 제약‧바이오 ‘연구지원’에 활용되는 AI까지 고영향 AI로 분류돼 사업자 책무가 부과될 우려가 있다”고 제기했다.

이에 한경협은 전임상 단계 연구지원, 문헌·특허 검색과 요약, 연구 데이터 분석, 범용 코딩 AI 등을 고영향 AI 비해당 사례로 가이드라인에 명시할 것을 건의했다.

관련 규제기관 의견을 한 곳에서 확인할 수 있는 ‘원스톱 창구’ 마련도 요청했다. 

제약·바이오 AI는 보건복지부·식품의약품안전처 규제와 맞물려 있어 고영향 AI 해당 여부를 검토하는 과정에서 여러 기관 의견을 확인해야 해서 부담으로 작용하기 때문이다.

권혁민 한경협 성장전략실장은 “AI 기본법 성과는 기업 현장에서 AI를 믿고 활용하는 사례가 얼마나 늘어나는지에 달려 있다”며 “AI 실제 위험과 기업 역할에 맞게 의무를 구체화해서 기업이 안전한 AI 활용과 혁신에 집중할 수 있도록 해야 한다”고 강조했다.