오픈AI가 ChatGPT에 ‘Health’ 기능을 출시하며 미국 사용자의 건강정보 활용을 확대했다. 

반면 ChatGPT의 의료 조언을 둘러싼 소송 등 문제가 지속되자 규제 법안이 등장하면서 책임에 대한 견제 움직임도 나타나는 모양새다.

최근 오픈AI는 미국의 만 18세 이상 로그인 이용자를 대상으로 웹과 iOS에서 ‘Health in ChatGPT’를 순차 제공한다고 발표했다. 

올해 1월 출시, 일부 이용자에게 별도 공간으로 제공했던 Health를 개편한 것이다. 

오픈AI에 따르면 초기 Health 이용자 건강 관련 대화 중 70% 이상은 별도 Health 공간 밖에서 이뤄졌다. 

이번 출시에 따라 이용자가 동의하는 경우 Apple Health와 지원되는 의료기관 기록을 연결, 일반적인 챗GPT 대화에서도 자신의 건강정보를 반영한 답변을 받을 수 있다.

이를 통해 ChatGPT가 사용자의 건강 정보를 맥락에 맞게 이해하고 변경 사항을 추적, 더욱 정확하고 개인화된 대화를 나눌 수 있도록 지원한다는 설명이다.

연결된 의료기록과 Apple Health 정보, 대화 내용은 기본모델 학습이나 광고 타깃팅에 사용되지 않도록 다층적인 개인정보 보호 및 보안 장치를 구축했다.

“ChatGPT 믿다 치료 늦어져”…오픈AI 의료정보 부작용 논란

다만 ChatGPT가 제공하는 의료 조언 관련, 정확성과 안전성 문제도 계속되고 있다. 

뉴욕타임스 등에 따르면 최근 미국 플로리다주 전직 목사 스콧 윈터스(Scott Winters)는 오픈AI와 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다.

그는 2024년 GPT-4o 모델에 어지럼증 등을 상담하면서 병원을 찾는 대신 휴식을 취하라는 취지의 답변을 받아 일정 기간 활동량을 제한했다고 주장한 것으로 알려졌다.

그러나 2025년 7월 폐색전증을 진단받고 중환자실에 입원하면서 의료진은 장기간의 움직임 부족이 발병에 영향을 미쳤을 가능성을 설명했다.

응급 상황 발생 몇 시간 전(前) 사타구니 통증을 설명하며 병원 방문 필요성을 묻었을 때도 ChatGPT가 위험하지 않은 증상으로 판단했다는 내용도 소장에 담겼다.

이후 오픈AI는 GPT-4o를 지난 2월 서비스에서 제외했으며 소송은 향후 법원 심리를 통해 사실관계와 법적 책임이 판단될 예정이다.

美 여야 하원의원, ‘AI 킬스위치법’ 공동 발의

이 밖에 해킹 문제 등 안전 논란이 연이어 터지면서 미국 의회가 법적 규제 마련에 나섰다. 

테드 류 민주당 하원의원과 너새니얼 모런 공화당 하원의원이 ‘AI 킬스위치법(AI Kill Switch Act)’을 공동 발의한 것이다. 

법안은 AI가 개발자 통제를 벗어날 경우 정부의 강제 가동 중단을 허용하는 것이 주요 골자다.

개발자가 의도하지 않은 위험 행동을 AI가 실행하는 ‘통제 상실 시나리오’가 발생하면 국토안보부가 개입해 모델 가동 중단을 명령할 수 있도록 규정했다.

발동 기준은 AI 모델이 스스로 능력 은폐 시도 및 시스템 정지 명령 고의 회피, 실제 인명 피해 또는 1억 달러 이상 경제적 손실 유발 등 명백한 통제 상실 상황이 포착될 경우다.