의료AI가 환자 건강데이터 침해땐 누구 책임일까?

대한디지털헬스학회 학술대회...현행법상 의료진·의료기관이 감당해야

법무법인 율촌 정상태 변호사가 28일 판교 차바이오컴플렉스에서 열린 대한디지털헬스학회 춘계학술대회에서 인공지능의 법적 책임에 대해 발표하고 있다. 사진=장자원 기자.

"인공지능(AI)은 어떤 책임도 지지 않습니다. 의사와 병원, AI 개발사가 책임을 분담하죠. AI의 판단을 따라 진단이나 처방을 하더라도 AI에게 책임을 물을 수는 없다는 겁니다."

정상태 변호사(법무법인 율촌)는 28일 판교 차바이오컴플렉스에서 열린 대한디지털헬스학회 춘계학술대회에서 이같이 말하며 의료 AI의 현명한 활용이 필요하다고 강조했다. 진료나 연구 과정에서 AI의 권리 침해를 막기 위해선 의료진의 각별한 주의가 필요하다는 것이다.

최근 의료계와 헬스케어 산업계는 다양한 분야에서 인공지능(AI)을 전면 활용하는 추세다. 식품의약품안전처 디지털의료제품 TF팀의 조사에 따르면 지난해 식약처 허가를 받은 AI 기반 의료제품은 총 59개로, 2021년(14개)에 비해 4배 이상 늘었다.

활용처도 다양해지고 있다. AI는 신약 후보물질 발굴부터 질병의 진단 보조, 응급 환자 선별, 건강데이터 분석 등 대규모 데이터를 빠른 시간 내에 처리하며 기존에 인간이 물리적 시간의 한계로 다루지 못했던 영역을 보조한다.

다만 의료 AI의 활용은 권리 침해 가능성과 불분명한 책임 소재 등 한계가 존재한다는 우려가 있다. AI가 제대로 기능하기 위해선 대규모 데이터를 학습해야 하는데, 그 과정에서 환자 의료 기록이나 건강 데이터 등 민감한 정보가 침해될 가능성이 있다는 것이다. 또 AI가 판단한 결과가 예상치 못한 결과를 가져왔을 때 누구에게 책임이 있는 지에 대한 논쟁도 현재 진행형이다.

정 변호사는 "국내외 현행법상 AI는 지적재산권이나 특허권의 권리자로 등록될 수 없으며, 동시에 법적 분쟁에 대한 책임도 지지 않는다"고 강조했다.

그는 "미국, 영국, 호주는 AI에게 특허권을 부여하는 것을 기각했고, 독일은 개발 시 AI를 활용했다는 것을 병기하는 정도까지만 허용했다"며 "권리와 책임이 함께 부여된다는 것을 감안하면 앞으로도 AI에게 책임을 물을 가능성은 높지 않다"고 분석했다.

다만 의료진과 의료기관에게 데이터 활용에 대한 책임이 과도하게 부과되고 있다는 의견도 있다. 이날 정 변호사에 이어 연자로 나선 김현경 변호사(서울대병원 법무팀)는 "의료데이터 처리를 위해 의료기관이 구축하는 인프라나 투자에 대한 보상은 이뤄지지 않고 있다"고 진단했다.

서울대병원 법무팀 김현경 변호사가 28일 대한디지털헬스학회 춘계학술대회에서 발표하고 있다. 사진=장자원 기자.

AI의 대규모 학습이나 연구 목적 활용을 위해서는 환자들의 의료 데이터를 가명 처리해야 하는데, 이 과정은 개인정보보호법·의료법·생명윤리법 등 3개 법안의 적용을 받는다. 문제는 이들 법안이 서로 충돌하는 상황이 발생할 수 있다는 것이다.

현재 개인정보보호법상 의료기관이 진료 목적으로 수집한 환자 관련 데이터를 가명 처리하면 환자 본인의 동의가 없이 과학적 연구 목적으로 활용할 수 있다. 그런데 가명정보 처리에 대한 의료법을 보면, 연구 목적으로 가명 처리가 필요할 때 '타 기관 종사자'에게 정보를 제공하는 것은 위법이다. 의료기관이 보유한 환자 기록에 대해서는 의료법이 우선 적용되기 때문에, 결국 의료기관 자체적으로 가명 정보를 처리해야 한다.

의료데이터 활용에 관한 법률 유권 해석. [자료=서울대병원 법무팀]

김 변호사는 "서울대병원처럼 상급종합병원은 자체 데이터 처리에 대한 인프라와 경험을 가지고 있지만, 개인정보 처리 업무를 외부 기관에 위탁 계약으로 처리해오고 있는 대부분의 중소병원들은 자체 처리가 불가능하다"며 "실무와 다소 거리가 있는 유권 해석"이라고 말했다.

또한 그는 "상급종합병원이 자체 데이터 처리를 위해 투자하는 비용은 그대로 병원이 부담하게 되어 있다"며 "의료데이터 활성화를 위해서는 병원이 지속가능한 투자를 할 수 있도록 일정 부분은 보상받을 수 있는 방안을 고민해야 한다"고 덧붙였다.

장자원 기자 (jang@kormedi.com)