오진·오폭 우려 커져…“AI 리스크 관리 시급”

AI 챗봇 의료정보 절반이 ‘부정확’…20% 심각한 오류
전장에 투입된 준자율 무기…오인 식별 위험성 커져
라가르드 “AI통제, 중대 과제”…거버넌스 논의 확산
앤스로픽, 미토스 제한적 공개…접근방식 두고 호평

[이데일리 임유경 기자] 인공지능(AI)이 의료·금융·안보 등 사회 전반으로 빠르게 확산하면서 기술 활용에 상응하는 안전성 감독 체계 마련이 시급하다는 목소리가 높아지고 있다. 의료 분야에서는 ‘AI 오진’ 문제가, 군사·안보 영역에서도 오인 식별·오폭 등이 드러나면서 AI 리스크를 체계적으로 관리할 수 있는 거버넌스(관리 체계) 구축에 대한 필요성이 커지고 있다.

[이데일리 문승용 기자]

의학 학술지 BMJ오픈은 14일(현지시간) 미국·캐나다·영국 연구진이 참여한 하버-UCLA 메디컬 센터의 연구자료에서 AI 챗봇이 제공한 의료 정보의 절반가량은 부정확하거나 부적절한 것으로 나타났다. 평가는 챗GPT, 제미나이, 메타 AI, 그록, 딥시크 등 5개 주요 AI 플랫폼을 대상으로 5개 건강 분야에 걸쳐 각각 10개의 질문을 던져 이뤄졌다. 전체 답변 가운데 약 20%는 ‘심각한 오류’로 분류됐다. 예컨대 한 챗봇은 “비타민 D 보충제가 암을 예방하느냐”는 질문에 대해 일부 관찰연구 결과를 근거로 예방 가능성을 시사하면서 무작위 임상시험에서는 효과가 확인되지 않았다는 점을 구분해 설명하지 않았다.

이에 연구진은 AI가 의료 효율성을 높일 잠재력은 크지만 근거가 불충분한 정보를 단정적으로 제시하거나 맥락을 생략하면 공중 보건에 부정적 영향을 미칠 수 있다고 경고했다. 오픈AI에 따르면 매주 2억명의 사용자가 챗GPT에 건강 관련 질문을 하고 있다. AI 챗봇이 사실상 ‘비공식 의료 상담 창구’로 활용되고 있는 만큼 잘못된 답변이 실제 사용자 건강에 위협이 될 수 있다.

군사·안보 영역에서도 우려는 커지고 있다. AI가 결합한 드론 등 인간 개입 없이 목표를 식별·추적하는 준 자율 무기 체계가 실제 전장에서 운용되면서 오인 식별과 민간인 피해 가능성을 높이고 있다는 지적이다. 이란 전쟁은 AI가 정보전과 표적 선정, 무인 전력 운용 전반에 관여하는 단계로 진입했음을 보여주는 사례로 평가된다.

(사진=AFP)

하지만 AI 활용에 대한 국제적 규범과 책임 체계는 여전히 미비하다. 이에 따라 글로벌 차원의 규제 프레임 워크 구축 필요성이 커지고 있다. 크리스틴 라가르드 유럽중앙은행(ECB) 총재는 블룸버그TV 인터뷰에서 AI 통제 문제를 “중대한 과제”로 규정했다. 그는 “AI는 긍정적·부정적 측면 모두에서 매우 파괴적일 수 있다”며 “이를 제대로 감독할 수 있는 거버넌스 체계에 대한 작업이 필요하다”고 강조했다.

거버넌스 공백 속에서 기업도 자율적인 대응에 나서고 있다. 앤스로픽은 최신 모델 ‘미토스’를 전면 공개하는 대신 아마존, 애플, JP모건 등 일부 대형 기업에 제한적으로 제공하고 사전 점검을 진행하고 있다. 해당 모델이 강력한 성능을 지닌 만큼 충분한 검증 없이 공개되면 사이버 공격이나 정보 조작 등에 악용될 수 있다는 판단에서다.

이러한 접근에 대해 ‘기업의 책임 있는 선제 대응’이라는 평가가 나온다. 에반 솔로몬 캐나다 인공지능부 장관은 “앤스로픽은 위험을 조기에 식별하고 정부와 보안 커뮤니티와 협력해 기술을 널리 확산하기 전 안전 장치를 마련했다”며 “이것이 최첨단 AI 기업에 기대하는 책임감이다”고 평가했다.

임유경 (yklim01@edaily.co.kr)