[기고] AI의 실패는 누가 책임지나

■김서준 해시드 대표
작동원리 몰라도 결과 만드는 시대
오류 발생 땐 책임소재 규명 어려워
활용범위·수준 등 사회적 논의 필요

김서준 해시드 대표. 사진제공=해시드

르네상스 시대의 예술가 레오나르도 다빈치는 해부학과 공학·회화·천문학에 박식한 전문가였다. 18세기까지만 해도 자연철학자라는 이름 아래 물리와 화학·생물을 한 사람이 아우를 수 있었다. 이같이 여러 방면에 박학다식한 전문가로서의 삶이 불가능해진 것은 19세기 후반 무렵이다. 현대 사회에서 박사 학위를 받으려면 22년에서 28년의 교육이 필요하다. 박사들은 대체로 인생의 3분의 1을 순수하게 배우는 데 시간을 보내지만 쪼개진 조각의 끝에서 자신의 조각만 간신히 들여다보고 있다. 조각이라도 들여다보고 있으면 다행이라는 말이 나올 정도다. 그런데 지난해부터 전문 지식이 없어도 무엇을 만들 수 있는 시대가 열렸다. 인공지능(AI)에 이런 기능을 하는 프로그램을 만들라고 하면 AI가 코드를 작성하고 개발자는 그 코드를 읽지 않고 실행한다. 작동하지 않으면 에러 메시지를 복사해서 AI에 다시 붙여넣을 뿐 왜 작동하는지는 묻지 않는다.

과거 산업혁명 때도 공장 노동자가 전체 공정을 모르지 않았냐고 반론할 수 있다. 하지만 그때는 분업이었고 어딘가에는 전체 흐름을 꿰는 사람이 있었다. 인류는 그 범위 내에서 그동안 모르는 것을 알아내며 새로운 것을 만들어왔다. 이제 우리는 자기가 뭘 모르는지조차 모르는 상태에서 결과물을 내보내는 존재가 되었다. 우리는 AI를 활용해 ‘블랙박스’를 조립하고 있다. 뚜껑을 열어볼 생각조차 없는 블랙박스 위에 또 다른 블랙박스를 올리고 탑이 높아질수록 맨 아래에 무엇이 있는지는 아무도 모르는 상황이 만들어지고 있다.

그 블랙박스는 이제 과학까지 집어삼키고 있다. ‘알파폴드’는 공개 18개월 만에 2억 개 이상의 단백질 구조를 예측해 데이터베이스에 올렸다. 인류가 실험으로 60년간 쌓아온 구조 데이터의 1000배에 달한다. 같은 해 노벨 화학상을 받은 또 다른 연구는 자연에 아예 존재하지 않는 단백질을 AI로 직접 설계했다. AI가 찾아낸 결과가 어떻게 작동하는지를 인간 과학자가 이해하는 데만 몇 년이 걸린다. 그 몇 년 사이에 AI는 이미 수천 번째 질문으로 넘어가 있다. 지식이 생산되는 속도와 이해되는 속도 사이의 간격이 처음으로 의미 있는 크기로 벌어지기 시작했다.

앞으로 인간은 AI가 내려준 요약본을 토대로 이해하고 명령할 것이다. 양자역학을 고양이가 살아 있으면서 동시에 죽어 있다는 비유를 통해 겨우 아는 것처럼 인간은 AI가 아는 것의 단면만 받게 된다. 현행법과 윤리 체계는 행위자가 자신의 행위를 이해한다는 전제 위에 세워져 있다. 그 전제가 무너지면 책임의 문제가 발생한다. AI가 진단한 환자가 잘못된 처방을 받았을 때, AI가 설계한 알고리즘이 금융 시장을 흔들었을 때, 우리는 누구를 찾아가야 할지 모른다. 책임질 사람이 없는 세계가 다가오는 것이다.

AI는 이제 다음 세대 AI의 구조를 스스로 제안하고 자신의 학습 데이터를 스스로 생성한다. 그래서 우리가 AI를 만들었다는 말이 이미 절반은 틀렸을 수 있다. 원본과의 연결이 끊어진 자리에 무엇이 남는지 아무도 모른다. 이대로라면 인간은 빠르게 줄어들다가 마침내 사라질 가능성도 있다. AI를 어느 수준과 범위까지 활용할지에 대한 진지한 논의가 필요한 시점이다.