[김화진칼럼]AI 로봇

김화진 서울대학교 법학대학원 교수

흑백 TV 시절에 본 영화가 아직도 기억난다. 제목도 내용도 기억나지 않고 딱 한 장면이다. 컴퓨터가 세계를 지배하게 되었다. 그에 맞서는 과학자가 있었고 컴퓨터는 그 과학자를 제거하기로 한다. 그런데 컴퓨터는 손발도 없고 인간에게 직접 위해를 가할 방법이 없다.

간단하다. 무기를 가진 경찰관에게 문제의 인간을 사살하라고 지시한다. 명령에 따르지 않으면 해당 경찰관과 가족의 모든 재산 관련 정보가 은행에서 삭제된다. 할 수 없이 그 경찰관은 과학자를 죽인다.

우리 인간들은 금융기관이 내 몫이라고 디지털 화면에 보여주는 숫자들 때문에 행복하기도 하고 불행하기도 하다. 그리고 온라인상의 그 숫자 정보가 오프라인에서 이런저런 행동을 유발한다. 폭력과 전쟁도 포함된다.

그 영화는 흑백 TV 시대에 필자가 본 것이어서 1970년대였을 것이다. 국내에서는 1980년에 컬러 TV 방송이 시작되었다. 스마트폰도 없고 인터넷도 없던 석기시대인데 이미 사람들은 컴퓨터의 잠재적인 무서움에 대해 생각했던 것 같다.

얼마 전에 AI가 더 발달하면 로봇이 사람을 죽일 수 있다는 제프리 힌튼 교수의 경고가 나와 다들 섬뜩했는데 전자기기 오작동 유발 같은 물리력 행사가 필요 없다. 영화처럼 사람을 협박할 수 있을 것이고 금전적 보상을 제시한다면 지시를 이행하겠다는 자들이 적지 않을 수도 있다.

많은 사람이 AI 연구와 개발은 비영리로 해야 한다고 생각한다. 그런데 비영리단체는 연구비와 운영비 조달 문제가 있어서 효율이 떨어진다. 그래서 투자자를 유치하는 영리기업이 개발하되 비영리단체의 지배를 받게 하자는 생각이 나왔다. 챗GPT의 오픈AI 모델이다.

2015년에 출범한 오픈AI에는 마이크로소프트(MS)가 49% 지분을 투자하고 수익을 배분받지만 통상적인 주식회사의 대주주가 행사하는 권리는 배제되어 있다. 오픈AI의 지배구조는 3단으로 구성되어 있고 MS는 맨 하위 기업에 투자한 주주다.

2023년 11월에 회사의 정체성과 관련한 분쟁이 발생했다. 공동창업자 샘 올트먼이 이사회에서 축출되었다. 스티브 잡스가 애플에서 축출된 이래로 미국 기업 지배구조 역사상 가장 큰 사건이었다. 그 후 5일 동안 이사회 구성원, 임직원, MS가 등장하는 한 편의 드라마가 전개되었고 올트먼은 복귀했다. 올트먼을 축출한 이사회는 재편되었다.

그러자 2024년 2월 일론 머스크가 캘리포니아 주 법원에 계약위반 소송을 제기했다. 오픈AI가 설립 목적을 위반하고 MS를 위한 사익 추구 기업으로 변질되었다는 이유다. 머스크는 오픈AI 공동설립자인데 4500만 달러를 출자한 것으로 알려져 있고 2018년까지 이사회 멤버였다. 회사 경영권을 장악하려다 실패하고 사임했다. 머스크는 오픈AI가 보유 자산을 공공의 이익을 위해 사용하고 MS나 개인의 영리 목적으로 사용하지 못하게 해 달라고 법원에 요청했다.

또 머스크는 따로 xAI라는 이름의 AI 회사를 만들었다. "우주의 실체를 이해하는 것"이 최종 목표라고 한다. 2023년 7월 12일에 공개했는데 그날인 이유는 7 + 12 + 23 = 42라는 계산에 맞추기 위해서다. 더글러스 애덤스의 책 '은하수를 여행하는 히치하이커를 위한 안내서'에서 슈퍼컴퓨터가 우주 만물에 대한 궁극적인 답은 42라고 했기 때문이다.

AI 킬러로봇이라고 하면 절대로 개발을 막아야 할 것 같지만 사실 군인 대신 전장에 보낼 로봇이 사람을 죽이는 로봇이다. 모든 나라가 개발하려고 할 아이템이다. 힌튼 교수도 AI 병기 규제가 필요하다고 한다. 스카이넷과 터미네이터가 현실이 될지도 모르겠다. 영화 '2001 스페이스 오디세이'가 나왔던 해가 1968년이다. 상상을 영화에, 그다음은 현실에 구현해 온 것이 과학의 역사다.

김화진 서울대 법학대학원 교수