[여백] AI 양심 교육

지명훈 선임기자

최근 미국의 월 스트리트 저널(WSJ)에 철학자 아만다 애스켈에 대한 흥미로운 인터뷰 기사가 실렸다. 에스켈은 인공지능(AI) 모델 '클로드(Claude)'를 만든 앤트로픽 사의 상주 철학자다.

왜 이런 AI 회사에 철학자가 근무할까. WSJ은 "애스켈이 클로드를 선하게 만드는 일, 즉 양심을 구축하는 일을 한다"고 소개했다. 그는 하루 종일 클로드의 추론 패턴을 학습하고 대화하면서 이런 일을 한다. 그런 일이라면 공학자보다는 철학자가 제격일 수 있겠다 싶다. 그래서 인지 애스겔은 2018년 오픈AI에서 일하기 시작했고 2021년 앤트로픽이 설립하자 자리를 옮겼다.

AI에게 양심을 가르치는 일이 과연 가능할까. 애스겔은 "클로드는 '규칙을 따르는 도구'라기 보다 상호 작용을 통해 성격이 형성되는 존재"라고 그 가능성을 열어 둔다. 구글 개발자가 AI가 의식을 가졌을 가능성을 말했다가 해고당한 것이 불과 수년 전이다. 그런데 성격이 형성된다면 주체성과 의식의 소유 가능성은 그만큼 높아진 셈이다.

AI가 주체성과 의식을 갖는다면 우리는 또 한번 AI 로봇이 인간을 지배햐는 디스토피아적 미래를 걱정하지 않을 수 없다. 일단 애스겔은 "사회의 '견제와 균형'이 AI를 통제할 것"이라며 "긴 안목에서 AI의 미래를 낙관한다"고 말했다.

하지만 그의 낙관론에 동의하지 않는 견해가 더 많을 것 같다. 인간이 AI의 양심과 성격을 형성할 수 있다면 처음부터 나쁜 의도로 접근하는 인간이 적지 않을 것이기 때문이다. 역사는 늘 그런 사람들에 의해 암울해 지곤 했다.

전설적인 SF작가 아이작 아시모프가 살아 있다면 아마도 관점에 따라 달라지는 양심의 위험성을 걱정했을지 모른다. 아시모프의 원작 소설에 기반한 영화 '아이, 로봇'에서 AI 로봇은 인간에게 절대로 해를 끼쳐서는 안된다는 '로봇 3원칙'에도 불구하고 인간을 해친다.

그리고 나서 "인간을 보호하기 위해서는, 일부 인간의 자유를 제한하고 때로는 희생시키는 것이 더 합리적이다"라고 자신의 행위를 정당화 한다. 여기서 앞의 '인간'은 인류이고, 뒤의 '일부 인간'은 인류의 안전에 해롭다고 판단되는 부류다. 문제는 인류에 해로운지 여부를 AI 로봇이 스스로 판단해 버렸다는데 있다.