‘양복쟁이는 쉽게 항복하고, 교수는 오로지 설명만 한다’

[노 땡큐!]

2023년 6월 나는 ‘챗지피티 워’(ChatGPT WAR)라는 행사의 1부를 연출했다. 40분 동안 관객 100여 명과 소통하면서 생성인공지능(AI)을 매개로 2044년 서울을 배경으로 짧은 사이버펑크물을 만드는 실험이었다. 인간이 상황 설정을 주고 일부 문장을 쓰고 나면 기계가 확률적으로 가까운 문장을 이어 붙이는 식으로 번갈아 가며 이야기를 만드는 쇼였다.

이 과정에서 꽤 흥미로운 일이 생겼다. 이야기 주인공인 기계 형사가 반정부 무리 속 양복을 입고 수상한 눈빛을 한 자를 용의자로 지적하는 장면이 생성됐는데, 그가 처음에는 완강히 저항하다가 기계 차례가 되어 이야기를 잇자 너무 쉽게 시위를 주동한 자기 죄를 고백했다. 지금껏 일군 이야기를 기계가 쉽게 끝냈을 뿐 아니라 관객의 감정이 고조되는 순간마저 망쳤다. 내가 기계의 응답을 기각한 뒤에도, 기계는 계속 이 양복쟁이가 순순히 자백하는 장면을 생성해 인간 연출자인 나를 골치 아프게 했다.

너무 쉽게 자백하는 용의자, 이유는?

3분의 휴지기를 갖고 기지를 발휘해 이 문장을 포함한 앞뒤 문단을 무효로 하는 다른 설정을 부여한 뒤에야 이야기는 다소 정상적으로 생성됐다. 쇼가 끝나고 여러 번의 시뮬레이션을 거쳐 나는 이 이야기가 엉망이 된 원인을 알 수 있었다. 문제는 그때 사용한 ‘양복쟁이’ ‘양복을 잘 차려입은’ 등의 표현이었다. 이 단어가 저항보다는 순응의 언어를 끌어당겼다. 양복을 번듯하게 입은 자가 쉽게 항복한다는 편견이 생성AI의 언어 공간 안에도 있었던 것이다. 방금 편견이라 표현했지만, 데이터 학습 결과로 얻은 모종의 지향성이라 봐도 좋다.

이는 현재의 생성AI에 의식이나 판단의 절차는 없으나 특정 편향성을 가지는 언어 공간에서 그 확률분포를 사용해 어떤 판단에 이른다는 점을 다시 환기했다. 이후 비슷한 사례를 나는 동화 생성 실험에서도 발견했다. 동화 속 주인공을 ‘교수’로 넣자, 생성된 이야기 안에서 천진함과 모험심이 사라지고 주인공 교수가 모든 사태의 원인을 지나치게 길게 설명하고 곧바로 해결하려는 경향을 보였다. 보통 생성AI는 주어진 요소를 다양하게 조합해 매번 다르게 사건을 구성한다. 반면 교수가 주인공인 생성 동화들은 교수 역할을 ‘데우스 엑스 마키나’(복잡한 문제를 단번에 해결하는 존재)처럼 작동시켜 갈등을 조기 종결시켰다.

이런 경험을 통해 나는 환상성이 필요한 이야기를 생성할 때 ‘양복쟁이’와 ‘교수’라는 언어 토큰(Token·언어AI가 학습하는 기본 단위)을 되도록 쓰지 말아야겠다는 판단에 이르렀다. 두 단어를 프롬프트 요소로 쓰면 현실에서 멀어지기는커녕 순응하거나 설명하는 방식으로 이야기가 굴절되기 때문이다.

생성AI를 사용하는 프롬프트 엔지니어로서 좋은 노하우를 얻은 셈이다. 그런데 곰곰이 생각하니 이는 더 곱씹을 만한 구석이 있었다. 현재 생성AI는 종종 환각을 일으키는 확률적 문장생성기로도 작동하지만, 동시에 그 높은 확률적 결합으로 현실을 일부 반영하는 측면도 있다. 앞선 사례는 다음과 같은 결론으로 향한다. ‘양복쟁이는 쉽게 항복하고, 교수는 오로지 설명만 한다.’

기계도 인정한 순응형 인간의 행동

이는 편견일까, 진실일까? 개인적으로 지난 한 달을 무기력하고 우울하게 보냈다. 무엇을 해도 바뀌지 않을 듯한 현실 앞에 이른바 사회적으로 양복쟁이이자 직업인으로서 교수인 내가 있었다. 기계도 인정한 순응형 인간, 행동은 없고 설명만 하는 인간형이 나 같은 사람이라고 생각하니 부끄러움이 몰려왔다. 양복쟁이는 쉽게 항복하고 교수는 오로지 설명만 한다는 이 말이 당분간 나를 괴롭힐 것 같다. 말과 글이 할 수 있는 일의 전부고, 그것이 유일한 무기라면 최소한 순응하지 않고 행동할 수 있는 말과 글을 생산해야 하지 않을까? 그나마 다음 학기 커리큘럼의 일부를 아나키즘(무정부주의), 공동체, 기후위기, 자원순환 등 문제의식이 있는 것으로 담아봤다. 그게 바다에 비하면 소금 한 줌도 안 되는 내 양심의 결과물이었다.

오영진 서울과학기술대 교수

*오영진 교수의 ‘노 땡큐!’를 마칩니다. 그간 좋은 글 보내주신 필자와 사랑해주신 독자 여러분 감사합니다.