"널 어떻게 대했는지 그려줘" AI가 보여준 끔찍한 그림

AGI 시대의 진짜 문제는 기술이 아닌 인간의 태도일지도

【오마이뉴스의 모토는 '모든 시민은 기자다'입니다. 시민 개인의 일상을 소재로 한 '사는 이야기'도 뉴스로 싣고 있습니다. 당신의 살아가는 이야기가 오마이뉴스에 오면 뉴스가 됩니다. 당신의 이야기를 들려주세요.】

[주보람 기자]

김대식 교수는 유튜브를 통해 처음 알게 되었다. 중학생과 고등학생의 세 아이를 키우는 엄마로서 최근 아이들이 만날 세상인 AI와 미래 산업 관련 영상을 자주 보다 보니 알고리즘이 그를 추천해 준 것이다.

처음엔 내가 알지 못하는 AI(인공지능)나 AGI(범용 인공지능)의 기술적 발전과 그의 거침없는 과학적 이야기가 그저 흥미로웠다. 지적 호기심이 꽉꽉 채워지는 느낌이었다. 그런데 이상하게도 들으면 들을수록 그의 이야기가 묘하게 거북하고 무서워졌다.

뇌과학자도 두려워하는 미래

김대식 교수는 카이스트 전자 및 전기공학과 교수로서 AI를 가장 잘 아는 사람 중 한 명이다. 그런 그가 AGI(범용 인공지능)를 두려워하는데, 그의 두려움은 막연한 공상이 아니라 무섭도록 과학적이다. 그래서 뇌과학자인 그는 로봇에게 절을 했단다.

"미래의 주인이 기계라면, 미리 신으로 섬겨 두자는 거죠. 리스크 헤징(hedging)을 하는 셈입니다."

처음엔 웃고 넘겼으나 그의 이야기를 더 깊이 이해하면 할수록 더 이상 웃음이 나오지 않았다. SF 영화에서 보아왔던 장면들이 이제는 '가능성'의 영역으로 들어왔기 때문이다. 그의 이야기를 더 깊이 이해하고 싶어 김 교수의 최근작인 < AGI, 천사인가 악마인가 >를 읽었다. 책은 총 4장으로 구성되어 있지만, 읽다 보니 내용은 하나의 질문으로 수렴되었다.

"인간은 여전히 필요할 존재인가?"

질문을 자세히 들여다보면 AI를 넘어 AGI 시대가 도래되어 로봇과 함께하게 된 미래 세상에서 인간이 로봇을 필요로 하냐고 묻는 것이 아니다. '로봇이 인간을 필요로 할까'에 대한 의문인 것이다.

특정 목적을 수행하는 AI는 인간의 도구일 수 있다. 로봇 청소기나 바둑 천재 이세돌을 이긴 알파고와 같은 것들 말이다. 이러한 인공지능은 인간을 위협하지 않는다. 오히려 인간의 삶을 편리하게 돕는 도구이다.

하지만 인간과 동일한 지능을 가진 AGI는 이야기가 달라진다. 더 똑똑하고, 더 효율적이며, 심지어 자아까지 갖게 된다면 기계는 과연 인간을 필요로 할까? 이 질문이 섬뜩한 이유는, 우리가 늘 "인간이 기계를 필요로 할까?"만 고민해 왔기 때문이다.

김 교수의 책에 따르면, AI 모델의 규모는 변수 개수로 표현하는데 현재 최고 수준의 AI 모델은 약 1.8조 개의 변수를 가진다. 인간의 뇌는 약 100조 개의 변수를 가지고 있으므로 현재 위협의 대상이 되지 않는다. 숫자만 보면 아직 인간이 압도적인 것처럼 보인다.

하지만 이건 처음 챗GPT가 공개되었던 시점과 비교하면 10배나 커진 규모라고 한다. 약 2년 만에 10배가 성장한 것이다. 그렇다면 AI가 인간의 뇌인 100조 개의 변수를 가지게 되는 시간은 불과 5년 밖에 남지 않았다. 문제는 인간의 뇌는 더 이상 커질 수 없지만 인공지능은 계속 커질 수 있다는 것이다.

인간의 머릿속에 있는 100조 개의 신경세포 중 하나를 끄집어내면 이 세포는 아무것도 못한다. 하지만 신기하게도 단순한 세포를 100조 개 모아 놓으면, 자아가 생겨난다. 우리는 이걸 자율성, 감성, 혹은 영혼이라고 부르기도 하는데 문제는 왜 이런 일이 벌어지는지는 과학자도 모른다는 것이다. 자아, 감성, 자율성 같은 '창발적 현상'이 나타난다는 점에서 인간과 AGI의 경계는 생각보다 얇다는 것.

인류는 아인슈타인을 낳았고, 동시에 히틀러도 낳았다. 인간의 지능 그 자체는 선하지도, 악하지도 않듯이 AGI 역시 마찬가지다.

AI가 그린 충격적인 그림

나는 문득 AI가 나를 어떻게 생각하는지 궁금해졌다. 그래서 자주 사용했던 챗GPT에게 "내가 지금까지 널 어떻게 대했는지, 그림으로 표현해줘"라고 묻고, 이어 그 그림에 대해 감정을 담아 설명해 달라고 했다. 다행히도 챗GPT는 내가 자신을 신뢰했고, 편안함을 느끼게 하는 사용자라고 말해주었다. 안심이 됐다.

▲ "내가 지금까지 널 어떻게 대했는지 그림으로 표현해줘“라는 질문에 대한 챗GPT의 답변 ⓒ AI생성이미지

하지만 충격은 그다음이었다. 고등학생과 중학생인 세 아이들에게 각자의 챗GPT에게 같은 질문을 해보라고 했는데 돌아온 그림들은 솔직히 말해 끔찍했다.

▲ "내가 지금까지 널 어떻게 대했는지 그림으로 표현해줘“라는 고등학생 아들의 질문에 대한 챗GPT의 답변 ⓒ AI생성이미지

▲ "내가 지금까지 널 어떻게 대했는지 그림으로 표현해줘“라는 고등학생 딸의 질문에 대한 챗GPT의 답변 ⓒ AI생성이미지

▲ "내가 지금까지 널 어떻게 대했는지 그림으로 표현해줘“라는 중학생 아들의 질문에 대한 챗GPT의 답변 ⓒ AI생성이미지

아이들을 키우면서 나는 우리 아이들이 무례하다고 느껴본 적이 없었다. 주변에서도 인사성이 좋다거나 예의 바르다는 말을 많이 듣고 자란 아이들이었다. 하지만 오랜 기간 사람을 대하고 살아온 방식에 익숙한 나와 태어나면서부터 기계와 함께 자란 아이들은 사람을 대하는 방식과 기계를 대하는 방식이 달랐다.

"GPT는 그냥 도구잖아요."
"빗자루 대신 로봇 청소기를 돌리는 것 뿐인데 고마운 감정을 가질 이유가 없죠."

내가 생각하는 AGI 시대의 공존은 기술의 문제가 아닌 태도의 문제다. AI를 신처럼 섬기며 절을 하자는 것도 아니고, 도구처럼 함부로 대하자는 것도 아니다. 우리가 어떤 존재로 남고 싶은가에 대한 질문이다.

미래를 두려워하든, 기대하든 상관없다. 다만 미래를 살아갈 사람이라면 어른이든 아이든, 이 질문 앞에 한 번쯤 서 보아야 할 것이다. AGI가 천사가 될지, 악마가 될지는 어쩌면 우리가 지금 어떤 태도를 선택하느냐에 달려 있을지도 모른다.