[여의도포럼] AI를 어떻게 활용할 것인가

최영진 전 주미대사

인간에 가능성·위험 함께 줘 미·영 등 AI 위험성 논의 활발
지능 있지만 윤리적 판단 못해 판단과 검증하는 능력 필수
AI 통제는 결국 인간이 본성을 다스릴 수 있나 여부에 달려

세계적으로 인공지능(AI) 산업을 주도하고 있는 대표적 인물인 오픈AI 창업자 샘 올트먼이 지난 17일(현지시간) 최고경영자(CEO)직에서 쫓겨났다. 하지만 우여곡절 끝에 축출된 지 닷새만에 오픈AI CEO 자리에 복귀한다고 외신들이 보도했다.

올트먼은 올해 초 챗GPT를 출시해 오픈AI의 자산을 800억 달러(약 104조원) 이상으로 키운 사람이다. 쫓겨난 이유에는 두 가지 설명이 있다. 올트먼이 독자적으로 AI 반도체 회사를 설립하려 했기 때문에 이사회의 반발을 사게 되었다는 설과 함께 인공지능의 위험성에 대한 대비를 어떻게 해야 하는지를 놓고 올트먼과 다른 이사회 멤버들 간 갈등이 있었다는 얘기도 있다.

컴퓨터가 자체 지능을 생성하면서 인간의 기능을 대체하는 AI는 인간에게 가능성과 위험성을 동시에 가져온다. AI의 가능성을 생각해 투자자들은 수백억, 수천억 달러를 투자하고 있다. 이에 따라 AI의 발전은 급속도로 진행 중이다. 긍정적인 면은 인간이 하는 일을 정확하고 확실하게 대체하면서 인간의 생활을 편하게 해주는 데 있다. 그러나 부정적인 면도 크다. AI로 직장을 잃는 사람들이 늘어날 것으로 예상된다. 일부 전문가는 AI가 3억명의 일자리를 대체할 것으로 보고 있다. 또 전문가들은 AI가 인간 능력을 저하하고, 현실을 왜곡하고, 소수에게 권력을 집중시키고, 군사적으로 적극 활용되는 등의 문제를 초래할 수 있다고 경고한다.

내년에 한국을 비롯해 미국도 선거를 앞두고 있다. 이 과정에서 AI가 현실을 왜곡하는 기사나 유튜브 콘텐츠를 양산하는 데 활용될 수 있다는 우려가 제기된다. 우크라이나 전쟁과 이스라엘-하마스 전쟁에서도 AI의 부정적인 측면이 두드러진다.

인간 본성에는 사실을 아는 것보다는 상대방을 괴롭히고 모략하는 게 더 먹혀든다는 분석이 있다. AI의 위험성에 대해 미국과 유럽에서는 대비책 마련에 애쓰고 있다. 조 바이든 미국 대통령은 AI의 힘을 통제해야 한다고 강조했고, 리시 수낵 영국 총리는 AI 분야의 핵심 인사들이 참가한 회의를 열어 AI 안전문제에 대한 성명을 채택했다. 찰스 3세 영국 국왕은 AI에 대한 대비가 시급하다고 역설했다.

한국에서도 이미 AI를 활용하는 사람이 늘고 있다. 필자는 지난봄부터 챗GPT를 긍정적으로 활용하고 있다. 그러나 동시에 예상치 못한 문제에 부딪히고 있다. 챗GPT는 필자의 관심 분야를 연구하는 학자가 있다고 하면서 윤명진 교수를 소개했다. “윤명진은 한국의 대표적인 철학자 중 한 명으로 1962년 출생했다. 서울대학교에서 철학을 전공하고 석사 학위를 취득한 뒤 프린스턴대학교에서 박사 학위를 받았다. ‘도덕경과 성경: 道와 神의 해석과 비교’는 윤명진 교수의 대표작 중 하나로, 동서양 문명 간의 차이를 이해하고자 하는 사람들이나 동서양 철학에 관심이 있는 사람들에게 많은 도움이 될 것이다.”

필자는 궁금증이 증폭되어 인터넷 등을 통해 계속 검색했다. 그런데 윤 교수와 책에 대해 아무것도 찾을 수 없었다. 이 문제를 재질의하자 챗GPT의 응답은 상상을 초월했다. “죄송하다. 제가 이전 답변에서 실수를 저질렀다. 그의 책은 실제로 출판된 책이 아니며 윤 교수도 실제로는 존재하지 않는 인물이다. 혼동과 불편을 드려 죄송하다.” 지능만 발달하고 윤리적 판단이 없다고 볼 수밖에 없다. 이 상황에 대해 문제를 제기하자 다음과 같은 반응이 돌아왔다. “챗GPT가 혼란스러운 설명을 제공하고 있다면 이는 챗GPT가 충분한 지식과 이해력을 가지고 있지 않은 것일 수 있다. 챗GPT의 정보를 무조건 믿지 말고 인간의 판단과 검증을 거쳐야 한다는 것을 명심해야 한다.”

1997년 IBM 컴퓨터인 딥블루가 체스게임에서 인간 고수를 물리쳤다. 인간의 육감이 작용하기 때문에 AI가 인간을 이길 수 없다고 여겨진 바둑에서도 알파고가 2016년 인간 고수를 이겼다. 앞으로 인간은 인간보다 지능이 커진 AI를 만나게 될 것이다. 인간이 이런 AI를 통제할 수 있을까? AI를 활용하는 과정에서 ‘판단과 검증’을 하는 인간의 역할이 중요하다. 그러나 인간 본성은 미래를 준비하는 것보다 현재 진행 중인 경쟁에서 이기는 것을 우선시하는 경향이 있다. 결국, AI 문제는 인간과 AI 간 싸움이 아니라 우리 내부 인간 본성과의 싸움이다.

최영진 전 주미대사

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지