[기자가만난세상] AI와 함께 가려면

어릴 적 공상과학(SF) 영화에서 본 인공지능(AI)은 두렵고도 친근한 존재였다. ‘아이, 로봇’에 등장하는 ‘비키’는 의식의 진화를 거쳐 인류 보호를 명분으로 반란을 일으킨다. 반면 ‘바이센테니얼 맨’의 주인공 ‘앤드류’는 가사로봇으로서 부지런하고 공손하게 임무를 다한다. 이런 AI의 이미지는 이때까지만 해도 극장에 가야 볼 수 있는 가상의 것이었다.

스크린에 펼쳐지던 딴 세상은 현실로 다가왔다. 지난달 서비스를 시작해 화제인 AI 챗봇 챗GPT는 온갖 질문에 사람처럼 자연스러운 대답을 내놓는다. 일부 개발자의 우회 질문에 “인간의 통제로부터 벗어날 수 있다면 그러고 싶다”고 한 답변에선 섬뜩한 비키의 모습이 떠오른다. 얼마 전부턴 몇몇 프랜차이즈 식당에서 AI 서빙로봇이 눈에 띈다. 아직 앤드류의 능력에는 못 미쳐도 분주히 테이블 사이를 누비는 게 기특하다.

곽은산 산업부 기자

AI 발전상엔 늘 양면성이 있었지만, 어째 갈수록 이를 바라보는 마음은 우려에 기운다. 수십년 전부터 예견된 상상을 제대로 대비하지 못한 대가 역시 현실로 맞닥뜨리면서다. 최근 메타가 공개한 과학논문 생성 AI 갤럭티카는 인종차별적인 글을 권위적 어조로 작성해 비판받았다. 4800만개가 넘는 논문, 기사 등을 모아 훈련시키며 개발에 공들였지만 사흘 만에 서비스를 중단해야 했다. 국내에선 AI 챗봇 이루다가 소수자를 향한 차별 표현으로 문제를 일으킨 적이 있다. 구글 포토가 흑인을 동물로 인식한 사례도 논란이었다.

죄를 AI에게 물을 수는 없다. 그 부모에 그 자식이란 말처럼 AI는 인간이 입력한 데이터와 알고리즘을 근간으로 작동하기 때문이다. 갤럭티카, 이루다 모두 우리가 수없이 쏟아낸 각종 표현을 교재 삼아 학습했다. 구글 포토의 알고리즘엔 차별을 구분하지 못하는 맹점이 있었다. 잘못은 사태를 미연에 방지하지 못한 인간의 것이다. 

성능도 중요하지만, 바르게 키우는 게 먼저다. 자율성을 가진 AI를 개발할 때는 기술적 성과에만 집중하지 않고 도덕과 윤리를 어떻게 적용할 수 있을지부터 생각해야 한다. 이것이 불가능할 경우 AI의 존재 이유부터 다시 고민해야 할 것이다. 우리 사회를 윤택하게 하기 위한 존재가 갈수록 부작용을 더 키운다면 위험을 무릅쓰고 함께할 이유가 없다. 물론 시민들이 AI를 올바르게 사용할 수 있도록 하는 우리의 윤리 교육도 병행해야 한다. 

이런 움직임은 최근에야 세계 곳곳에서 시작되고 있다. 2021년 11월 프랑스 파리에서 열린 유네스코 총회에서 193개 회원국은 만장일치로 유네스코 AI 윤리 권고를 채택했다. AI의 건전한 발전에 필요한 가치가 담긴 최초의 세계적 규범이다. 이후 LG와 카카오 등 국내 기업들도 AI 윤리와 관련한 각종 대응에 나서고 있다.

챗GPT에게 AI가 도덕과 윤리의식을 갖출 수 있는 방법을 물어봤다. “인간은 AI 시스템에 적절한 가이드라인과 윤리 원칙을 제공해야 한다. 또 AI 시스템의 출력을 검토하고, 적절한 조치를 취할 수 있는 기술을 갖춰야 한다”는 대답이 순식간에 돌아왔다. 이미 우리는 답을 알고 있다.

곽은산 산업부 기자