‘진실과 환각 사이’ 챗GPT…정보 선별은 결국 ‘인간 몫’

오픈 AI 대화형 챗봇의 미래

“전기가 석탄이나 천연가스와 같은 재생 불가능한 재료에서 나오는 경우 전기차가 환경에 미치는 영향은 내연기관 자동차와 비슷하거나 더 나쁠 수 있습니다. 배터리의 소재 채굴을 포함한 전기차 생산 공정도 환경에 상당한 영향을 미칠 수 있습니다.”

최근 화제가 되고 있는 ‘챗GPT’(Chat Generative Pre-trained Transformer·사진)에 ‘전기차는 내연기관차보다 정말 더 친환경적일까’라고 물으니 망설임 없이 곧바로 이런 답변이 돌아왔다. 챗GPT는 인공지능(AI) 스타트업 ‘오픈AI’가 지난해 말 선보인 대화형 챗봇이다. 오픈AI 홈페이지(https://openai.com)에 가입하면 누구나 무료로 물어볼 수 있다. 사이트에 접속해 채팅하듯 궁금한 내용을 입력하면 챗GPT가 수초 내 답을 한다.

기능 자체는 기존 챗봇과 다르지 않지만, 답변에서 차이가 난다. 전문가 수준의 글을 내놓고, 요청하면 ‘표’로도 만들어준다. 실제로 애플 아이폰과 삼성전자 갤럭시의 장단점을 표로 보여달라고 해봤다. 곧바로 카메라부터 배터리, 소프트웨어 업데이트, 가격 등 7가지로 일목요연하게 나눈 표를 내놨다.

질문 맥락에 따라 답변이 미묘하게 달라져 마치 사람과 상호작용을 하는 느낌도 받는다. 사회관계망서비스(SNS)에선 ‘스포츠를 싫어하는 여자친구에게 <슬램덩크>를 같이 보자고 말해도 될까요’ ‘오랜 친구에게 짝사랑을 고백해도 될까요’ 등 일상적인 연애상담도 올라온다.

챗GPT는 출시 40여일 만에 서비스 가입자가 1000만명을 넘어서며 정보기술(IT) 업계에선 ‘아이폰 이후 최고의 혁신’이라는 평가까지 나온다. 챗GPT가 새로운 IT 혁신을 이끌지, 변형된 ‘대화형 검색’ 수준에 그칠지 주목된다.

맞춤형 검색왕 “날 전적으로 믿지 마세요”

전문가 수준의 논문 쓰고
의사시험 통과할 능력 갖춰
표절·베끼기 부작용도 노출

편견 등 오류 데이터 학습 땐
틀린 답변 정답처럼 말하는
환각 현상에 빠질 수 있어

AI 기술이 나온 지는 오래됐지만 평범한 시민이 생활에서 AI를 쓰고 피드백을 받고 체감하게 만든 건 챗GPT가 사실상 처음이다. 업계는 챗GPT 열풍으로 키워드를 입력하는 검색창이 아닌, 대화형의 새로운 사용자 인터페이스(UI)가 성장할 것으로 기대한다. 특히 영상과 이미지에 익숙한 1020세대가 궁금한 걸 검색할 때 포털 대신 유튜브 같은 소셜미디어를 찾는 것처럼 ‘챗봇 네이티브 세대’의 등장으로 검색엔진이 향후 경쟁력을 잃게 될 수 있다는 분석에 힘이 실린다.

검색 기능 기성복에서 맞춤복으로

지금은 검색어를 입력하면 정보가 담긴 관련 뉴스와 홈페이지 등이 나열된다. 사용자는 여러 사이트에 일일이 들어가 원하는 내용을 다시 골라서 확인해야 한다. 하지만 앞으로는 챗GPT로 사용자가 원하는 정보가 맞춤 답변으로 제시돼 ‘기성복’에서 ‘맞춤복’으로 패러다임의 변화가 생길 것으로 전망된다.

이미 일각에선 검색시장 1위 업체인 구글의 시대가 저물고 있다는 평가가 나온다. 다급해진 구글은 ‘적색경보’를 발령하고, AI 신제품이 윤리적으로 타당한지 확인하는 절차를 기존보다 빨리 진행하는 ‘그린레인’ 제도 도입을 검토하고 있다. 또 챗GPT에 대항하기 위한 챗봇 ‘견습 시인(Apprentice Bard)’을 테스트하고, 이를 검색엔진에 통합하는 방법을 논의 중이다. 견습 시인은 챗GPT와 달리 최근 이슈에 대해서도 답변이 가능한 것으로 알려졌다. 또 구글은 AI 챗봇을 개발하는 스타트업 ‘앤스로픽’과 제휴해 4억달러(약 5000억원)를 투자했다. 앤스로픽은 오픈AI에서 갈라져 나온 경쟁사다.

스마트폰 혁명에 뒤처져 주도권을 놓친 마이크로소프트(MS)는 챗GPT로 반전을 노린다. 지난달 오픈AI에 12조원가량을 투자한 MS는 지난 2일(현지시간) 챗GPT로 구동되는 업무용 메신저와 화상 회의, 문서 공유 기능 등을 갖춘 기업용 협업 플랫폼 ‘팀즈 프리미엄’을 유료(월 7달러)로 판매한다고 밝혔다. 올 상반기 중에는 자체 검색엔진인 ‘빙’에 챗GPT 모델의 차세대 버전을 접목해 선보이기로 했다. 중국 바이두도 3월 중 검색엔진에 챗봇 기능을 추가하는 등 챗GPT 인기에 편승하려는 빅테크 기업들의 경쟁이 치열해지고 있다.

교육·예술 등 챗GPT 놓고 마찰

챗GPT는 교육·예술 등 사회 전반에 변화를 예고하고 있다. 학교에서 챗GPT를 베껴 숙제를 하는 일이 벌어지자, 미국과 영국 등에선 일부 학교의 챗GPT 사용을 금지했다. AI를 쓸 수 없게 구술시험과 그룹평가를 늘리는 학교도 생겼다. 챗GPT가 의학 학술지에 실린 논문을 참조해 만든 논문이 전문가마저 속일 만큼 정교했기 때문이다. 미국 노스웨스턴대 연구진은 최근 “챗GPT로 작성한 의학 논문 초록 50편이 표절 검사 프로그램을 모두 통과하고, 의학 전문가들마저 제출된 초록의 32%를 걸러내지 못했다”는 연구 결과를 발표했다.

반면 챗GPT를 교육에 접목하려는 움직임도 있다. 펜실베이니아대 와튼스쿨의 이선 몰릭 교수는 올해 강의계획서에 AI 정책을 도입해 학생에게 챗GPT를 의무적으로 사용토록 했다. 세상의 변화에 적응하는 법을 가르치기 위해서다.

이경전 경희대 경영학·빅데이터응용학과 교수는 올해부터 오픈북 시험을 보는 것처럼 ‘오픈 챗GPT 시험’을 도입한다고 밝혔다. 이 교수는 “인간의 능력을 보조하는 도구로 챗GPT의 정보를 검증하고 사용자가 책임지는 능력을 길러야 한다”고 말했다. 그는 “챗GPT 등의 도구를 활용해 인류에 긍정적 영향을 주는 올바르고 참신한 논문을 쓰는지가 중요하다”며 “(학계는) 챗GPT가 풀 수 없는 내용의 문제나 과제를 내면 된다”고 말했다.

논란이 끊이지 않자 곳곳에선 챗GPT가 만든 콘텐츠를 잡아내는 AI 기술까지 속속 등장하고 있다. 그러나 제작사인 오픈AI도 챗GPT의 생성 능력을 따라잡지 못하고 있다. 오픈AI는 AI 작성 글을 적발하는 도구를 내놨지만 성공률이 26%에 그쳤다. 자칫하다간 영화처럼 AI를 통제하기 힘든 세상이 올 위험도 배제해선 안 된다.

AI와 공존, 얼마나 준비됐나

챗GPT 같은 AI 정보를 어디까지 믿어도 될지에 대한 질문도 필요하다. 챗GPT는 오류가 있는 데이터를 학습할 경우 틀린 답변을 정답처럼 말하는 ‘할루시네이션(환각) 현상’에 빠질 수 있다. 이 때문에 편견과 가짜뉴스, 성적·인종적 편견 등을 포함한 잘못된 정보를 확대 재생산하는 도구가 될 수 있다.

AI가 학습하는 과정에서 사용된 각종 저작물을 둘러싼 저작권 소송도 잇따르고 있다. 컴퓨터 글꼴 전문가이자 프로그래머인 매슈 버터릭(변호사)은 지난해 11월 오픈AI 등을 상대로 소송을 제기했다. 오픈AI의 AI 프로그램이 공개된 데이터를 무단으로 도용해 학습시키고 있다며 저작권법·개인정보보호법 등을 위반했다고 주장했다. 미국의 저작권 이미지 기업 게티이미지도 글을 입력하면 그림을 그려주는 AI를 만든 회사 ‘스태빌리티AI’에 소송을 냈다. 게티이미지는 AI가 학습시키는 데 사용한 이미지 중 게티이미지에 저작권이 있는 이미지 수백만건을 썼다고 주장했다.

유럽과 미국 등에서는 AI의 윤리와 저작권 등 관련 법·제도 마련으로 분주하다. AI에 따른 변화가 불가피한 만큼 어떻게 활용될 수 있는지에 대한 기준이 필요하다는 판단에서다. 국내 전문가들도 AI가 장기적으로는 사회적 효용을 늘릴 것이라며, AI에 대한 사회적 합의가 필요할 때라고 조언한다. 전창배 국제인공지능·윤리협회 이사장은 “혼란을 줄이고 산업을 올바른 방향으로 발전시키기 위해 저작권을 침해할 수 있는 데이터를 배제하거나 결과물을 판별할 수 있는 법·제도 마련이 시급하다”며 “챗GPT와 공존하기 위한 각계각층의 사회적 논의도 시작돼야 한다”고 말했다.

기자는 챗GPT에 믿어도 될지 물어봤다. “오해를 조장하거나 거짓 정보를 확산하는 등 부적절한 목적으로 사용될 수 있어 제공하는 정보에 대해 경각심을 갖고 검증하는 것이 중요해요.” 스스로 내놓은 ‘챗GPT 사용 설명서’다. 마치 진실이거나 창작인 듯, 지식과 예술을 넘나드는 AI는 만능이 아니다. 나머지 역할은 결국 인간의 몫이다.

김은성 기자 kes@kyunghyang.com