[테크&포커스] "AI와 공생하기… 기술뿐 아니라 윤리·IP 논의 선행돼야"

주최 미래학회·후원 디지털타임스
'생성AI의 미래' 세미나
챗GPT 등장 5개월만에 변화 커
인간의 전유물 창의성 인정놓고
의견 대립… 윤리 문제도 거론
정부, AI 윤리정책 포럼 열기도

이규연(맨 앞줄 왼쪽 네번째) 미래학회장 등 참석자들이 7일 서울 여의도 국회 의원회관에서 '생성 인공지능의 미래'라는 주제로 미래학회 4월 세미나를 진행한 뒤 기념촬영을 하고 있다. 이슬기기자 9904sul@

초거대AI(인공지능)를 기반으로 다양한 결과물을 쏟아내는 생성형AI가 우리 사회와 산업 전반에 변화를 예고하고 있다. 국내외 IT기업뿐 아니라 일반 기업들까지 챗GPT와 생성AI 활용·대응전략 수립에 나섰다. 생성AI가 일자리도 바꿔놓을 것으로 전망되면서 대학생들이 전공을 바꾸는 사례도 나온다.

그 와중에 생성AI가 가져올 부정적 영향에 대한 각종 우려도 제기되고 있다. 챗GPT가 일부 사용자 결제정보를 노출하는 사고가 있었고, 사용자 입력 내용을 학습해 영업비밀 등을 유출한 사례도 알려지면서 곳곳에서 대책 마련에 분주하다. 특정 프롬프트(지시어) 입력 등을 통해 개발사가 설정한 규제를 벗어나게 해 악성코드나 불법적인 내용을 만들게 하는 '탈옥'도 문제로 떠오른다. 생성AI가 무단 사용한 코드와 이미지에 대한 저작권 소송은 현재진행형이다.

미래학회가 주최하고 본보가 후원한 '생성AI의 미래' 세미나가 지난 7일 국회 의원회관 제7간담회실에서 개최됐다. 이날 행사에선 생성AI의 윤리적 이슈와 IP(지식재산권) 관련 심도 있는 논의가 진행됐다. 산·학·연·관에 걸친 학회 구성원들뿐 아니라 군 관계자와 전업주부, 대학생 등 다양한 이들이 참석해 눈길을 끌었다. 행사에서는 앞으로 인간과 AI가 공존·협력하기 위해서는 AI기술뿐 아니라 그 윤리와 IP에 대한 논의도 병행돼야 한다는 공감대가 형성됐다.

이규연 미래학회장(카이스트 겸직교수)은 "챗GPT가 등장한지 불과 5개월 정도밖에 안 됐는데 세상이 뒤집어질 듯한 변화가 시작된 것 같다. 학생들이 전공을 바꾸는 것을 고려할 정도로 개인의 인생에도 변화를 주고 있다"면서 "특히 미디어·커뮤니케이션 측면에선 인터넷 등장 이후 가장 큰 변화가 예측되므로 이해도를 높이며 미래를 준비할 필요가 있다"고 밝혔다.

세미나는 크게 두 세션으로 나뉘어, 세션마다 두 명의 연사가 각각의 주제로 발표하고 이에 대해 토론 담당자가 논평하는 방식으로 진행됐다. 좌장을 맡은 김홍열 성공회대 겸임교수와 윤기영 한국외대 겸임교수를 중심으로 행사 참가자들과 함께하는 질의응답도 병행됐다.

◇AI의 창의성과 권리는?

그동안 창의성은 인간의 고유 특성으로 인식돼 왔다. 발명가들과 예술가들은 새롭고 남다른 가치를 선보이기 위해 노력했다. 2016년 알파고는 이세돌 9단과의 바둑대결에서 이전까진 이해되지 못했던 수를 선보이고 결과로 증명하며 사람들을 경악케 한 바 있다. 이어 최근 생성AI들이 단순 모방을 넘어 참신하다고 여길 만한 결과물을 내놓으면서 창의성 논란에 불을 지핀다.

이런 현황에 대해 부경호 한국에너지공대 교수는 '도천지세(滔天之勢)'로 평하면서 창의성에 대한 판단 근거와 관련 법·제도 보완 필요성을 제기했다. "AI가 결과물을 내놓았을 때 어디까지 모방인지, 그 권리를 인정한다면 어디에 귀속되는지 모호한 점이 있다"며 "2021년 캐나다에선 한 AI 앱이 공동 저작자로 인정된 사례가 있다. 현재 기업 재산 중 90%가 무체재산으로 평가되므로, 예상되는 혼란을 막기 위해서도 법·제도적 검토가 필요하다"고 주장했다.

인간의 창의력이 영향을 받을 가능성도 제시됐다. 박성원 국회미래연구원 연구위원은 "2040년을 예측한 한 보고서에선 인간이 AI에 의존하면서 메모리뿐 아니라 시뮬레이션 역량도 감퇴할 것으로 나타났다"고 말했다. 그럼에도 그는 "우리는 이미 기술과 공존하고 있고, AI를 선용할지 여부는 인간이 통제하기 어렵다"면서 "새로운 데이터를 생산하는 인간과 이로써 새로운 결과물을 내놓는 AI라면 서로 창의적인 형태로 공존 가능할 것"이라고 덧붙였다.

반면 AI 자체의 창의성과 그 권리를 인정하기엔 시기상조란 목소리도 만만치 않다. 박승재 교육부총리 자문관은 "챗GPT도 RLHF(인간 피드백 기반 강화학습)를 통해 그 성능이 나온 것처럼 여전히 AI는 사람의 개입과 지원이 요구된다. 캐나다의 AI앱 사례는 그 운영주체인 기업에 권리를 부여한 셈"이라며 "저작권이 부여될 수 있는 법인격은 권리뿐 아니라 책임도 함께 맡길 수 있어야 한다. 판단 시기와 상황에 따라 달라지겠지만 의사나 동기 없이 자동화된 과정을 수행하는 대상에 창의성이 있다고 보긴 어렵다"고 했다.

◇갈수록 커져가는 AI윤리 문제

한국은 2020년 말 등장한 챗봇 '이루다'의 혐오발언 사태를 겪으면서 AI윤리에 대한 논의가 비교적 일찍 시작됐다. 그러나 기술의 발전 속도는 그보다도 빠르게 진행되며 생성형AI의 결과물들이 도처에 쏟아지고 있다. . XAI(설명 가능한 AI) 연구개발도 진척되고 있지만 할루시네이션(환각·거짓말) 문제의 대두는 상황을 더 복잡하게 한다. 아직까진 성능(정확도)과 설명 가능성이 음의 상관관계에 가깝기 때문이다.

AI 윤리와 관련한 현실적인 문제부터도 지적된다. 방준성 ETRI(한국전자통신연구원) 책임연구원은 "모든 AI서비스를 위한 알고리즘은 없다. AI 윤리도 서비스별 특징과 각각의 인터랙션을 파악해야 한다"면서 "AI 윤리가 제대로 적용되려면 개발자나 운영자도 그 내용을 이해할 수 있는 수준이어야 한다. 현업 실정을 고려해 '프로그램 가능한 윤리'가 마련돼야 하며, 기업들이 비용을 들여가며 이를 챙길 만한 동인도 있어야 한다"고 설명했다.

현재의 한계를 명확히 인식해야 한다는 목소리도 나온다. 박제윤 신경철학연구소장은 "튜링이 러셀과 비트겐슈타인이라는 거인들의 이론을 토대로 기계가 지성을 지닐 가능성을 바라본 것으로, 신경철학 관점에서 언어는 의식을 위한 기반이 아니므로 의식 없이도 지적일 수 있다"고 풀이하면서도 "챗GPT의 경우 배경믿음에 대한 고려 없이 그저 단어들 사이 연결강도 관계를 따진다. 언어 이하 수준의 의미를 고려하지 못하는 한계를 가진다"고 부연했다.

AI 윤리에 대한 논의는 앞으로도 세계적으로 확산될 전망이다. 이를 대비하기 위해선 보다 근본적인 물음부터 던질 필요가 있다. 허유선 철학박사(동국대 강사)는 "인간이 하면 창의성으로 여겨질 수도 있는 오류·오작동이 존재하는 AI를 과연 사람들이 원하는지 의문이 든다"면서 "AI에 요구하는 설명 가능성은 곧 인간의 통제 가능 범위 및 한계 설정과도 이어진다. AI 윤리를 위해선 AI 개발 방향성부터 명확히 할 필요가 있다"고 짚었다.

◇정부도 AI윤리 논의 나서

AI 윤리 이슈가 세계적인 화두가 되면서 정부도 정책방향에 대한 논의를 이어가고 있다. 같은 날 과학기술정보통신부는 KISDI(정보통신정책연구원), TTA(한국정보통신기술협회)와 함께 '제2기 인공지능 윤리정책 포럼' 출범식을 개최했다. 김명주 서울여대 정보보호학과 교수가 포럼위원장을 맡았고 각 분야 전문가와 산업계 종사자 총 30명이 포럼위원으로 활동한다.

제2기 포럼에서는 지난해 의견수렴을 거친 '인공지능 윤리기준 실천을 위한 자율점검표' 및 '신뢰할 수 있는 인공지능 개발안내서'를 공개했다. 앞으로 운영 효율성과 논의 전문성을 높이기 위해 3개 전문분과위원회로 구성해 △AI윤리체계 확산(윤리분과) △AI신뢰성 확보 기술 기반 마련(기술분과) △AI리터러시 및 윤리교육 강화(교육분과)의 큰 주제 안에서 세부논의를 진행한다. AI 윤리영향평가 프레임워크, AI 신뢰성 검·인증 체계 등에 대한 의견수렴도 진행할 예정이다.

엄열 과기정통부 AI기반정책관은 "초거대·생성형AI가 산업과 우리 일상 속으로 빠르게 확산되고 있는 상황에서 무엇보다도 기술 개발부터 활용 전 단계에서 사회적 신뢰를 확보하는 것이 선행돼야 한다"고 강조했다.

팽동현기자 dhp@dt.co.kr