[희대의 NOW 구독중] AI시대, 인공지능 윤리는 `본질`

현시점 IT, 콘텐츠 분야 최고 핫이슈는 인공지능(AI)
이용자, 소비자 입장의 AI 민간 단체 필요성 대두
국내 첫 AI윤리헌장 발표한 국제인공지능&윤리협회
AI윤리는 규제가 아닌 공존과 상생위한 방법론
중소기업 등 AI 활성화 사각지대 없도록 선도 노력
전문가들과 만날 수 있는 ‘AI리더스포럼’ 등 열어

명실상부 'AI'가 화두인 시대, 이 'AI'와의 공존을 상생을 위한 가장 좋은 방법론이 'AI윤리'임을 알리고 있는 국제인공지능&윤리협회의 전창배(가운데) 이사장과 양진영(오른쪽) 변호사가 디지털타임스 유튜브 스튜디오에서 광운대 OTT 미디어 전공 이희대 교수와 《희대의 NOW 구독중》 인터뷰를 촬영 중이다. 박동욱 기자 fufus@

국제인공지능&윤리협회(IAAE)는 협회 명처럼 국내외 전방위에서 AI 윤리를 주제로 다양한 활동을 전개 중이다. 사진은 지난 2023년 5월 역시 IAAE 주관으로 열린 'ChatGPT와 생성형AI의 윤리적 이슈와 해결 방안 국회 세미나' 토론 장면이다. [IAAE 제공]

국제인공지능&윤리협회(IAAE)는 협회 명처럼 국내외 전방위에서 AI 윤리를 주제로 다양한 활동을 전개 중이다. 사진은 IAAE가 주최한 제4회 '인공지능 윤리 대전' 행사 장면으로 이 심포지엄은 싱가포르 사이언스센터에서 지난 2023년 12월 진행됐다. [IAAE 제공]

《희대의 NOW 구독중》 국제인공지능&윤리협회 전창배이사장, 양진영변호사

1인 미디어 전성시대, 숱한 채널들 사이에서 보석 같은 채널을 찾아 참 구독을 추천 드리는 유튜브 '서평' 시리즈 《희대의 NOW 구독중》.

AI(인공지능) 광고영상 생성 플랫폼 '브이캣'을 운영하는 파이온코퍼레이션(2022.01.14), 음악 예능, 드라마 등 TV 콘텐츠에 AI 휴먼을 접목시킨 CJ올리브네트웍스(2022.11.11), AI · 빅데이터를 예술작품과 결합 중인 금민정 미디어 아티스트 (2023.02.03), AI플랫폼 전문기업 마음AI(2023.03.31.), AI·메타버스 플랫폼을 무대로 애니메이션을 제작하는 타이밍포올(2023.11.24). 지난 2020년 3월 첫 칼럼 이후 올해 5년 차를 맞이한 《희대의 NOW 구독중》에서 만났던 이 다섯 주인공들의 공통 주제는 이제 익숙하다 못해 일상처럼 여겨지는 단어 바로 'AI'다.

1인 미디어 채널의 인플루언서들뿐 아니라 각 분야 디지털 전환(Digital Transformation)의 최전선을 이끌고 있는 주인공들과 만나 그들의 인사이트까지 전해드리겠다는 칼럼의 외연확장 계획을 밝힌 후 이 다섯 인터뷰를 포함해 다양한 분야의 파이오니아들과 소통하면서 체감한 중심 화두 역시 'AI'였다. 현시대를 관통하는 IT, 콘텐츠 분야 가장 뜨거운 이슈가 무엇인지 그들의 눈과 입을 통해 직접 확인한 결과다. AI로 쓰고 만들고 결합하며 예측하고 맡기며 경영하는 시대를 맞았다고 그들은 입을 모아 이야기했다. 너무 빠른 발전과 확장에 전문가인 자신들조차 그 속도를 따라가기에 버겁다는 속내와 함께 우려 섞인 전망까지 비춘 바 있다.

반면, 지난 1월 11일 빌게이츠의 팟캐스트 채널인 Unconfuse Me 채널에서 빌게이츠와 대담을 펼친 챗GPT 개발사 오픈AI의 CEO 샘올트먼은 AI가 인류에 미칠 영향에 긍정적 의견을 피력한 바 있다. 그는 AI로 인한 일자리 변화의 주요 영역으로 가장 먼저 코딩, 의료, 교육, 로봇공학 분야를 꼽기도 했다. 이렇듯 AI가 고용 문제는 물론 가짜 정보, 오남용의 위험과 법과 제도의 정비, 경제성 논쟁, 정보 · 활용능력의 개인 간 격차 등등 관련 이슈가 연일 롤러코스터처럼 뉴스 메인 창에 오르고 내리는 가운데 무엇이 문제고, 무엇을 배워야 하며, 무엇을 대비해야 할지 우리네 일반인들은 이 자체가 벌써 혼돈 속이다.

다만, 하나 확실한 것은 이 AI의 급속한 발전상 속에서 그 서비스의 수용 대상이 되는 이용자 측, 각 개인의 입장에서 눈높이를 맞추고 이해를 같이하며 목소리를 대변해줄 쪽은 AI를 개발하거나 서비스를 제공하는 주체인 기업보다 소비자, 시민의 시각을 가진 비영리 민간단체가 될 것이라는 점이다. 특히나 이 부분은 AI라는 기계문명에 대척되는 인간 본연의 영역이기에 단순 민간조직 이상의 이에 대한 전문적인 식견과 균형감각을 갖춘 곳이어야 이 역할을 맡을 수 있을 것이라는 믿음이 그렇다.

신기술, AI의 범람에 직면한 현시점 《희대의 NOW 구독중》이 국제인공지능&윤리협회(IAAE)와 이 단체를 이끄는 얼굴들을 찾은 이유다.

학부에서 윤리 교육을 전공했지만 사회 생활은 주로 콘텐츠와 IT분야에서 경력을 쌓아오다가 2010년대 후반 전 세계적인 인공지능의 부상을 지켜보며 산업혁명, 디지털 혁명 수준의 변혁을 감지하고 윤리학도의 시각에서 과거 이러한 산업의 변화 가운데 가장 첨예했던 문제, 즉 기계와 인간의 갈등이라는 이슈에 천착해 AI 윤리를 중심으로 한 시민 연구 단체의 필요성을 느끼고 당시로선 소수였던 인공지능 분야의 전문가들을 수소문하고 뜻을 피력하고 일일이 동의를 구해 인재를 모아 2019년 3월에 협회를 창립했다는 것이 전창배 이사장이 밝힌 국제인공지능&윤리협회의 전사다.

국내에선 AI 윤리라는 개념이 아직 희소했던 그 당시 결국 혼자서 발로 뛰고 삼고초려를 마다하지 않고 이 단체를 만든 장본인이 전 이사장인 것.

이제 6년 차를 맞아 다수의 인공지능 관련 기업과 전문가 그룹들이 협회에 소속하며 이 분야의 대표적 협회이자 과학기술정보통신부 산하 공식 사단법인으로까지 자리하고 있지만 지난 기간 동안 여러 어려움도 있었다고 한다. 산업혁명, 디지털 혁명과 같은 과거 변혁 과정의 역사에서도 보아왔듯 새로운 기술의 도입과 발달에는 신구, 좌우, 상하, 대소 등등 첨예한 이해관계에 따른 갈등이 수반된다. 특히나 이 새로운 기술을 통해 산업을 일으키는 주체인 기업의 입장에서는 이제 막 제품과 서비스 개발에 박차를 기하기도 바쁜 상황에 이러한 이해관계를 모두 고려하면 글로벌 경쟁 시장에서 한발 더 나아가는 진보는 어렵다는 시각을 가지는 것은 인지상정이다. 이 시각에서 '윤리' 이야기는 일단 부담스러운 대상이 될 수 있다. 2019년 10월 민간 차원에서는 국내 최초로 '인공지능 윤리 헌장'을 발표한 IAAE의 등장에 대해 업계에서 이렇게 이해하고 한편 경계할 수 있었다는 이야기다.

이러한 시각에 대해 IAAE 인공지능법제도 위원회의 위원장이자 자문변호사로 임하고 있는 양진영 변호사는 협회에서의 활동 경험을 토대로 필자도 예상 못했던 답변을 들려주었다. 인공지능 윤리가 기술발전의 발목을 잡는 것 아니냐는 시선은 실제로 AI 산업현장이 아닌 우리 일반 대중들이 갖고 있는 편견일 수도 있다는 것. 양 변호사는 국제 기준에 비추어 우리나라의 AI 윤리 기준 준수 체계는 정부 및 대기업, 중견기업 등을 중심으로 볼 때 상대적으로 높은 수준으로 이루어지고 있다고 설명했다.

인공지능 윤리를 다루는 제도, 기구 운영 등은 오히려 선진적이라고 평가할 만하다고 의견을 밝혔다. 최근 정부가 저작권 등록 관련 규정을 개정하면서 인공지능(AI)이 만든 그림, 시·소설 등 창작물은 저작권을 등록할 수 없다는 내용을 명시한 것 등을 예로 들었다. 오히려 사각지대는 정부나 대기업 레벨이 아닌 중소기업이라고 강조했다. 각고의 노력 끝에 AI 기술을 활용한 신제품이나 서비스를 출시해도 자본과 인지도가 낮은 중소기업의 경우 소비자들에게 인공지능 윤리를 준수한 제품인지에 대한 신뢰를 증명할 수단이 없어 시장에서 우수성을 입증할 기회조차 피력하지 못하는 경우가 많다는 것이다. 전문가 집단인 협회는 이럴 때 민간 차원에서 일종의 신뢰 보증을 해주는 중간 인증 역할을 담당하기 위해 운영 중인 것인데 일반적인 시각은 그 반대라는 것이다. 양 변호사는 그래서 이런 이해의 간극을 좁히고 실질적인 도움을 받을 수 있도록 법제도 위원회를 구성해 정부, 국회, 기업들과 만나 협회의 방향을 전하고 현실적인 대안들을 도출할 수 있도록 열심히 교통하고 있다고 전했다. 요약하자면, 발목을 잡는 것이 아니라 AI와의 공존, 상생을 위해 앞에서 끌고 뒤에서 밀어주는 역할이 오히려 IAAE가 지향하는 역할이라는 것이다.

인공지능윤리라고 하면 거의 고전처럼 일컬어지는 로봇 3원칙에 대해 현재 시점에서 어떤 해석을 갖고 있는지 IAAE의 수장인 전장배 이사장에게 물었다. 이 원칙은 SF의 거장 아이작 아시모프가 구상한 것으로 1950년대 출간했던 그의 소설들에서 등장한 뒤 현재까지도 인간과 로봇의 관계에 대한 언급이 있을 때 단골 주제로 다뤄진다.

①로봇은 인간을 지켜야 한다.

②로봇은 인간의 명령을 들어야 한다.

③로봇은 자기 스스로도 지켜야 한다.

전 이사장은 일단 70년도 더 전이었던 1950년대 당시에 이 개념을 주창한 작가의 혜안에 찬사부터 보냈다. 일단 기계문명으로 대변되는 신기술의 역할은 어디까지나 주인공이 인간이 되어야 한다는 철학이 이 원칙에서 매우 잘 설명되었다는 것. 그는 최근 언론지상이나 방송, SNS 등 다양한 미디어에서 AI가 관심의 대상이다 보니 마치 선후가 바뀐 형국이라고 지적했다.

아시모프의 의견처럼 AI는 인간을 위해 필요한 도구나 비서로 이해를 해야 하는데 마치 AI를 못 활용하면 안 될 것 같은 현재의 분위기는 AI가 인간보다 더 앞선 개념처럼 인식이 되고 있다는 이야기다. 당연히 이런 사회적 분위기는 문명의 이기로 위치 해야 하는 AI를 사람들이 오히려 숭상 시 하거나 두려워하기까지 하며 관련 정보를 잘 접하지 못하는 층의 경우 스트레스로 작용할 수도 있다고 전했다. 그는 전 세계 80억 명 인구 중에 스마트폰을 쓰고 있는 비율은 57%인 약 46억 명 수준이라며 10명 중 4명은 아직도 모바일 인터넷 이용을 못하고 있다고 설명했다. 스마트폰 이용률이 이럴진 데 AI의 이용 대중화는 갈 길이 멀고 시간이 소요되는 것은 당연한 수순인데 대다수는 부담부터 갖는 경우가 많다는 것이다. IAAE가 교육, 즉 AI 리터러시를 협회의 주요 사업으로 삼은 이유이기도 하다. 디지털 혁명기에도 이슈가 되었던 정보 격차의 문제가 AI 시대에서 재현되지 않도록 하는 것이 협회가 주력하는 활동 방향이다.

교육과 동시에 인공지능윤리의 중요성을 대중에 알리기 위해 IAAE는 컨퍼런스, 세미나, 시상식 등 다양한 행사들도 개최하고 있다. 지난 2023년 12월에 벌써 4회째 개최한 '인공지능 윤리 대전'의 경우 싱가포르 사이언스센터에서 진행해 국내외 명사들의 호응을 받은 바 있고, 인공지능윤리를 잘 준수하고 있는 우수 기업들을 대상으로 하는 AI 윤리 시상식인 '굿 AI 어워드', 미래 세대인 대학생들을 위해 찾아가는 AI 윤리 인문 콘서트인 '굿모닝 AI' 등은 이미 회차가 축적된 IAAE의 대표 행사들이다. 최근에는 AI 윤리에 대한 관심과 인식이 커지면서 다양한 층위에서 협회에 AI 분야 전문가들의 교류를 위한 일종의 만남의 장을 만들어 달라는 요청에 올해부터는 매달 'AI 리더스 포럼'를 운영하기로 했다고 한다. AI 관련 석학들의 특강을 듣고 동시에 기술, 정책, 산업, 윤리 각 부문 관계자들이 편하게 교류할 수 있는 정기 커뮤니티를 제공한다는 계획이다. 첫 행사를 혹시 놓친 구독자분들은 협회 공지를 잘 살펴두었다가 이 분야 전문가들과 함께 할 수 있는 기회를 만드는 것도 추천드린다.

국제인공지능&윤리협회라는 협회 명과 같이 국내외를 막론하고 전방위로 활동하는 활약상들을 듣다가 다소 딱딱해진 느낌에 워낙 다양한 그룹에서 교육 요청을 받고 있는 전 이사장에게 AI 윤리와 관련된 재미있는 경험담을 부탁했다. 교회의 목사님들의 모임에서 AI 윤리 교육을 부탁 받아 간 자리에서 어느 목사님으로부터 받은 질문을 소개했다.

일주일에 수 회의 목회를 진행하다 보면 솔직히 체력적으로 어려움이 있기도 해서 최근에는 챗GPT를 활용해 그날의 주제에 맞는 성경의 구절이라던가 관련 내용을 원고로 작성하는 것을 도움 받곤 한다는 것이다. 충분히 있을 수 있는 일이다. 그런데 그 목사님의 갈등은 여기서부터다. 어느 날은 챗GPT가 제안한 목회의 내러티브가 너무 마음에 들어서 많은 부분을 강단에서 설교에 담았다고 한다. 그런데 교인분들의 반응이 매우 높았다는 것. 목회를 잘 마치고 다시 다음 목회를 준비하던 그 목사님은 불현 듯 아 이 설교는 그럼 AI가 한 것인가? 그렇다면 교인분들은 AI의 가르침에 반응을 하게 된 것이란 말인가? 이게 과연 윤리적으로 맞는 상황인가? 고민 끝에 나온 질문이었다. 딥페이크 등 익히 들어온 기술적 이슈가 아닌 정말 중요한 고민이고 질문이다. 구독자 여러분은 어떻게 생각하시나? 이런 문제를 함께 풀어 가기 위해 필요한 것이 이 IAAE와 같은 민간의 전문 단체의 필요성인 것이다.

바로 내일의 일도 예측하지 못하고, 오늘을 살며, 하루에도 열 두 번 기쁨과 노여움과 슬픔과 즐거움에 빠지기를 반복하는, 바로 앞에 닥쳐서 데이고 상처받고 놀아야 비로소 현실을 자각하는 인간이라는 종이 과연 아직 손에 잡히지 않은 미래의 문제를 제 일처럼 고민하고 노력하고 실천할까 싶지만… 생명공학, 의학, 생물학 등 분야에서 정립된 생명윤리 및 안전 가이드라인과 같이 어렵고도 지난한 일들을 인간은 해왔다.

개념이 크고 넓을수록 오히려 눈에 보이지 않지만 누군가는 그 역할을 하고 있기 때문. '인공지능 윤리'라는 '공의'를 위해 오늘도 열심히 뛰고 있는 IAAE의 전창배 이사장, 양진영 변호사와의 지면에서 못 담은 이야기는 곧 공개될 《희대의 NOW 구독중》 유튜브에서 살펴보시기 바라며 AI와 인간의 공존을 위해 애쓰는 이들과의 만남은 한 줄 서평으로 대신한다.

1인 미디어 전성시대, 숱한 채널 들 사이에서 보석 같은 채널, 보석 같은 콘텐츠와 인물까지 찾아 참 구독을 추천 드리는 《희대의 NOW 구독중》 한 줄 서평.

"선한 인공지능은 이들 선한 인간들의 선한 노력과 열정으로 가능할 것!"

이희대 광운대 OTT미디어전공 교수