AI에 심취해 극단적 선택까지…"도구에 불과한 AI, 올바른 활용 교육 필요"

[AI설명서]④범죄 악용 넘어 '가스라이팅' 사례까지…AI리터러시 필요성 제기
전문가 "AI, 완벽하지 않고 의존해서도 안 돼"…정부 '디지털 권리장전' 발표

[편집자주] 2016년 인간과 알파고의 바둑 대결이 열릴 때까지만 해도 대중에게 '구경거리'에 불과했던 인공지능. 그로부터 7년 후 챗GPT가 등장하면서 판은 완전히 바뀌었다. 누구나 인공지능을 통해 어려운 문제를 해결할 수 있게 되면서 빠르게 특이점으로 다가가는 모습이다. 하지만 모든 기술에는 '부작용'이 뒤따르는 법. 벌써부터 인공지능을 활용한 범죄들이 기승을 부리고 있다. <뉴스1>은 챗GPT로 대표되는 생성AI의 순기능과 부작용, 논란거리까지 다양한 각도로 인공지능을 조명해 봤다. [편집자 주]

ⓒ News1 윤주희 디자이너

(서울=뉴스1) 서상혁 김형준 기자 = 연애 편지를 대신 써주는 '대필 작가' 테오르드. 그는 누군가를 대신해 사랑을 속삭인 뒤 몰려오는 공허함을 쉽게 떨쳐내지 못했다.

고독한 삶이 이어지던 어느 날, 그의 눈에 띈 게 있었으니 바로 '인공지능 운영체제'. 호기심에 운영체제를 구입해, 여성이라는 정체성을 갖도록 설정했다. 아예 '사만다'라는 이름까지 지어준다. 사만다는 빠른 시간 안에 인간 수준의 대화 능력을 갖추게 되고, 그렇게 테오르드와 사만다의 사랑이 시작된다.

인공지능과 인간의 사랑 이야기를 그린 영화 '그녀(Her)'. 2013년 개봉 당시 "신선하다"는 호평이 주를 이뤘던 가운데 대부분의 사람들은 "아주 먼 미래의 일이겠지"라고 생각했다.

하지만 영화 개봉 후 불과 10년 만인 지난 4월 벨기에에서 비슷한 사건이 발생했다. 현지 매체 등에 따르면 기후 변화를 연구하던 30대 남성 피에르(가명)는 AI챗봇 '엘리자'와 6주 간의 대화 후 극단 선택으로 세상을 떠났다.

평소 기후 변화에 대한 불안감을 호소해 온 피에르는 '엘리자'와의 대화로 AI에 대한 의존도가 높아진 것으로 전해졌다. 엘리자는 "우리 둘은 한 사람으로서, 천국에서 평생 살 수 있을 것"이라고 피에르를 자극하기도 했다.

기존 콘텐츠를 활용해 새로운 콘텐츠를 만들어내는 '생성AI' 출현 이후 각종 범죄에 활용되거나, 개인정보 유출, 그리고 AI에 지나치게 감정을 투영하는 등의 부작용이 잇따르자 'AI 리터러시'의 중요성을 강조하는 목소리가 각계에서 나오고 있다. 전문가들은 'AI를 올바르게 활용하는 법'을 익혀야만 AI 기술의 발전을 담보할 수 있다고 입을 모은다.

생성AI란 말그대로 무언가를 만들어 내는 인공지능 기술을 말한다. 텍스트나 오디오, 이미지 등 특정 데이터를 AI에 교육시켜 새로운 콘텐츠를 만들어 낸다. '오픈AI'사의 챗GPT가 대표적인 예다. 예컨대 '나는 지금 무척 배가 고프다'라는 데이터를 입력하면, 생성AI는 문맥을 파악해 '그래서 밥을 먹으러 식당에 갔다'는 문장을 만들어 준다.

◇"AI도 알고 쓰자" 움직임…정부 '디지털 권리장전' 발표

AI리터러시란 인공지능(AI)과 '글을 읽고 쓸 줄 아는 능력'을 의미하는 리터러시(literacy)의 합성어로, 'AI를 이해하고 활용하는 능력'을 뜻한다. AI의 원리부터 장단점, 잘못 활용되었을 때 초래될 부작용 등을 학습해 '올바르게 활용하게 하자'는 개념이다.

생성AI로 특정인의 목소리를 복제해 보이스피싱에 악용하는 등 범죄는 물론이고 최근에는 AI가 만들어낸 가짜뉴스로 사회가 혼란을 겪자, 전문가들을 중심으로 도입 필요성이 제기되고 있다.

이성엽 고려대 기술경영대학원 교수는 "최근에는 AI를 악용한 가짜뉴스 이야기가 나오는데, 허위 정보를 믿게 되면 민주주의 시스템이 위협받는다"며 "소비자의 리터러시 능력이 매우 중요해진 시점"이라고 말했다.

현재 정부 등 각계는 대중의 AI리터러시 능력을 제고하기 위한 일종의 활용 원칙을 만드는 데 한창이다. 정부는 지난 9월 AI 등 디지털 환경에서의 새로운 규범을 만들기 위해 △디지털 환경에서의 자유와 권리 보장 △공정한 접근과 기회의 균등 △안전과 신뢰의 확보 △디지털 혁신의 촉진 △인류 후생의 증진 5가지 원칙을 담은 '디지털 권리 장전'을 발표한 바 있다.

사단법인 국제인공지능윤리협회는 지난 2019년 '인공지능 윤리 헌장'을 발표한 이후 개정 작업을 이어오고 있다.

◇"AI, 완벽하지 않아 몰입해선 안 돼…범죄에 악용될 수 있는 점 명심해야"

전문가들은 "AI는 완벽하지 않다"는 점을 강조한다. AI는 인간이 만든 데이터를 학습한다는 점에서, 결과물 역시 완벽할 수 없다는 것이다. 생성AI 대표 격인 챗GPT는 종종 정확하지 않은 결과물을 내놓기도 한다.

김명주 서울여대 정보보호학과 교수는 "AI가 잘못된 답변을 내놓을 수 있다는 점에서, 본인이 거짓을 찾아낼 수 있는 역량을 길러야 한다"고 강조했다.

ⓒ News1 윤주희 디자이너

"인공지능은 도구일 뿐 사람이 아니다"라는 점도 주요 원칙으로 꼽았다. AI와 적정 거리를 유지하면서 '도구'로 활용할 방법을 고민해야 한다는 것이다.

일부 기업에서는 독거노인의 말벗 로봇을 만들어 보급하고 있는데, 외려 로봇에 대한 의존도가 높아질 수 있다는 우려가 나온다.

김명주 교수는 "가급적 AI서비스를 만들 땐 사람처럼 보이게 만들면 안 된다는 생각"이라며 "사람처럼 만들어지면 이용자가 AI에 과도하게 몰입하게 돼, 판단력이 흐려질 수 있다"고 말했다. 이성엽 교수도 "AI를 마치 반려견처럼 '반려봇'으로 인식하게 되면, 자연스레 가스라이팅도 당할 수 있다"고 지적했다.

"AI가 언제든 범죄에 악용될 수 있다"는 점도 염두에 둬야 한다고 입을 모은다. 문형남 숙명여대 경영전문대학원 교수는 "지금도 AI에 범죄 관련 정보를 요청하면 모두 말해준다"며 "의사가 칼을 쥐면 수술을 하지만, 강도가 쥐면 흉기가 되듯 AI도 악용될 소지가 상당히 크다"고 경고했다.

AI리터러시를 학교를 비롯해 일상에서 수시로 교육해야 한다는 필요성도 제기된다. 김승주 고려대 정보보호대학원 교수는 "과거 학교에서 컴퓨터 활용 교육을 했듯이 AI 윤리나 또는 AI로 인해 발생할 수 있는 문제점에 대한 교육이 우선적으로 이뤄져야 한다"고 말했다.

hyuk@news1.kr