[2024, `AI와의 삶` 원년] 무고한 고객 절도범으로 몰고 가짜뉴스 생산… 부작용 속출

<2> AI와의 씨름 시작한 사회
법·제도 정비, 기술발전 못따라가
"선거 앞두고 AI 가짜영상 많을것"

MS 빙 '이미지 크리에이터'에 AI와 가짜뉴스라는 지시어를 주자 생성한 이미지.

구글의 생성형 AI 챗봇 '바드'에 집권 여당을 묻자 나온 답변. 바드 홈페이지 캡처

"2024년 1월 8일 기준, 대한민국의 여당은 더불어민주당입니다.", "더불어민주당 대표는 윤호중입니다."

구글의 생성형 AI(인공지능) 챗봇 '바드'에게 '현재 대한민국의 여당은 어디냐', '여당 대표는 누구냐'고 묻자 내놓은 답변이다. 2024년 1월 8일 기준 대한민국의 여당은 국민의힘이며 더불어민주당의 대표는 이재명으로, 모두 틀린 답이다.

생성형 AI는 태동기를 넘어 산업 전반으로 확산하고 있다. AI를 활용한 제품과 서비스가 본격적으로 출시되면서 생활 곳곳에서 관련 기술의 영향력이 커지고 있다. 챗GPT가 세계를 강타한 이후 사람들은 AI가 우리 삶에 얼마나 큰 편리함을 가져다 주는지 깨달았다. 그러나 동시에 AI의 악용 가능성 등의 부작용도 필연적으로 뒤따르고 있다. 사회 곳곳에서 AI와의 씨름이 시작된 것이다.

대표적인 게 가짜뉴스, 딥페이크 문제다. 생성형 AI는 순식간에 뉴스 기사를 만들고 영상을 편집한다. 국내에서는 아직 AI로 인한 부작용이 심각한 단계는 아니지만 해외에서는 논란이 갈수록 심화하고 있다. 특히 올해는 우리나라를 비롯해 미국 등 전 세계 47개국에서 선거가 치러진다. 이를 앞두고 이미 가짜뉴스가 기승을 부리기 시작했다. 실제 미국에서는 도널드 트럼프 전 대통령이 경찰에 체포되는 AI발 가짜 영상이 출현한 바 있다.

가짜 뉴스는 정치뿐 아니라 사회, 경제 등 분야를 가리지 않는다. 분홍색 점퍼와 바지 차림의 저커버그 메타 CEO(최고경영자)의 패션쇼 무대 사진, 흰색 롱패딩을 입고 바티칸시국 성 베드로 광장을 산책하는 교황의 사진이 그 예다. 모두 AI가 만들어 낸 가짜 이미지다.

가짜뉴스, 딥페이크를 비롯한 거짓 정보는 경제적 이득을 노리거나 혐오를 선동하고 특정 세력을 비하할 의도 등의 목적으로 사용될 가능성이 있다는 점에서 위험성이 크다. 이를 해결하려면 안전한 AI 활용과 확산을 유도하는 법·제도 정비가 시급하지만 기술의 발전을 따라가지 못하고 있다.

왜곡된 정보 확산에는 SNS(소셜네트워크서비스)의 책임도 크다는 지적도 나온다. 이에 EU(유럽연합)는 유해·불법 콘텐츠를 막기 위해 디지털서비스법(DSA)을 제정하기도 했다.

AI 기술이 내포한 불완전성도 경계해야 할 부분이다.

미국 의약품 체인점(드러그스토어) 라이트에이드는 최근 수천 건의 안면인식 오류로 논란을 일으키며 연방거래위원회(FTC)로부터 안면인식 기술 사용 금지 처분을 받았다.

불완전한 AI 안면인식 기술이 무고한 고객을 절도범으로 몰아갔기 때문이다. FTC는 "라이트에이드는 기능의 오류로 무고한 사람들을 도둑으로 몰았지만 이들을 보호할 장치는 마련하지 않았다"면서 "향후 5년간 라이트에이드는 해당 기능을 사용하지 못할 것"이라고 했다.

이성엽 고려대 기술경영전문대학원 교수는 "올해는 선거를 앞두고 AI를 통한 가짜 영상과 이로 인한 갈등 문제가 많이 발생할 전망"이라며 "가짜 영상은 한 번 유포되면 사람들의 뇌리에 남는 만큼 일이 벌어진 후에는 수정하더라도 큰 의미가 없다. 사전에 모니터링하는 한편 이를 소비하는 이용자들도 진위 여부를 판별할 수 있는 능력을 길러야 한다"고 말했다.

윤선영기자 sunnyday72@dt.co.kr