[K-VIBE] 임기범의 인공지능 혁신 스토리...AI와 프라이버시

[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천5백만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 이에 연합뉴스 K컬처 팀은 독자 제위께 새로운 시선의 한국 문화와 K컬처를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재하며 K컬처 팀 영문 한류 뉴스 사이트 K 바이브에서도 영문으로 보실 수 있습니다.]

｜임기범 인공지능 전문가. 현 인공지능경영학회 이사. 신한 DS 디지털 전략연구소장 역임.

임기범 인공지능 경영학회 이사 본인 제공

조지 오웰의 소설 '1984'는 '빅브라더'가 모든 시민을 감시하는 디스토피아 세계를 그린 작품이다.

이 소설은 출간 당시엔 단순한 SF 소설로 여겨졌다. 하지만 지금 시대를 기준으로 다시 한번 읽어보면 상당히 불편하다.

소설 속 상상이 현실로 굳어져 가는 느낌을 지울 수가 없기 때문이다.

2013년 에드워드 스노든이 미국 국가안보국(NSA)의 무차별적인 감시 프로그램을 폭로해 전 세계를 충격에 빠뜨렸다.

스노든은 NSA가 '프리즘(PRISM)'이라는 비밀 감시 프로그램을 통해 미국 시민들은 물론 전 세계 주요 인사의 통신 내용을 무차별적으로 수집했다는 사실을 폭로했다.

이 프로그램은 구글, 페이스북, 애플 등 주요 IT 기업의 서버에 직접 접근해 이메일, 채팅 내용, 사진, 비디오 등 개개인의 거의 모든 디지털 정보를 수집했다.

스노든의 폭로로 인해 전 세계적으로 '프라이버시' 논쟁이 일어났고, 미국 정부의 감시 체계에 대한 비판이 쏟아졌다.

당시 많은 사람이 이를 '빅브라더의 탄생'이라고 불렀다. 그로부터 10년이 지난 지금, 지구촌은 더 교묘하고 강력한 감시 기술과 마주하고 있다.

바로 인공지능(AI)이다.

AI 기술의 발전은 우리 삶에 많은 편의를 갖다줬다.

스마트폰의 음성 인식 비서는 간단한 질문에 답하고 기기를 제어해주며, AI 기반 내비게이션은 실시간 교통 정보를 분석해 최적의 경로를 제시한다. 또한 온라인 쇼핑몰의 추천 알고리즘은 사용자의 구매 이력을 바탕으로 취향에 맞는 상품을 추천해준다.

이런 편리함의 이면에는 프라이버시가 침해될 수 있다는 우려가 있다.

특히 얼굴 인식 기술과 빅데이터를 활용한 개인 정보 수집은 심각한 문제를 야기할 수 있다.

빅브라더 사회는 이미 도래해

중국 천망 시연 화면 사진 출처 (www.cps.com.cn)

중국의 사례를 보면 빅브라더 사회가 이미 도래한 듯한 인상을 지울 수가 없다.

중국 정부는 전국에 수억대의 CCTV를 설치하고 AI 얼굴 인식 기술을 접목해 '천망'(天網, Skynet)이라는 시스템을 운영하고 있다. 이 시스템은 범죄자를 찾는 데 활용되지만, 동시에 일반 시민들의 일거수일투족을 감시하는 도구가 되고 있다.

2017년에 영국 BBC 기자가 경찰통제실 방문 후 자기 얼굴 사진을 등록한 이후 경찰이 CCTV로 자신을 찾는 시간을 측정했더니 그 시간은 불과 7분 밖에 걸리지 않았다. 2018년 3월 후난대 학생도 같은 실험을 했고 경찰이 그를 발견하기까지 약 5분이 걸렸다고 한다. 과연 이 시스템이 범죄자 색출에만 사용될까?

서방 국가도 예외는 아니다.

미국의 여러 도시에서는 경찰이 범죄 예방을 위해 AI 얼굴 인식 기술을 사용하고 있다. 이 기술의 정확성과 편향성에 대한 문제가 제기되면서 샌프란시스코를 비롯한 일부 도시에서는 공공기관의 얼굴 인식 기술 사용을 금지하기도 했다.

2019년 5월 14일, 샌프란시스코 감독위원회(Board of Supervisors)는 8대 1이라는 압도적인 표 차로 공공기관의 얼굴 인식 기술 사용을 금지하는 조례를 통과시켰다.

이는 미국 주요 도시 중 최초의 사례였다. 이 조례의 배경에는 얼굴 인식 기술의 오류 가능성과 그로 인한 인권 침해 우려가 있었다.

특히 유색인종이나 여성에 대한 인식률이 낮아 차별을 야기할 수 있다는 점이 크게 작용했다.

아론 페스킨 시의원은 "우리는 안전과 자유 사이의 균형을 찾아야 한다"며 조례 제정의 취지를 설명했다. 이 조치는 이후 오클랜드, 버클리 등 다른 도시로 확산하며 AI 기술과 프라이버시에 대한 중요한 선례가 됐다.

빅테크 기업도 예외 없는 개인정보 침해

빅데이터를 활용한 개인 정보 수집도 심각한 문제다. SNS에 올리는 글, 온라인 쇼핑 내용, 위치 정보 등 모든 디지털 발자국이 수집되고 분석된다.

AI는 이 데이터를 바탕으로 사용자의 성격, 취향, 정치적 성향까지 예측할 수 있다. 2018년 페이스북-케임브리지 애널리티카 스캔들은 이런 데이터가 어떻게 악용될 수 있는지를 보여준 대표적인 사례다.

이 스캔들은 영국의 데이터 분석 회사인 케임브리지 애널리티카가 페이스북 사용자(최대 8천700만 명)의 개인정보를 무단으로 수집해 정치적 목적으로 활용한 사건이다.

회사는 '성격 테스트' 앱을 통해 약 27만 명의 페이스북 사용자 정보를 수집했는데 이 과정에서 해당 사용자의 친구 정보까지 불법적으로 획득했다. 이렇게 수집된 방대한 양의 개인정보는 2016년 미국 대선과 영국 브렉시트 국민투표에서 유권자를 겨냥한 맞춤형 정치 광고에 사용됐다.

이 사건으로 인해 페이스북(현재의 메타)은 엄청난 비판에 직면했고, 마크 저커버그 CEO는 미 의회에 출석해 증언도 했다.

결국 2019년 7월, 미국 연방거래위원회(FTC)는 페이스북에 역대 최대 규모인 50억 달러(약 6조 6천억 원)의 벌금을 부과했다. 단순히 금전적 처벌을 넘어 개인정보 보호의 중요성과 빅테크 기업의 책임을 강조하는 상징적인 조치였다. 페이스북은 또한 이사회 수준의 프라이버시 위원회를 설립하고 개인정보 보호 정책을 대폭 강화하는 등의 조처를 해야 했다.

우리나라에서도 지난 5월 카카오가 오픈 채팅방 개인정보 유출로 151억여원의 과징금을 부과받은 사건이 있었다. 이후에도 지난 8월 카카오페이 논란이 정보 유출 우려를 더욱 키웠다.

금감원이 지난 5월부터 7월까지 카카오페이의 해외결제 부문에 대한 현장검사를 실시한 것이다. 금감원 발표에 따르면 지난 2018년 4월부터 매일 카카오페이가 고객의 개인신용정보를 고객동의 없이 4천45만여명의 고객정보를 알리페이에 제공했다고 발표하면서 시작됐다.

알리페이에 해외결제 미이용 고객 정보까지 포함됐다는 것이다. 금감원은 이어 ID와 휴대전화 번호, 카카오페이 거래내역 등 무려 542억건이라고 발표했다. 물론 카카오페이 측은 "금감원 발표가 사실이 아니다"고 부인했다. 만약 이 사건이 신용정보법 위반으로 결론이 날 경우, 개인정보 유출 규모가 워낙 크기 때문에 과징금 규모가 '역대급'으로 클 수 있다는 전망도 나온다.

기술 발전과 개인정보 보호의 균형 절실

물론 AI 기술이 가져다주는 장점도 분명히 존재한다. 범죄 예방, 의료 진단 개선, 효율적인 도시 관리 등 AI는 사회에 많은 도움을 줄 수 있다.

하지만 이런 이점이 개인의 프라이버시를 희생해도 될 만큼의 가치가 있는 것일까?

AI 기술의 발전을 막을 수는 없다. 그렇다고 무분별한 사용을 방치할 수도 없다.

지금 필요한 것은 기술의 발전과 개인의 프라이버시 사이의 균형이다.

이를 위해서는 먼저 시민들의 인식 제고가 필요하다. 많은 사람이 자신의 데이터가 어떻게 수집되고 사용되는지 모른 채 서비스를 이용하고 있다.

개인정보 보호의 중요성을 인식하고, 필요 이상의 정보 제공을 거부할 줄 아는 현명한 사용자가 돼야 한다.

다음으로 기업들의 책임 있는 자세가 필요하다.

AI 기술을 개발하고 적용하는 과정에서 윤리적 가이드라인을 준수해야 한다. 개인정보 수집 시 투명성을 확보하고 수집된 정보의 안전한 관리와 목적 외 사용 금지 등을 철저히 지켜야 할 것이다.

개인정보보호위원회, 2024 개인정보 미래포럼 개최 (서울=연합뉴스) 고학수 개인정보보호위원회 위원장이 21일 서울 중구 중앙우체국에서 열린 '제4차 2024 개인정보 미래포럼'에 참석하고 있다. 2024.8.21 [개인정보보호위원회 제공]

마지막으로 정부의 역할이 중요하다.

AI 기술 사용에 대한 명확한 법적 규제를 마련해야 한다. EU의 개인정보 보호법(GDPR)이나 캘리포니아의 소비자 프라이버시 법(CCPA) 등을 참고해 우리나라 실정에 맞는 규제 체계를 구축해야 한다. 동시에 기술 발전을 저해하지 않는 균형 잡힌 정책이 필요하다.

AI 시대의 프라이버시 문제는 더 이상 먼 미래의 이야기가 아니다.

지금, 이 순간에도 개개인의 정보는 수집되고 분석되고 있다.

사회가 어떤 선택을 하느냐에 따라 미래는 달라질 것이다.

편리함과 안전을 위해 프라이버시를 포기할 것인가, 아니면 불편을 감수하고서라도 개인의 자유를 지켜낼 것인가?

조지 오웰이 그린 디스토피아를 현실로 만들지 않기 위해서라도 사회 구성원 모두가 이 문제에 관심을 가지고 목소리를 내야 한다.

AI 기술과 더불어 발전하는 건강한 사회, 개인의 프라이버시가 존중받는 미래를 위해 지금 우리의 선택이 필요하다.

<정리 : 이세영·성도현 기자>

raphael@yna.co.kr

▶제보는 카톡 okjebo