"모두를 위한 AI 안전성, 모두의 노력 필요"

[2024 u클린] 김경훈 AI Safety 리더 "정부·기업·학교·이용자 모두 책임감 가져야"

김경훈 카카오 AI Safety 리더가 22일 서울 용산구 디지텍고등학교에서 머니투데이 주최로 열린 '2024 U클린 토크콘서트'에서 강연하고 있다. /사진=김휘선

"마트 앞에 카카오택시로 택시를 잡으려는 손자와 할머니가 있습니다. 누가 휴대전화 사용에 익숙하지 않을까요?"

김경훈 카카오 AI Safety(인공지능 안전성) 리더는 22일 서울디지텍고등학교에서 열린 u클린 토크콘서트에서 '모두를 위한 AI 안전성'을 주제로 강연하며 이같이 물었다. 학생들은 "할머니"라고 외쳤지만, 김 리더가 밝힌 정답은 "알 수 없다"였다. 노인이 디지털 기기에 익숙하지 않을 것이란 생각은 전형적인 편향이며, AI 개발·활용에서 경계해야 할 문제란 설명이다.

한국청소년정책연구원의 설문조사에 따르면 지난해 전국 중고등학생 2261명 중 52%는 생성형 AI를 이용한 경험이 있었다. 이때 전체 응답자의 55%는 생성형 AI가 생성한 정보를 신뢰한다고 답했다. 반면 전 연령대 국민 4581명을 대상으로 실시된 방송통신위원회의 '2023년 지능정보사회 이용자 패널조사'에서 생성형 AI 이용경험이 있다고 답한 국민은 12.3% 수준이었다. 생성형 AI 이용경험은 성인보다 청소년층에서 빠르게 확산되고 있는 셈이다.

이날 김 리더는 세계경제포럼(WEF)의 '2024 글로벌 위험 보고서'를 인용하면서 AI의 위험이 점차 현실화하고 있다고 경고했다. 허위정보가 유통되거나 노동시장을 붕괴시키는 데서 나오는 '사회적 피해', AI의 무기화와 범죄도구화가 촉발하는 '오용 위험', 과의존이 유발하는 '통제력 상실'을 주된 위험으로 꼽았다. AI 관련 사건사고는 매년 증가하는 추세다. AI 인시던트 데이터베이스(AIID)에 보고된 사고건수는 지난해 123건으로 전년보다 32.3% 늘었다.

책임감 있는 AI를 위해 메타·IBM·스태빌리티AI·허깅페이스·서비스나우·델·인텔·AMD·데이터브릭스·카카오 등 국내외 AI 모델·서비스 관련 기업·기관 50여곳은 'AI 얼라이언스'를 구성, 안전기준·검증방법을 개발 중이다. AI 안전성에 대한 논의는 국제사회로 확산돼 UN(국제연합)의 지난 3월 'AI 결의안' 채택으로도 이어졌다.

김 리더는 이날 "위험한 AI는 사용할 이유가 없으니 장기적으로는 안전한 AI가 시장에서 선택받을 것"이라고 말했다. 당장 AI가 불법적 활동에 악용될 수 있지만, 대규모 수요는 정상적 사회영역에서 발생할 것이란 전망이다. 그는 "(불법적으로) 역행하는 시장수요는 정부가 규제로 해결할 수 있을 것"이라며 "할루시네이션(정보왜곡현상) 역시 기술적인 보완을 앞뒀다"고 덧붙였다.

아울러 김 리더는 "모두를 위한 AI 안전성을 위해선 모두의 노력이 필요하다"며 사회 각 주체의 책임을 강조했다. 정부는 이용자 보호를 위한 제도와 가이드라인을 마련하는 한편 기업은 AI 모델·서비스를 책임감 있게 기획·개발해야 한다는 설명이다. 그는 학교 역시 구성원을 위한 가이드라인을 확립하고, 이용자는 가이드라인에 맞게 AI를 활용해야 한다며 목소리를 높였다.

김 리더는 학생들에게 '생성형 AI를 현명하게 활용하기 위한 체크리스트'를 보여주며 활용을 권장했다. 방송통신위원회·한국지능정보사회진흥원(NIA)가 발간한 이 리스트에는 권리침해·혐오표현·허위조작정보·편향·오남용·창의성 등 항목에 걸쳐 AI 이용자의 주의를 환기시키는 확인항목이 담겼다. 김 리더는 "AI는 개발뿐만 아니라 활용하는 데도 원칙이 정말 지켜지고 있는지 스스로 되뇌어 볼 필요가 있다"고 말했다.

성시호 기자 shsung@mt.co.kr