“킬러 로봇? 더 큰 위협 있다”…‘카이스트 천재’ 윤송이 경고

■ 추천! 더중플 – AI 혁신 최전선에 선 한국 연구자들

「 생성 인공지능(AI) 시대, 글로벌에서 활약하고 있는 연구자들 중 한국인이 많습니다. AI 윤리를 강조하는 윤송이 엔씨문화재단 이사장, ‘신경망 기계 번역’이라는 개념을 고안해 맥락을 파악하는 AI의 기초를 다진 조경현 뉴욕대 교수, 생성 AI 붐을 일으킨 마이크로소프트(MS)의 리서치 부문을 이끄는 피터 리 MS 연구소 총괄사장이 대표적입니다.

‘The JoongAng Plus(더중앙플러스)’는 지혜롭고 지적인 독자들을 위해 중앙일보의 역량을 모아 마련한 지식 구독 서비스입니다. 오늘 ‘추천! 더중플’은 생성 AI 시대 글로벌에서 활약하고 있는 한국인 연구자들의 인터뷰를 모았습니다. 하루하루 바뀌는 혁신 기술과 비즈니스를 다루는 혁신가들의 머릿속을 들여다보는 팩플 인터뷰(https://www.joongang.co.kr/plus/series/108)의 더 자세한 내용은 더중앙플러스 구독 후 보실 수 있습니다.

」

오혜정 디자이너

빛이 있으면 그림자도 있습니다. 생성 인공지능(AI)의 발전으로 인한 눈부신 혁신 이면에는 딥페이크, 딥보이스 등 AI를 이용한 범죄들이 나타나고 있습니다. 편견을 재생산하는 AI도 나오고 있습니다. 이를 막기 위해 전 세계적으로 ‘AI 안전성’, ‘AI 윤리’에 대한 논의가 급부상하고 있습니다. 영국 등 해외에서는 AI 안전연구소가 만들어지고 있고, 한국에서도 과학기술정보통신부가 연내 AI 안전연구소를 설립할 예정입니다.

윤송이 엔씨문화재단 이사장은 이와 같은 AI 안전성이나 AI 윤리 분야에 ‘진심’인 연구자입니다. 지난 6월 한국과학기술원(KAIST)과 ‘페어(FAIR) AI 2024’ 컨퍼런스를 열었습니다. AI 기술의 올바른 개발과 사용을 위해 필수적인 ‘AI 윤리’를 집중적으로 조명한 행사였습니다. 이 행사는 윤 이사장은 물론, AI 윤리 분야 석학들인 아구스틴 라요 MIT 인문예술사회과학대학 학장, 제임스 랜데이 스탠퍼드대 HAI 공동소장, 메흐란 사하미 스탠퍼드대 컴퓨터공학과 교수가 참석했습니다.

윤송이 NC문화재단 이사장이 중앙일보와 인터뷰를 하고 있다. 장진영 기자.

윤 이사장이 지금 AI 윤리를 강조하는 이유는 현 시점이 거대한 변화로 이어지는 ‘변곡점’이라는 판단 때문입니다. 그는 중앙일보와의 인터뷰에서 “AI는 인터넷과 같은 범용 기술로서 우리 사회와 사람들의 생활양식, 사업하는 방법 등에 정말 많은 영향을 미칠 것”이라며 “이 시점에 AI가 사회적 편향을 확대재생산할 가능성이 크기 때문에 대비해야 한다”고 강조했습니다.

AI는 우리 사회에 기회일까요, 위기일까요. 함께 인터뷰에 참여한 제임스 랜데이 스탠퍼드대 교수는 AI가 가져올 4가지 위협에 대비해야한다고 강조했습니다. 허위정보(disinformation), 딥페이크(deepfake·실제 같은 합성 이미지, 영상), 편향으로 생길 수 있는 차별(discrimination), 일자리 대체 현상(displacement of jobs) 입니다. 그는 “이 4가지 사항에 대해 분명한 우려가 있는 만큼 어떤 결과를 가져올지 예측하고 대책을 마련하는 게 필요하다”고 말했습니다. 그는 세간에서 얘기하는 ‘킬러로봇’에 대해선 “그건 소설에나 나오는 환상”이라며 “오히려 그걸 강조하는 사람은 실제 AI가 가져올 진짜 위협으로부터 사람들의 주의를 돌리는 것이라고 생각한다”고 경고했습니다.

📌더 자세한 기사 내용이 궁금하시다면, 기사 링크를 복사해 주소창에 붙여넣어주세요.
“킬러 로봇? 더 큰 위협 있다”…‘카이스트 천재’ 윤송이 경고
https://www.joongang.co.kr/article/25260922

■ 추천! 더중플 – AI 혁신 최전선에 선 한국 연구자들

「 ※ 더 알고 싶은 기사가 있다면 링크를 복사해 주소창에 붙여넣어주세요.

① “킬러 로봇? 더 큰 위협 있다”…‘카이스트 천재’ 윤송이 경고
https://www.joongang.co.kr/article/25260922

② ‘육회는 six times’ 황당 번역…이걸 싹 고친 AI 스타의 의문
https://www.joongang.co.kr/article/25262558
: 최근 인공지능(AI) 번역이 매끄러워진 데엔 '신경망 기계 번역' 개념을 고안한 조경현(39) 뉴욕대(NYU) 컴퓨터과학과 교수의 공이 큽니다. ‘식당에서 육회를 먹었다’는 문장에서 ‘육회’가 ‘six times’(6번)로 번역되는 황당한 일이 사라지게 됐죠. AI수퍼스타가 된 조 교수는 AI혁명을 어떻게 바라보고 있을까요.

③ MS 비밀병기는 한인 2세…‘작은 AI 혁명’ 이끄는 이유
https://www.joongang.co.kr/article/25255863
: 사티아 나델라 MS 최고경영자(CEO)가 '비밀 병기'라 부른 사나이. 피터 리 MS 연구소 총괄사장에게 생성AI의 다음 단계, AI가 우리 삶에 미칠 영향에 대해 들어봤습니다.
」

■ ※더 많은 정보를 보려면 아래 링크를 복사해 주소창에 붙여넣어주세요.

「 美 마약국이 SOS 요청했다, 한국 부부가 만든 ‘100억 앱’
https://www.joongang.co.kr/article/25259181

율촌·네이버 때려친 두 남자, AI에 계약서 가르치는 까닭
https://www.joongang.co.kr/article/25249512

식당서 “여기요” 사라졌다…두 스타트업의 ‘테이블 혁명’
https://www.joongang.co.kr/article/25265775

“서울 지하철 보라, 엄청나다”… AI 구루가 찾은 ‘한국의 무기’
https://www.joongang.co.kr/article/25173223
」

김남영 기자 kim.namyoung3@joongang.co.kr