위기와 기회 사이… AI와 인간은 친구가 될 수 있을까[서울미래컨퍼런스 2023]

AI가 가져올 인류의 미래
뉴스·소설·기밀 서류 학습한 AI
힌턴·호킹 등 일탈 가능성 경고
영상의학 분야서 인간 한계 추월
AI의 성장을 저해하지 않으면서
인간 권리 보호할 규제 고민해야

인공지능(AI)의 위험성을 경고하기 위해 10여년 몸담았던 구글을 떠난 ‘AI의 대부’ 제프리 힌턴 박사는 최근에도 미국 방송에 나와 “5년 뒤엔 AI의 추론 능력이 사람보다 더 뛰어날 수 있다. 더 똑똑한 AI가 인간을 통제하는 시대가 오고 있다”며 “지금이야말로 AI의 위험성에 대해 경각심을 갖고 대비책을 마련해야 할 때”라고 말했다.

힌턴 박사와 비슷한 경고를 한 이는 적지 않다. 스티븐 호킹 박사도 생전에 수차례 AI의 위험성에 대해 경고했다. 그는 2015년 “AI를 가진 컴퓨터가 앞으로 100년 이내에 사람을 넘어설 것이며 이때 컴퓨터의 목표가 우리의 목표와 일치하도록 확실히 해 둘 필요가 있다”고 말했다. 그해 호킹 박사는 일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동창업자, 세계적인 지식인 노엄 촘스키 교수 등과 함께 ‘공격형 자율무기’ 금지 서명에 동참하기도 했다.

이들이 경계하는 AI의 미래는 꼭 영화 ‘터미네이터’의 ‘스카이넷’이나 ‘어벤져스’에 나오는 ‘울트론’과 같이 인간에게 치명적인 모습만은 아니다. 그럼에도 ‘컴퓨터 시스템이 인간의 통제를 벗어날 수 있다’는 가정이 얼마든지 현실이 될 수 있다는 점은 최근 생성형 AI의 등장과 함께 일어난 많은 사건들을 통해 알 수 있게 됐다. 힌턴 교수는 “AI는 지금까지 인류가 작성한 모든 뉴스, 소설, 기밀 서류 등을 학습했다”며 “사람을 조종하고 설득하는 데 매우 능숙할 것”이라고 말하기도 했다.

그렇다면 AI 개발을 이쯤에서 멈춰야 할까. 하지만 AI가 인류의 삶에 혁명적인 변화를 가져오는 것은 자명하다. AI의 발달과 함께 풍요로워질 인류의 미래는 포기하기엔 너무 크다. 예를 들어 이미 영상의학 분야에서 AI의 진단 능력은 인간을 넘어섰다. 수년이 걸리는 약물 설계도 AI를 이용하면 단 몇주 만에 가능하다. 지금부터 각국 정부가 AI를 이해하고 성장을 저해하지 않으면서 인간의 권리를 보호할 수 있는 규제를 도입하고, 군사용 로봇을 금지하는 조약을 체결하는 등 올바른 AI 사용을 위해 노력해야 하는 이유다.

오는 25일 ‘빅퀘스천: AI+, 미래, 탐험’이라는 주제로 열리는 ‘2023 서울미래컨퍼런스’에는 국내외 석학과 각 분야 AI 전문가들이 모여 인공지능이 가져올 변화와 인류의 미래, AI와 인간이 공존할 바람직한 방법을 도출하기 위해 머리를 맞댄다.

이번 컨퍼런스의 문을 여는 키노트 세션에서는 AI와 뇌인지과학 분야 석학들이 인간과 AI의 관계와 이를 통해 더 나은 미래로 가는 길을 제시한다. 첫 번째 기조연설자로 나서는 제임스 랜데이 미 스탠퍼드대 컴퓨터공학과 교수는 이 대학 인간중심인공지능연구소(HAI)의 창립자로 AI의 개발 방향이 인간, 사회에 미치는 영향을 연구해 왔다. 그는 이번 컨퍼런스에서 ‘착한 AI’를 넘어 ‘인간중심 AI’에 관해 이야기한다.

두 번째 기조연설자는 한국의 가장 유명한 뇌인지 과학자인 정재승 카이스트 교수다. 그의 주된 연구 분야는 의사결정의 신경과학, 뇌 로봇 인터페이스, 정신질환의 대뇌모델링, 대뇌 기반 AI 등이다. 그는 연단에서 생성형 AI가 만들어 갈 새로운 창의성의 시대를 준비할 방법에 대해 강연한다.

김민석 기자