초인공지능 시대 맞서 ‘인간 친화’기술 중점 연구[창간 32주년 특집- AI 스탠더드, 한국이 만들자]

■ 창간 32주년 특집 - AI 스탠더드, 한국이 만들자 (8)
인공지능 R&D - 스탠퍼드대 HAI는

인공지능(AI)은 탄생한 지 70년이 채 안 된 1세대 기술이다. 인간으로 치면 아직 아기에 불과하다. 하지만 AI 아기는 인간 부모의 세계관, 윤리관, 가치관을 배워야 한다. 인류가 수천 년간 축적해 온 지혜를 따라가는 인간 친화적 AI로 성장시켜야 한다는 것이다. 이를 인간 사회와 AI의 ‘가치 정렬’, 즉 얼라인먼트(alignment)라고 부른다. 지금 AI는 바둑, 자율주행, 신약 개발 등 특정 영역에서만 인간의 능력을 뛰어넘는 약(弱) AI다.

그러나 전문가들은 지능이 인간과 비슷하거나 추월하는 강(强) AI, 다른 말로 범용 인공지능(AGI·Artificial General Intelligence)이 머지않아 현실화될 것으로 전망한다. 만약 이때까지 가치 정렬이 안 되면 ‘기계만의 정의’ 추구로 인류 말살이란 최악의 사태도 우려된다. ‘슈퍼인텔리전스(Super intelligence·초지능)’의 저자인 닉 보스트롬 영국 옥스퍼드대 인류미래연구소(FHI) 소장과 그의 영향을 받은 일론 머스크 테슬라 CEO, 마크 저커버그 메타 창업자, 빌 게이츠 마이크로소프트(MS) 창업자 등이 그렇게 믿고 있다. 최근 미국 국방성의 지능형 자율 드론 담당자가 적을 많이 죽일수록 높은 보상을 주도록 설계한 AI 드론이 민간인은 제외하도록 조정자가 설정하자 이를 방해 요인으로 간주, 귀환해 조정자부터 살해했다는 시뮬레이션 결과를 발표해 파문을 일으킨 바 있다.

미국 스탠퍼드대 인간 중심 인공지능 연구소(HAI, Human-Centered Artificial Intelligence)는 홈페이지에 기관 임무를 ‘인간 환경을 개선하기 위한 AI 연구, 교육 및 정책 발전’이라고 명시하고 있다. 벤처 창업의 메카 실리콘밸리와 가까워서 산학 협력의 학풍이 강한 스탠퍼드 안에서도 AI 실용 연구로 유명한 곳이다. 2019년에 설립돼 매년 연말이면 전 세계 AI 동향과 전망을 정리한 연례 보고서를 발간하고 있다.

또 연초에는 각종 지표를 담은 ‘AI 인덱스’를 펴내고 있다. ‘AI 인덱스 2023’ 보고서에서 한국은 미국과 중국, 인도, 영국, 캐나다에 이어 종합 순위 6위를 달렸다. 경제 규모에 비해 AI 인력·고용·투자·논문 출판 수 등에서 선방한 셈이다. 일본은 13위, 이스라엘과 싱가포르가 각각 9위와 10위를 기록했다.

본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.

노성열 기자 nosr@munhwa.com