[단독]“AI 서비스, 책임감이 중요… 빅테크가 위험대비 앞장서야”

세계적인 AI 연구기관 벡터硏
토니 개프니 CEO 한국 찾아

토니 개프니 캐나다 벡터연구소 최고경영자(CEO)가 5일 서울 서초구 KT융합기술원에서 ‘책임감 있는 AI’ 개발의 중요성을 설명하고 있다. 벡터연구소 제공

“우리 모두는 정말 인공지능(AI)을 조심스럽게 접근하고 책임감 있게 배포해야 합니다.”

5일 서울 서초구 KT융합기술원에서 만난 토니 개프니 캐나다 벡터연구소 최고경영자(CEO)는 올해 들어 AI 기술 경쟁이 빨라진 현상을 두고 이 같은 의견을 밝혔다. 개프니 CEO는 “AI의 변화 속도가 빨라지고 있다는 점에 전적으로 동의한다”면서 “이 기술엔 기회와 함께 위험도 존재하는 만큼 제대로 이해하고 대응하는 것이 더 중요하다”고 했다. 개프니 CEO는 올해 1월부터 벡터연구소를 이끌고 있다. 그는 7일부터 열리는 세계이동통신협회(GSMA) 주최의 ‘모바일 360 아시아태평양 콘퍼런스’에서 AI 부문 발표자로 참석하기 위해 방한했다.

지난해 11월 미국 마이크로소프트(MS)와 협력 관계인 오픈AI가 ‘챗GPT’를 출시한 뒤 MS와 구글은 올해 상반기(1∼6월) AI 검색 서비스를 경쟁적으로 선보였다. 이 과정에서 AI 서비스가 기존에 학습된 내용으로만 그럴듯한 답변을 내놓는 ‘할루시네이션(환각 작용)’ 등의 부작용을 노출하기도 했다. 이를 의식한 듯 개프니 CEO는 1시간 동안 진행된 인터뷰에서 ‘책임감 있는(Responsible)’이라는 단어를 10여 차례나 언급했다.

벡터연구소는 2017년 캐나다 연방정부와 온타리오주 등의 투자로 설립된 세계적인 AI 연구기관이다. AI 분야 석학인 제프리 힌턴 토론토대 명예교수가 공동 설립자로 참여했다. 벡터연구소는 글로벌 30여 개 기업과 협력하고 있고 아시아 기업 중에선 유일하게 KT와 파트너십을 체결했다.

그는 AI 서비스의 가장 큰 위험으로 잘못된 정보 전달, 허위 조작 정보(가짜뉴스) 확산, 이용자들의 편견을 강화하는 문제 등 3가지를 꼽았다. 개프니 CEO는 “AI의 이러한 위험은 사실 (챗GPT 등장 전에도) 오랫동안 우리를 괴롭혔다”며 “지금이라도 이를 해결하기 위해 각국 정부와 국제기구의 역할이 중요하다”고 했다.

유엔은 올해 6월 AI를 규제하기 위한 국제원자력기구(IAEA) 수준의 초국적 기구 설립에 나서겠다고 발표했다. 이에 앞서 5월 주요 7개국(G7) 정상회의에선 AI 공동 규제안인 ‘히로시마 AI 프로세스’ 초안을 마련했다. 국제기구의 대응이 ‘선언’으로만 그칠 수 있다는 우려와 관련해 개프니 CEO는 “이미 많은 기업이 이 프로세스에 자발적으로 참여하는 등 활발하게 논의가 이뤄지고 있고 현재 대응 속도도 전혀 늦지 않았다”고 설명했다.

특히 AI의 부작용을 해소하고 적절한 안전장치를 마련하기 위해 개프니 CEO는 빅테크의 역할도 중요하다고 강조했다. AI 기술이 자율주행 자동차 등 인간의 안전과 직접 연결된 분야에도 적용된 만큼 빅테크의 개별적인 노력이 필요하다는 것이다.

개프니 CEO는 “빅테크가 AI 분야에서 행동규범(Code of conduct)을 제대로 마련해 모범을 보여준다면 전체 시장과 다양한 기업에 올바른 영향을 미칠 것”이라고 말했다.

이어 기업의 AI 기술과 서비스가 경제적 가치를 창출하는 것을 넘어 사회에 이바지하는 일이 중요하다는 점도 짚었다. AI 같은 첨단 기술이 단순히 수익을 내는 도구에 그쳐서는 안 된다는 뜻이다. 개프니 CEO는 “AI가 교육 등의 분야에서 이용자들에게 도움을 주는 것이 의미가 있다”며 KT의 초거대 AI ‘믿음’의 사례를 언급했다.

지민구 기자 warum@donga.com