오픈AI 제이슨 권 CSO “인간이 통제할 수 있도록 하는 것이 AI 안전의 핵심”

“인공지능(AI)은 다른 기술들에 비춰봤을 때 매우 초기 단계에 있다. 지속적 투자와 활용을 통해 진보된 AI로 인류가 할 수 있는 긍정적인 일들이 많다고 본다.”

챗GPT를 개발한 오픈 AI의 제이슨 권 최고전략책임자(CSO)는 12일 서울 중구 페럼타워에서 서울대가 개최한 ‘서울 AI 정책 콘퍼런스 2024’ 특별 대담에서 최근 일각에서 제기된 ‘AI 거품론’에 대해 일축하며 이같이 밝혔다.

권 CSO는 오픈AI에서 정책, 법률, 사회적 영향 연구팀을 총괄하고 있다. 지난해 11월 오픈AI에서 공동 창업자 샘 올트먼의 해임 사태가 빚어졌을 때 올트먼의 복귀에 기여한 것으로 알려졌다.

권 CSO는 한국 내 챗 GPT 일일 활성 사용자 수는 100만 명에 불과하고 미국에서도 이용해본 사람이 20% 미만인 점을 사례로 들며 AI가 초기 시장이며 인류가 전혀 예측하지 못한 다양한 사용 사례들이 등장할 것이라며 AI 기술이 지닌 잠재력을 강조했다.

AI 급격한 발전이 안전성 문제를 초래할 수 있다는 우려에 대해서 그는 “AI가 인간의 지시나 의도를 넘어서지 않도록 통제할 수 있도록 보장하는 것이 AI 안전의 핵심”이라며 “AI 기능이 빠르게 발전하면 할수록 우리 사회가 이를 관리하고 통제할 수 있는 방법을 다양한 측면에서 고민하는 것이 필요하다”고 말했다.

AI 모델이 각국의 다양성과 문화를 반영하지 못한다는 지적에 대해서는 “모델 개발자로서 모든 국가가 충분한 기술과 자원을 갖고 있지 않기에 우리 기술이 각국에 어떻게 유용하게 적용될 수 있을지 항상 고민하고 있다”는 의견을 밝혔다.

남혜정 기자 namduck2@donga.com