제이슨 권 "AI 발전할수록 통제력도 향상될 것"

서울 AI 정책 콘퍼런스 참석
"적용사례 많을수록 지속 진화"

제이슨 권(왼쪽) 오픈AI CSO와 임용 서울대 부교수 겸 SAPI 디렉터가 12일 서울 중구 페럼타워에서 열린 '서울 AI 정책 컨퍼런스 2024'에서 대담을 나누고 있다. 팽동현 기자

"인공지능(AI)은 인간에 의해 통제돼야 한다. 다만 기술 발전이 통제력도 향상시킬 수 있을 것으로 본다."

제이슨 권 오픈AI 최고전략책임자(CSO)는 서울대 AI정책 이니셔티브(SAPI) 주최로 12일 서울 중구 페럼타워에서 열린 '서울 AI 정책 콘퍼런스 2024'에서 이같이 말했다. 이날 대담자로 참여한 권 CSO는 "지난해에 기술이 너무 빨리 발전하는 것처럼 보이다 보니 사람들은 본능적으로 그 속도를 늦추는 것을 생각했다"며 "하지만 현장에서 발견한 것은 더 많은 능력을 갖출수록 더 많이 제어할 수 있게 된다는 것"이라고 밝혔다.

그는 과거와 달리 대형언어모델(LLM)들이 가이드레일 등으로 부적절한 콘텐츠 관련 안전조치를 갖춰가는 점을 지목하면서 "시스템 운영·유지 역량도 높아지고 있고, 시스템 관리·감독 연구도 활발하다"고 부연했다.

특히 "결국 사람이 AI를 통제할 수 있도록 어떻게 보장하느냐가 현재 거론되는 '정렬'의 핵심"이라며 "사용자가 시스템을, 사회가 기술을, 시민이 정보생태계를 일정이상 통제 가능하도록 최대한 많은 방법을 모색해야 한다"고 짚었다.

권 CSO는 이어 "우리는 사람들 심리에 영향을 끼치지 않도록 정보만 제공하려 하지만, 다른 누군가는 반대로 이를 원할 수도 있다"며 "이런 상황에서 사람들이 시스템을 어떻게 수정할 수 있는지 이해하는 것은 다양한 환경에서의 도구 사용에 있어 매우 중요한 일이 될 것"이라고 내다봤다.

범용AI(AGI)와 관련해선 "AI는 아직 완전치 않지만 점점 더 나은 사고력을 가질 것이다. AI와 AGI를 이분법적으로 구분하기보다는 이런 점진적 발전에 따라 그 실현 단계별로 분류하는 게 더 정확할 것"이라고 피력했다. 개방형 모델과 폐쇄형 모델에 대해선 "AI 생태계 측면에서 무엇이 낫다고 양극화된 논쟁이 일기도 하지만 현실에선 이들이 다양하게 혼합돼 있다. 각각 장단점이 있고 목적과 도구에 따라 선택이 달라질 수 있다"고 풀이했다.

한편 권 CSO는 AI버블 논란에 대해 "어떤 기술이든 사이클을 겪는다"면서도 "AI는 아직 초기 단계임에도 패러다임 전환을 일으키고 있다"고 강조했다. 텍스트 위주의 챗GPT에서 실시간 통역도 가능한 챗GPT-4o까지 발전하는 데 1년 반 정도밖에 걸리지 않은 것을 예로 들어 "이제 시작에 불과하고 앞으로 더 나아질 것"이라며 "물론 회의적인 시각도 일정 부분 필요하겠지만 기본적으로 낙관적인 입장을 가져도 좋을 것"이라고 말했다.

오픈AI의 향후 목표로 권 CSO는 생산성, 안전성과 함께 적용사례 확보를 꼽았다. "한국 5000만 인구 중 적극적인 챗GPT 사용자는 아직 100만명 수준이고, 미국도 아직 전체의 20% 정도"라며 "많은 사용으로 적용사례가 늘어날수록 기술이 발전하며 지속적인 진화가 가능할 것"이라고 밝혔다.

그는 "AI 거버넌스도 결국 사람이 중요하고, 이는 오픈AI가 지난해 (이사회의 샘 올트먼 CEO 기습 해고로 인한) 위기상황을 함께 극복하며 얻은 교훈이기도 하다"며 "회사 규모가 1년 새 3배 커졌지만 여전히 매달 전 직원이 참여하는 내부 행사에서 모든 것을 공유하며 목표 정렬(미션 얼라인먼트)을 이뤄가고 있다"고 덧붙였다.

한국계인 권 CSO는 지난해 11월 오픈AI에서 올트먼 CEO 해임 사태가 빚어졌을 때 내부 결속에 나서며 올트먼의 복귀에 기여한 인물로 알려졌다. 올 초 일론 머스크 테슬라 CEO가 당초 설립 취지를 어겼다며 오픈AI와 올트먼 CEO 상대로 소송을 내자 내부 메모에서 "머스크가 자신이 창업한 회사를 상대로 이런 조치를 취하는 것은 매우 실망스러운 일"이라고 비판하기도 했다.

글·사진=팽동현기자 dhp@dt.co.kr