오픈AI 제이슨 권 "AI 발전할수록 통제력도 향상돼야"

'서울 AI 콘퍼런스' 참석…"사회가 AI 관리·통제할 수 있어야"

서울 AI 정책 콘퍼런스 2024 [촬영 노재현]

(서울=연합뉴스) 노재현 기자 = 챗GPT 개발사인 미국 오픈AI의 제이슨 권 최고전략책임자(CSO)가 인공지능(AI) 기술이 발전할수록 AI에 대한 통제력도 향상돼야 한다는 견해를 밝혔다.

제이슨 권은 12일 서울 중구 페럼타워에서 서울대가 주최한 '서울 AI 정책 콘퍼런스 2024' 대담에서 AI의 안전과 관련한 질문에 "어떻게 시스템이 운영되고 어떤 식으로 통제하느냐의 문제"라고 말했다.

이어 "AI 기능이 더욱 발전하면 통제하는(control) 능력도 더 개선되는 것이 맞다"며 "챗GPT도 예전 모델과 비교하면 얼마나 발전했는지 알 수 있다. 지금은 바람직하지 않은 콘텐츠를 요청하면 챗GPT는 바로 제시하지 못한다"고 덧붙였다.

또 "궁극적으로 AI의 안전성은 우리가 원하는 방향으로 행동하도록 하는 것"이라며 "인간 사회가 이 시스템을 관리·통제할 수 있어야 한다"고 강조했다.

그는 오픈AI가 추구하는 AI 방향에 대해서는 "AI의 과학적 혁신을 계속 유용하게 발전시키는 것"이라며 "사람들의 생산성을 높이고 안전성을 확보해야 하는 것이 목표"라고 답했다.

그러면서 "한국에서 인구 5천만 명 정도 가운데 적극적으로 챗GPT를 쓰는 사람은 약 100만 명"이라며 "사람들이 이 기능을 더 많이 사용할수록 많은 도움을 받을 것"이라고 주장했다.

제이슨 권은 범용인공지능(AGI) 개발을 두고는 "인간의 상상력을 보여준다"며 "오늘날 사람들이 온라인을 통해 여러 정보를 검색하고 채용하고 있는데 이런 시스템이 점점 진화함에 따라 AI가 이를 대신할 수 있을 것"이라고 내다봤다.

최근 일각에서 제기되는 AI 거품론에 대해선 "아직 AI는 초기 단계인데 오픈AI나 구글 등의 생성형 AI는 점점 진화하고 패러다임 전환이 이뤄지고 있다"며 "AI 발전을 낙관적으로 생각한다"고 밝혔다.

오픈AI [AFP 연합뉴스 자료사진]

아울러 그는 오픈AI가 AI의 안전성을 놓고 미국, 영국의 연구기관과 협력하는 등 외부기관과 협력을 많이 하고 있다고 말했다.

한국계 제이슨 권은 작년 11월 오픈AI에서 공동 창업자 샘 올트먼의 해임 사태가 빚어졌을 때 올트먼의 복귀에 기여한 인물로 알려졌다.

올해 일론 머스크 테슬라 최고경영자(CEO)가 오픈AI의 영리사업이 회사 설립 당시의 계약을 위반했다며 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 내자 제이슨 권은 내부 메모에서 "머스크가 자신이 창업한 회사를 상대로 이런 조치를 취하는 것은 매우 실망스러운 일"이라고 비판하기도 했다.

nojae@yna.co.kr

▶제보는 카톡 okjebo