“AI산업·윤리 균형 논의 마지막 기회”

21일 서울서 ‘AI 안전 정상회의’
이틀간 진행 … 첫날 尹 등 참석
AI 거버넌스 다수 반영 기대도

한국에서 21일부터 이틀간 열리는 인공지능(AI) 안전 정상회의가 최근 오픈AI GPT-4o, 구글 제미나이 등 AI 업계의 기술 혁신 발표와 맞물려 AI의 윤리 문제를 논의할 기회가 될 것으로 보인다. 이번 정상회의 결과가 AI 거버넌스에 다수 반영될 것이라는 기대도 나온다.

18일(현지시간) 영국 일간 가디언은 ‘AI 관련자들이 서울에 모이면 도약하는 산업(AI 산업)은 발전과 안전 사이 균형을 맞출 수 있을 것인가‘라는 제목의 기사에서 “서울에서의 (정상)회의는 (AI가 상용화된 세상)이 도래하기 전 그것이 세계에 어떤 의미인지를 논의할 마지막 기회일 것”이라고 강조했다.

최근 반응속도와 능력을 대폭 강화한 생성형 AI GPT-4o(오픈AI), 플랫폼 지배력을 기반으로 기세를 몰아가는 제미나이(구글) 등 AI 업계의 주요 발표가 잇따르고 있다. 상업 목적으로 AI를 사용하려는 압력이 커지고, 속도도 빨라지고 있는 상황에서 서울에서 열리는 AI 안전 정상회의가 관련한 윤리적 문제를 논의할 시의적절한 장이 될 것이라는 얘기다.

가디언은 연말부터 여러 분야에서 새로운 AI 기술들이 상용화돼 우리 생활에 직접 영향을 미칠 것으로 봤다.

최근 AI 업계는 윤리적 문제와 산업 발전, 시장 요구에 대한 호응 간 충돌을 겪고 있다. AI와 관련한 유엔 자문위원 데임 웬디 홀 사우스햄턴대학 컴퓨터과학(CS) 교수는 가디언에 “정부와 안전 관련 기관들은 그들이 규제를 계획하고 있고 (빅테크) 기업들도 (규제에) 관심이 있다고 말하지만, 기업들은 시장의 압력에 반응해야 하기 때문에 (윤리적 규제에 관한) 진전 속도는 느리다”고 지적했다.

AI의 윤리적 문제는 곳곳에서 드러나고 있다. 최근 오픈AI가 자사 제품을 이용해 선정적이거나 폭력적인 콘텐츠를 만들 수 있게 허용할지를 검토하고 있다는 소식이 알려져 논쟁의 대상이 됐다. 앞서 블룸버그통신은 오픈AI가 AI 위험을 연구하는 안전팀을 사실상 해체했다고 보도했는데, 테크업계에서 상업적 고려가 앞서고 있는 것을 보여준다는 평가다.

이 시점에 열리는 AI 국제회의가 주목받는 이유다. 지난해 11월 영국 런던에서 열린 제1회 AI 안전 정상회의에 이어 6개월 만에 열리는 이번 정상회의 첫날엔 윤석열 대통령과 리시 수낵 영국 총리가 화상으로 만나고, 두 번째 날에는 과학기술 장관들이 모여 관련 논의를 할 것으로 알려졌다. 이번 회의는 1회 회의와 프랑스 개최 2회 회의 사이 열리는 약식 정상회의다.

홍주형 기자 jhh@segye.com