2차대전 나치 암호해독장소서..英 AI안전 정상회의 개최

韓·美·中 등 27개국 대표 참석
오픈AI, 딥마인드 등 업계 동참
“안전성 담보돼야 혁신 이점”

영국 정부가 1일(현지시간) 버킹엄셔주 밀턴케인스의 브레츨리 파크에서 개최한 제 1차 AI안전 정상회의 표지. [사진=영국 정부 제공]

딥페이크 기술이 선거에 악용되는 등 AI(인공지능) 발전으로 인한 폐해가 현실화하자 세계 각국 정부와 AI 기업이 한 데 모였다. 1일(현지시간) 영국이 사상 최초로 개최한 ‘AI안전 정상회의’다. 이틀 동안 진행되는 회의의 첫날인 이날 참석자들은 고도화된 AI가 가져올 위험과 이에 대한 대응 방안을 논의했다.

영국은 1일 버킹엄셔주 밀턴케인스의 브레츨리 파크에서 제 1차 AI안전 정상회의를 열었다. 영국 정부에 따르면 회의에는 한국, 미국, 일본, 중국, 프랑스, 독일, 이탈리아 정부 고위 관계자가 참석했다. 앨런 튜링 연구소, 경제협력개발기구(OECD) 등에서는 대표단을 파견했다.

브레츨리 파크는 영국 컴퓨터 공학의 발상지로, 2차 세계대전 당시 나치독일의 암호 ‘에니그마’를 해독한 장소다. ‘컴퓨터 과학의 아버지’로 불리는 앨런 튜링이 브레츨리 파크에서 근무했다.

미셸 도넬란 영국 과학혁신기술부 장관은 회의에서 “AI가 가져올 엄청난 기회를 실현하기 위해선 안전과 보안이 AI 발전의 핵심축이 돼야 한다”며 “‘프론티어AI’의 위험을 완화해야 할 필요가 있다”고 밝혔다.

프론티어AI는 딥 러닝을 통해 스스로 생각하고 추론까지 하는 고도화된 생성AI를 의미한다. 아직 프론티어AI가 등장하지 않았지만, 영국 정부는 AI 개발 속도를 감안하면 지금 국제사회가 안전을 담보할 수 있는 조치를 마련해야 한다고 강조하고 있다.

이날 회의에서는 AI 안전성을 개선하기 위한 방안이 논의됐다. ‘챗GPT’ 운영사 오픈AI, 바둑AI ‘알파고’ 개발사 딥마인드 등 AI 업계 최전선에 있는 전문가들이 정부 관계자들과 원탁 토론을 진행했다. 개발자들이 프론티어AI를 안전하게 확장하게 하기 위한 위험 임계값을 어느 정도로 설정해야 하는지, 책임 매커니즘은 어떻게 구축해야 하는지 등 다양한 토의가 이어졌다.

참석자들은 실재화한 AI의 위협도 짚어보는 시간을 가졌다. 딥페이크 기술로 정치인의 얼굴과 목소리를 바꿔 선거에 혼란이 생기고 있는 점, AI 기술을 쉽게 활용할 수 있는 집단과 그렇지 못한 집단 사이의 불평등 심화 문제 등이 거론됐다.

영국은 이번 정상회의를 계기로 AI 위험을 완화하기 위해 국제사회가 더 협력하게 되기를 기대했다. 미셸 도넬란 장관은 “프론티어AI가 야기하는 위험은 실질적이고 위험하기 때문에 여러 부문에서 여러 국가가 협력해야 한다”고 말했다.

그는 AI 안전망이 확보돼야 AI 혁신으로 인한 이점을 인류가 누릴 수 있다고 강조했다. 미셸 도넬란 장관은 “AI는 세계 경제를 성장시키고 더 나은 공공서비스를 제공하면서 세계가 직면한 큰 과제들을 해결할 수 있는 무한한 기회를 제공한다”고 말했다.