AI로부터 인류 보호, 안전장치 마련 분주

22일까지 ‘AI 서울 정상회의’…각국·빅테크 등 ‘공존의 방법’ 모색

인공지능(AI) 기술로 이미지나 영상을 합성한 ‘딥페이크’가 세계 선거판을 흔드는가 하면, 이스라엘·하마스 전쟁 도구로도 쓰인다. 편리함을 가져다주는 ‘AI 일상화’에 기대가 크지만, 첨단 AI를 무기화하면 돌이킬 수 없는 피해를 가져온다는 경고 또한 무시할 수 없다. AI로부터 인류를 보호할 안전장치를 마련하려는 빅테크 기업과 각국의 움직임이 분주하다.

20일 정보기술(IT) 업계에 따르면 빅테크 기업들은 개별적으로 ‘유용하고 안전한’ AI를 위한 자구책을 마련해왔다. 구글의 AI 기업 딥마인드는 지난 17일(현지시간) AI 모델의 위험성을 평가하기 위한 ‘프런티어 안전 프레임워크(틀)’를 공개했다.

현재 기업들은 잠재적 취약점과 편향성을 찾아내는 ‘레드팀’을 가동하고, 규정을 준수하기 위해 다양한 기술을 동원한다.

최근 오픈AI의 ‘초고도 AI’가 인류에 해롭지 않은 방식으로 작동하도록 제어하는 방안을 연구하던 전담팀을 해체하고, 이에 반발한 일부 경영진이 사임한 사례는 AI 개발에서 안전이 얼마나 중요한 가치인지 보여준다.

안보와도 직결되는 만큼 AI는 국가 차원에서도 중요하다. 한국·미국·중국을 포함한 28개국과 유럽연합(EU), 구글 딥마인드·메타·MS·오픈AI 등 기업들은 지난해 11월 영국에서 처음 열린 AI 안전성 정상회의에서 AI의 급속한 발전으로 인해 발생할 수 있는 ‘재앙적’ 위험을 억제하기 위해 협력하기로 했다.

각국은 AI 규범 마련에도 한창이다. 지난 3월 유럽의회는 AI를 위험에 따라 분류하고 차등 규제하는 세계 첫 ‘포괄적 AI 규제법’을 통과시켰다. 국내에서도 ‘AI 기본법’ 제정안이 국회 계류 중이다.

각국과 기업 대표들은 21~22일 한국과 영국 정부가 공동 주최하는 ‘AI 서울 정상회의’를 통해 또다시 한자리에 모인다. 21일 정상 세션은 주요국 정상과 국제기구 수장, 빅테크 대표가 참여해 90분간 화상회의 방식으로 개최한다. 초청 기업은 삼성전자, 네이버, 구글, 아마존, 메타, MS, 오픈AI 등이다. 대통령실 관계자는 “안전하고 혁신적이고 포용적인 AI를 위한 합의문 채택도 추진 중”이라고 말했다.

22일 장관 세션은 서울 홍릉의 한국과학기술연구원(KIST)에서 대면으로 열린다. 이날 AI 글로벌 포럼은 고위급 라운드테이블과 전문가 세션으로 구성되며, 오후 전문가 세션은 유튜브로 볼 수 있다.

노도현 기자 hyunee@kyunghyang.com