AI와 살아가기 위한 법 논의 활발···최우선은 ‘안전’

21~22일 서울에서 AI 정상회의 개최

AI 서울 정상회의와 AI 글로벌 포럼 개최 하루 전인 20일 서울 중구 서울역에 관련 홍보물이 상영되고 있다. 권도현 기자

인공지능(AI)은 이미 현실이다. AI 기술로 이미지나 영상을 합성한 딥페이크가 전 세계 선거판을 흔드는가 하면 이스라엘·하마스 전쟁 도구로도 쓰인다. 무한한 편리함을 가져다주는 ‘AI 일상화’에 대한 기대가 크지만 첨단 AI 시스템이 무기화하면 돌이킬 수 없는 피해를 가져온다는 경고 또한 무시할 수 없다. AI로부터 인류를 보호할 안전장치를 마련하려는 빅테크 기업과 각국의 움직임이 분주하다.

20일 정보기술(IT) 업계에 따르면 빅테크 기업들은 개별적으로 ‘유용하고 안전한’ AI를 위한 자구책을 마련해왔다. 구글의 AI 기업 딥마인드는 지난 17일(현지시간) AI 모델의 위험성을 평가하기 위한 ‘프런티어 안전 프레임워크(틀)’를 공개했다. AI 모델 훈련에 사용하는 컴퓨팅 성능이 6배 증가하거나 3개월간 미세조정될 때마다 해당 모델을 재평가하게 된다. 안전 프레임워크는 메타, 오픈AI, 마이크로소프트(MS) 등 주요 기술 기업들이 AI의 위험을 완화하기 위해 내놓은 여러 방안 중 하나다.

구글 딥마인드는 “AI 성능의 최전선을 계속 발전시키면서 이러한 혁신이 결국 오늘날의 모델이 제기하는 것을 넘어선 새로운 위험을 초래할 수 있다는 걸 인식하고 있다”고 밝혔다.

현재 기업들은 잠재적 취약점과 편향성을 찾아내는 ‘레드팀’을 가동하고, 규정을 준수하기 위해 다양한 기술을 동원한다. 이 같은 방식이 지금 수준에선 통할지 몰라도 고도화된 모델을 평가하려면 더 강력한 과정이 필요하다는 판단하에 안전 프레임워크를 비롯한 방안을 강구하고 있다. 소잃고 외양간 고치는 상황을 마주하지 않기 위해서다.

최근 오픈AI의 ‘초고도 AI’가 인류에 해롭지 않은 방식으로 작동하도록 제어하는 방안을 연구하던 전담팀을 해체하고, 이에 반발한 일부 경영진이 사임한 사례는 AI 개발에서 안전이 얼마나 중요한 가치인지 보여준다.

안보와도 직결되는 만큼 AI는 국가 차원에서도 중요한 사안이다. 한국·미국·중국을 포함한 28개국과 유럽연합(EU), 구글 딥마인드·메타·MS·오픈AI 등 기업들은 지난해 11월 영국에서 처음 열린 AI 안전성 정상회의에서 AI의 급속한 발전으로 인해 발생할 수 있는 잠재적인 ‘재앙적’ 위험을 억제하기 위해 협력하기로 합의했다. AI 안전 테스트 프레임워크 구축, 안전연구소 신설 등이 논의 테이블에 올랐다. 이달 14일에는 AI 패권을 두고 경쟁 중인 미국과 중국이 스위스에서 고위급 회담을 갖고 AI로 발생할 수 있는 각종 안보 위험과 규제 방안에 대한 의견을 나누며 탐색전을 벌이기도 했다.

각국은 AI 규범 마련에도 한창이다. 지난 3월 유럽의회는 AI를 위험에 따라 분류하고 차등 규제하는 세계 첫 ‘포괄적 AI 규제법’을 통과시켰다. 국내에서도 ‘AI 기본법’ 제정 논의가 진행되고 있다. 관련 법안이 국회에 계류 중이다. 시민단체들은 처벌조항이 없다는 이유 등으로 22대 새 국회가 종합적으로 재검토해야 한다는 목소리를 내고 있다.

각국과 기업 대표들은 21~22일 한국과 영국 정부가 공동으로 주최하는 ‘AI 서울 정상회의’를 통해 또다시 한자리에 모인다. 이번 회의는 영국에서 진행한 앞선 회의와 올해 말 프랑스 파리에서 예정된 회의 사이 ‘미니 회의’ 격이다. 21일 정상 세션은 주요국 정상과 국제기구 수장, 빅테크 대표가 참여해 90분간 화상회의 방식으로 개최된다. 초청 기업은 삼성전자, 네이버, 구글, 아마존, 메타, MS, 오픈AI 등이다.

윤석열 대통령과 리시 수낵 영국 총리는 공동 기고문에서 “지난번에는 AI의 안전성에 주목했다면 이번 서울에서는 AI 잠재력을 완전히 실현하기 위한 AI 거버넌스의 세 가지 원칙(혁신·안전·포용)을 국제사회에 제시할 것”이라고 밝혔다. 대통령실 관계자는 “안전하고 혁신적이고 포용적인 AI를 위한 합의문 채택도 추진 중”이라고 말했다.

22일 장관 세션은 서울 홍릉의 한국과학기술연구원(KIST)에서 대면으로 열린다. 같은 날 한국 정부 단독 주최로 AI 글로벌 포럼도 진행된다. 고위급 라운드테이블과 전문가 세션으로 구성되며 오후 전문가 세션은 유튜브로 볼 수 있다.

노도현 기자 hyunee@kyunghyang.com