前 덴마크총리 "AI 규제, 이메일 작성과 원전 제어 똑같이 적용하면 되겠나"

AI 딜레마: 혁신 vs 규제
토르닝슈미트 前 총리
"활용 목적·위험 수준 따져야"
얌폴스키 루이빌대 교수
"인간 수준 근접 초지능 개발
사후 규제로는 대응 어려워"

'AI 딜레마: 혁신 vs 규제' 세션에서 마이클 전 솔라스타넥서스 CEO, 헬레 토르닝슈미트 전 덴마크 총리,로만 얌폴스키 루이빌대 교수(왼쪽부터)가 대담을 하고 있다 . 한주형 기자

인공지능(AI)의 눈부신 발전 속에 이제 이슈는 AI의 고도화를 넘어 어디까지 허용할지, 어떻게 통제할지로 넘어간 상태다. AI 보안 문제가 계속 터져나오고 있는 데다 핵심 데이터 통제권을 둘러싼 갈등도 커지고 있어서다.

8일 서울 중구 신라호텔에서 개막한 제27회 세계지식포럼에서도 AI 규제와 관련해 의견이 팽팽하게 대립했다. 일괄 규제는 위험하다는 의견과 함께 인간의 수준을 넘어서는 부분에 대해선 기본적으론 금지하되, 건별로 검토해야 한다는 이야기까지 나왔다.

이날 'AI 딜레마: 혁신 vs 규제' 세션에서 헬레 토르닝슈미트 전 덴마크 총리는 "일률적인 방식(One size fits all)은 작동하지 않는다"며 기업의 자율 규제와 정부 규제 사이에 중간지대가 필요하다고 강조했다. 그는 "기술 자체를 규제할 것인지, 사용을 규제할 것인지, 아니면 그로 인한 해악을 규제할 것인지 구분해야 한다"고 했다.

AI를 일률적으로 규제하기보다 기술의 활용 목적과 위험 수준에 따라 규제 강도를 달리해야 한다는 주장이다. AI 의사에 이메일 작성을 돕게 하는 것과 원자력 발전소를 제어하게 하는 것은 위험도가 다른 만큼 같은 수준의 규제를 적용해선 안 된다는 것이다.

반면 로만 얌폴스키 루이빌대 컴퓨터공학과 교수는 AI가 인간 수준을 넘어서는 순간 기존 기술과는 다른 접근이 필요하다고 주장했다. 얌폴스키 교수는 "인간 수준을 넘어서는 모든 것은 당연히 금지해야 한다"며 "인간 수준에 근접하는 것들은 건별로 검토해야 한다"고 말했다. 두 사람의 의견은 특히 초지능을 둘러싸고 첨예하게 갈렸다. 토르닝슈미트 전 총리는 AI의 위험을 관리하면서도 유용한 기술의 발전까지 막아서는 안 된다고 본 반면, 얌폴스키 교수는 통제할 수 없는 초지능이 등장하면 사후 규제로는 대응하기 어렵다고 지적했다.

기업 현장에서는 AI 데이터 통제권을 확보하는 문제가 논란거리다. 이에 대해 폴 사이모스 브로드컴 아시아 총괄 부사장은 이날 '기업 AI 전환 성공하려면' 세션에서 AI 시대 기업의 핵심 과제로 '데이터 주권'을 꼽았다.

사이모스 부사장은 "모델을 소유한 자가 데이터를 소유하게 되고, 모델을 제어하는 자가 데이터를 제어한다"고 강조했다. 외부 AI 모델에 기업의 독점 데이터를 결합해 사용할수록 데이터가 어디에서 처리되고 누가 통제하는지까지 따져야 한다는 설명이다.

[변덕호 기자]