과기부 장관 "한국판 AI안전연구소, ETRI 내에 연내 설립"

"딥페이크 우려, 관련법 만들고 위반 시 강력하게 처벌해야"

[아이뉴스24 안세준 기자] 한국판 인공지능(AI)안전연구소가 한국전자통신연구원(ETRI) 내에 연내 설립된다. 영국과 미국 등 해외 주요국의 AI안전연구소 설립 움직임에 우리나라도 동참한 것이다.

왼쪽부터 미셸 더넬런 영국 과학혁신기술부 장관과 이종호 과학기술정보통신부 장관이 22일 오후 AI 서울 정상회의 및 AI 글로벌 포럼 관련 합동 브리핑을 진행하고 있다. [사진=안세준 기자]

22일 오후 AI 서울 정상회의 및 AI 글로벌 포럼 한국-영국 합동 브리핑에서 이종호 과학기술정보통신부 장관은 "AI안전연구소는 영국에 이어 최근 미국에서도 만들어졌다. 저희도 올해 안에 만들려고 한다"며 이같이 밝혔다.

과기정통부 산하기관으로서의 확장 가능성도 열어뒀다. 이 장관은 "한국전자통신연구원 내에 신속하게 최소한의 필요한 인력으로 (AI안전연구소를) 설립할 것"이라며 "대응해야 할 범위가 넓어지면 ETRI 산하이든, 과기정통부 산하이든 큰 규모의 기관으로 만들 계획"이라고 말했다.

이를 통해 AI안전 문제에 대해 신속하고 체계적으로 대응할 예정이라는 게 이 장관의 설명이다.

이 장관이 신속·체계적인 대응을 강조한 배경은 AI 시대가 도래함에 따라 딥페이크 기반 스미싱 범죄 등 다양한 부작용이 우려되고 있기 때문이다. 최근엔 할리우드 배우 스칼렛 요한슨이 자신의 목소리를 베낀 챗GPT 모델의 서비스 음성에 대해 문제를 제기하기도 했다.

합동 브리핑에 참여한 미셸 더넬런 영국 과학혁신기술부 장관은 "이같은 특정 케이스(스칼렛 요한슨)는 관련된 회사가 요한슨 목소리를 낸 것으로 알고 있다. 이것은 지적재산권 문제가 될 수도 있다"면서 "영국에서는 이와 관련해 많은 논의가 진행되고 있다"고 답했다.

이 장관은 "딥페이크, 딥보이스 관련해 상당히 우려가 되는 부분이 있다. 그런 것을 걸러낼 수 있는 기술적 발전도 앞으로 필요하다"며 "관련 법을 만들어 법 내에 처벌 규정을 두고, 위반 시에는 강력하게 처벌할 수 있도록 정부가 대응한다는 메시지를 분명하게 전해야 한다고 생각한다"고 언급했다.

정부는 AI 서울 정상회의를 통해 한국이 국제사회에 AI 아젠다를 제시하고, 규범 형성을 주도적으로 이끌 것으로 보고 있다. 이 장관은 "이전에는 새로운 기술에 대해 국제사회가 규칙을 결정하고 우리나라는 이를 준수하는 데 머물렀다"며 "이번 정상회를 통해 규범 형성을 주도할 실력과 리더십이 있음을 확인할 수 있었다"고 자평했다.

/안세준 기자(nocount-jun@inews24.com)