"AI 목소리에 낚였다" 기술은 발전하는데.. 악용 우려 어쩌나

인공지능 기술 활용 보편화
명예훼손 및 범죄 악용 우려
세계 각국 규제 마련 분주

인공지능(AI) 기술 발전 속도가 빨라지는 가운데, 부작용을 우려하는 목소리도 점차 높아지고 있습니다.

최근 유튜브에서는 외국 유명 가수 브루노 마스의 목소리를 학습한 AI가 우리나라 아이돌 가수 뉴진스의 '하입 보이'를 부른 영상이 화제가 되기도 했습니다.

이에 아티스트 당사자의 동의 없이 제작된 AI 곡이 수익 창출로도 연결될 가능성이 열리자 저작권 참해와 명예훼손 문제도 제기되고 있습니다.

범죄에도 악용되고 있는데 지난 2021년 아람에미리트의 한 은행은 고객사인 대기업 임원 전화를 받고 3,500만 달러를 송금했는데, 이는 실제가 아닌 AI가 만든 목소리였습니다.

이밖에도 인공지능을 통해 특정인의 아바타를 만든 뒤 가족에게 접근해 개인 정보를 빼가거나 은행의 생체인식 시스템을 통과해 고객 정보를 얻을 수 있다는 주장도 나오고 있습니다.

이런 위험성에 우선 미국과 중국을 비롯한 주요국은 AI의 위험을 통제하고 부작용을 막을 수 있는 규제 마련에 나섰습니다.

미국 의회는 현지시간으로 지난 16일 처음으로 AI 청문회를 가졌습니다.

이날 의원들은 가짜정보 등 AI의 잠재적 위험성을 지적하며 적절한 규제가 필요하다고 입을 모았습니다.

중국 등 경쟁국이 AI를 악용할 경우 발생할 해악을 우려하면서도 별도의 규제 기구를 설립하자는데 무게를 실었습니다.

청문회 증인으로 출석한 챗GPT 창시자 샘 올트먼 오픈AI 최고경영자도 AI의 위험을 완화하기 위한 규제와 국제 표준 필요성을 언급했습니다.

유럽연합에서는 2년 전부터 논의돼 온 인공지능법 초안이 지난 11일 유럽 의회 상임위원회를 통과해 다음 달 본회의에서 표결에 부쳐집니다.

이 법안은 AI 응용프로그램을 위험도에 따라 4개 등급으로 나누고 가장 위험한 '용납불가' 등급은 배포와 사용을 금지토록 했습니다.

'용납불가' 등급은 AI 시스템이 인간이 인식하지 못하는 기술로 인간을 교묘하게 조종하거나, 어린이나 장애인 등 특정 그룹의 취약점을 악용하는 방식으로 인간 행동을 왜곡해 다른 사람을 해칠 가능성이 있는 경우 등에 해당됩니다.

JIBS 제주방송 이효형 (getstarted@hanmail.net) 기자

사회