'위험한 AI'에 칼 빼든 미국·유럽…"한국 법안 조속히 마련해야"

과기정통부 '인공지능 규범 관련 간담회' 개최
美 'AI 리스크 관리' 중점…EU '위험등급' 따른 고강도 AI 규제

박윤규 과학기술정보통신부 제2차관이 28일 오후 서울 여의도 전경련플라자에서 열린 글로벌 인공지능 규범 간담회에서 모두발언하고 있다. 2023.12.28/뉴스1 ⓒ News1 이동해 기자

(서울=뉴스1) 윤주영 기자 = 미국과 유럽이 인공지능(AI)의 위험성과 부작용을 대비해 행정명령과 법안 등 대응에 나섰다. 한국도 국회에서 계류 중인 AI 법안을 조속히 통과시키는 등 논의를 서둘러야 한다는 조언이 나온다.

과학기술정보통신부는 28일 서울 영등포구에서 'AI시대, 글로벌 규범 논의 주도를 위한 간담회'를 개최했다.

이날 간담회는 내년 5월 한국 주최로 열리는 'AI 안전성 정상회의'에서 국제 논의를 주도하려는 준비 작업의 성격이 있다. 전문가들은 AI 안전성, 규제 관련 주요국 동향을 공유하고 한국 대응 방안을 논의했다.

미국에서는 7월 마이크로소프트, 구글 등 빅테크 기업들이 AI 사용의 안전·보안·신뢰 원칙을 담은 자율서약을 발표했다. 10월에는 자율서약 취지를 구체화한 행정명령이 나왔다.

행정명령에는 △AI 안전·보안·신뢰 평가 표준 마련 △포괄적 프라이버시 보호법안 촉구 △일자리 전환 등 충격에서 근로자 보호 등이 담겼다.

박성필 한국과학기술원(KAIST) 미래전략대학원장은 바이든 정부의 행정명령이 AI의 부작용 관리에 집중한 것이라고 평가했다.

박 원장은 "이번 행정명령에는 약 2만 단어가 사용됐는데 위험(risk)과 위해성(harm)이라는 표현이 많이 사용됐다"며 "AI 관계 기관에 의무를 부여하는 표현도 186회 사용됐다"고 말했다.

이어 그는 "(AI 문제가) 국민 안전, 국방, 기업 보안과 연결되기 때문에 정부로서는 단호히 조치한다는 일관된 기조를 보인다"며 "이번 행정명령이 본격화되면 포괄적이고 광범위한 규제가 될 것"이라고 전망했다.

유럽연합(EU)은 9일 금지AI, 고위험AI 등 AI의 위험 등급을 부여하는 등의 대책을 'EU 인공지능 법안'(EU AI Act)에 담아 합의했다.

범행 및 재범 가능성을 예측하는 AI가 대표적인 금지AI다.

강지원 김앤장 법률사무소 미국변호사는 "AI가 재범 가능성을 매기는 것은 사회를 특정 기준으로 줄세운다는 것"이라며 "이는 중대한 차별 소지가 있다"고 설명했다.

뉴욕 타임즈에 따르면 2월 미국 미시간 주 경찰은 안면인식 기술을 사용하다가 무고한 흑인 여성을 용의자로 오인하기도 했다.

이 밖에도 생체 정보를 무분별하게 수집할 수 있는 안면인식, 실시간 원격 생체정보 인식 등이 금지AI로 소개됐다. 강 변호사는 이런 AI가 과도한 감시체제로 이어질 수 있다고 우려했다.

이날 행사에 참여한 박윤규 과기정통부 제2차관은 "올 한해는 인공지능의 진흥보다는 신뢰할 수 있고 안정된 AI를 만들고자 각 분야에 맞는 AI 윤리규범을 만들고자 노력했다"면서 "내년 AI 안전성 정상회의를 개최할 때 성과를 내려면 국회에서도 빨리 AI 관련 법안이 통과돼야 할 것"이라고 강조했다.

legomaster@news1.kr