"AI는 전기와 비슷한 역할 할 것…정전 없게 선제 대응해야"

'AI 글로벌 포럼' 전문가 세션서 디지털 권리·AI 기회 논의

AI 글로벌 포럼 개회식 (서울=연합뉴스) 최재구 기자 = 한덕수 국무총리가 22일 서울 성북구 한국과학기술연구원에서 열린 AI 글로벌 포럼 개회식에서 조태열 외교부 장관, 이종호 과학기술정보통신부 장관, 참여기업 관계자 등과 기념 촬영하고 있다. 2024.5.22 jjaeck9@yna.co.kr

(서울=연합뉴스) 이정현 기자 = "인공지능(AI)은 갈수록 유능해지고, 더욱 광범위하게 사용될 것입니다. 규제가 제대로 업데이트되지 않으면 시민들의 권리를 보호받지 못할 수 있습니다."

마르쿠스 안데르중 AI 거버넌스센터 정책 책임자는 22일 서울 성북구 한국과학기술연구원(KIST)에서 열린 'AI 글로벌 포럼' 중 '디지털 공동번영 사회를 위한 디지털 권리 보장' 전문가 세션에 참석해 이같이 강조했다.

그는 날로 유능해지는 AI와 함께 살아가려면 사회가 발 빠르게 적응해야 한다면서 "사이버 공격이나 사기도 지금보다 쉽게 저지를 수 있게 될 것이기 때문에 스마트폰에도 스팸 필터 같은 걸 설치해야 할 수 있다"고 예를 들었다.

이어 "그런데 현재는 새 아파트를 짓는 것보다도 관련 규제가 부족하다"며 "AI는 곧 전기와 비슷한 역할을 할 수도 있는데, 정전되면 사회가 중단되듯이 AI가 그렇게 되지 않게 각국 정부, 재계, 학계, 시민사회가 역할 해야 한다"고 강조했다.

그러자 좌장을 맡은 염재호 태재대 총장은 "규제를 도입할 경우 민간 분야 발전이 저해되는 문제는 어떻게 고려해야 하겠느냐"고 질문을 던졌다.

이에 조준희 한국소프트웨어산업협회장은 "한국의 '디지털 권리장전'은 디지털 변혁이 심화하는 과정에서도 형평성과 인류 번영 등 보편적 가치를 고려하도록 했다"면서 "기술이 사회 안전을 위협해선 안 되며 균형을 잡아야 한다"고 답했다.

또 "기업은 이러한 규범의 주요한 실행자가 돼야 하며 책임감 있는 데이터 관리와 사이버 안보를 도모해야 한다"고 덧붙였다.

하정우 네이버클라우드 AI이노베이션 센터장도 "AI가 당신을 대체하지는 않겠지만 AI를 사용하는 사람이 당신을 대체할 수 있다는 말이 있듯이 새로운 AI 시대에는 디지털 권리를 반드시 보장해야 한다"면서 "이를 위해 AI 리터러시 교육이 제공돼야 하며 그 누구도 소외돼선 안 된다"고 강조하기도 했다.

제리 쉬한 경제협력개발기구(OECD) 과학기술혁신국장은 "AI 등 디지털 기술은 인간 중심적 접근 방식으로 진행돼야 한다. 인간을 위한 기술 발전이 이뤄져야 한다는 것"이라며 "인권이 디지털 정책에서 중요한 가드레일 역할을 해야 한다"고 했다.

기조연설을 맡은 강도현 과기정통부 2차관은 "글로벌 디지털 협약 등이 만들어진다면 우리 모두에게 필요한 이니셔티브가 될 것"이라며 "소외된 계층과 다양한 계층을 보호하려면 기술을 통한 편향성을 철폐해야 하며 전날 발표된 '서울 선언'도 인류를 AI 리스크로부터 보호하자는 내용이었다"고 밝혔다.

이어진 'AI의 기회 및 혜택의 전 세계적인 확산' 전문가 세션에서는 고진 대통령 직속 디지털플랫폼정부위원장이 기조연설에 나서 "AI는 낮은 출생률을 끌어올리거나 공공 안전을 지키는 등 좋은 곳에 활용될 수도 있으나 경제적 불평등을 악화할 수도 있다"며 "그래서 AI 남용 방지를 위한 규제를 실행하고자 하며, 전 세계와 노력해 국제 규범과 기준을 수립하려고 노력하고 있다"고 밝혔다.

lisa@yna.co.kr

▶제보는 카톡 okjebo