고학수 개보위원장 "AI 영역, 리스크에 상응하는 통제 장치 필요"

출입기자단 간담회…"리스크 평가 위해 실험할 공간 마련돼야"
"다크패턴, 국내외 동향 정리 중…IT 시스템 보완 고민해야"

고학수 개인정보보호위원회 위원장이 24일 서울 종로구 정부서울청사에서 출입기자단과 간담회를 하고 있다. (개인정보보호위원회 제공) 2023.4.24/뉴스1

(서울=뉴스1) 윤수희 기자 = 고학수 개인정보보호위원장은 24일 "인공지능(AI)과 관련된 영역은 리스크에 기반한, 리스크에 상응하는 통제 장치가 적절한 방향"이라고 말했다.

고 위원장은 이날 오후 정부서울청사에서 열린 출입기자단 간담회에서 "AI는 굉장히 다양한 형태로 다양한 산업에서, 다양한 맥락에서 적용되고 구현될텐데 부작용이 상당히 큰 경우도 있고 거의 없거나 전혀 없는 경우도 있을 것"이라며 이같이 밝혔다.

고 위원장은 "기관에서 리스크를 통제하려면 리스크에 대한 평가가 당연히 전제가 돼야 한다"며 "리스크에 대한 평가는 머릿속으로 될 수 없고 실제 경험이 있어야 하고 실험 과정이 필요하다. 그런 점에서 제한적인 형태라도 실험을 해볼 수 있고, 새로운 실험을 할 수 있는 공간이 마련될 필요가 있다"고 말했다.

또 현재 국회 법제사법위원회에 계류되어 있는 인공지능 관련 법안이 통과될 경우와 관련해 "AI가 더 많은 시도와 더 많은 사회적 고민거리를 안겨줄 것"이라며 "다른 나라의 규제 감독기관들과 어떻게 소통해서 일관성 있는 규제·감독을 할지가 큰 과제라 생각한다"고 했다.

또 사람을 속이기 위해 설계된 사용자 인터페이스 이른바 '다크패턴'에 대해선 "국내뿐 아니라 해외에서의 논의와 동향을 내부적으로 정리하는 작업을 지난 몇 달 간 해오고 있다"며 "실제 국내 현실이 어떤지 검증하는 작업을 순차적으로 진행하려 한다"고 밝혔다.

고 위원장은 챗GPT에서 이용자의 결제정보가 유출된 사태와 관련해서는 "어떤 상황인지 파악 중"이라며 "유럽에 있는 개인정보 감독기관들 몇 군데에서 관심을 표명하고 EU 차원에서 태스크포스를 만들어 같이 조율해나가고 있다. EU 감독기관들과 소통을 하고 있다"고 답했다.

아울러 고 위원장은 마이데이터가 범죄에 활용될 가능성에 대해 "개개인의 데이터가 부지불식간에 제3의 곳에 전송되거나 본인 의사와 관련없이 활용되면 당연히 문제이다. 마이데이터 생태계 신뢰도가 훼손될 것"이라고 했다.

그러면서 "본인 인증이나 본인의 선호를 정당하게 반영하고 있는지에 관해 IT 시스템 보완 맥락에서의 고민도 필요할 뿐더러 다크패턴 등 본인의 의사를 왜곡하는 방향으로 활용되지 않도록 제도를 짜려고 한다"고 밝혔다.

의료 분야에서의 마이데이터 사업 확장을 위한 인프라 구축과 관련해서는 "표준화나 법 제도 인프라 구축 맥락에서는 저희 위원회가 코디네이터로 협의하고, 전산망 등의 경우 기재부 또는 복지부하고 추가적인 협의를 하면서 진행할 것"이라고 했다.

플랫폼 기업 관련 제도 규정에 대해서는 "불확실성을 최대한 줄이기 위해선 규정을 1부터 100까지 만들면 되지만 세상에서 제일 경직적이고 현장과 동떨어지게 될 것"이라며 "규정 중심으로는 IT 영역을 제대로 현장감과 실효성 있게 조율하는 게 불가능"하다고 지적했다.

이에 "원칙 중심으로 가려한다. 원칙중심의 체계가 자리를 잡으려면 시범자가 되는 기업이 현장에서 적용하고 판단해야한다"며 "원칙을 잘 세우고 개별 상황에 적용할 수 있는 판단 역량을 키우는 게 중요할 것"이라고 했다.

ysh@news1.kr