“법률상담·계약서 작성 때 AI가 민감정보 유출한다면?”

과기정통부 제2차 AI 윤리정책 포럼
법률·기술·교육 분야 새 쟁점 제기돼

5일 오후 서울 서초구 엘타워에서 ‘제2차 인공지능 윤리정책 포럼’이 열려, 과학기술정보통신부와 정보통신정책연구원(KISDI), 한국정보통신기술협회(TTA), 학계와 법조계 등 전문가 40여명이 모여 토론을 벌이고 있다.

‘인공지능 윤리’에 대한 논의가 구체화되면서 과학기술정보통신부가 관련 정책을 마련하기 위해 열고 있는 ‘인공지능 윤리정책 포럼’에서의 토론도 뜨거워지고 있다. 5일 열린 2차 회의에선 ‘인공지능 기반 기술(파운데이션 모델)을 활용한 각종 서비스에서 실제 사고가 날 경우 누가 책임져야 하는가’에 대한 우려와 의견이 오갔다.

이날 오후 서울 서초구 엘타워에서 열린 ‘제2차 인공지능 윤리정책 포럼’에는 과학기술정보통신부와 정보통신정책연구원(KISDI), 한국정보통신기술협회(TTA), 학계와 법조계 등에서 전문가 40여명이 모였다. ‘초거대·생성형 인공지능 활용 관련 윤리·기술·교육 분야 쟁점과 정책적 고려사항’에 대한 발제와 토론이 두시간 넘게 이뤄졌다.

특히 이날 포럼에선 법률분야의 인공지능 사용을 사례로 들며 ‘법률상담이나 계약서 작성 등에 인공지능을 사용하는 과정에서 누군가의 민감정보가 유출된다면 어떻게 하나’라는 문제에 대한 토론이 이어졌다. 노태영 변호사(김·장 법률사무소)는 “개인에 대한 법률 상담이나 기업의 계약서 작성 등에 사용될 수 있는 생성형 인공지능은 민감한 정보를 처리하고 산출 과정에 대한 설명이 어려워 이용자에 대한 안전성·책임성 문제가 있다”고 짚었다.

정보 유출 등 사고 가능성에 대한 기업 쪽의 우려도 깊었다. 김지관 한국아이비엠(IBM) 실장은 “대다수 기업들이 핵심 데이터 유출을 우려하고 있다”며 “인공지능 모델의 소유와 사용주체를 명확히 하고, 이에 대한 관리를 수행할 수 있도록, 정부가 가이드라인을 제시할 필요가 있다”고 말했다.

질의 응답 시간에는 “초거대 인공지능 파운데이션 모델(원천 기술)을 활용해 일반 기업이나 법률회사 등이 서비스를 만들어 고객에게 제공할 때 정보 유출이나 사고가 발생할 경우 누가 책임져야 하나”라는 질문이 나왔다. 토론자들은 “어려운 문제”라고 입을 모았고, 노태영 변호사는 “일단 고객과의 관계에서 계약을 맺은 기업이 1차 책임을 지겠지만, 그 경우 서비스 제공자가 너무 큰 리스크를 부담하게 돼 산업이 위축될 수 있다”며 “인·허가나 책임보험 가입 등의 방법이 활용되지 않을까 싶다”고 설명했다.

손지원 변호사는 “법률서비스의 경우, 결국 투명성의 문제”라며 “최종적으로 검수하는 사람이 누구인지, 전문가의 검수가 제공되는 서비스인지 아닌지, 이용자에게 투명한 정보가 제공되어야 한다”고 말했다. 이재호 교수(서울시립대)는 “진흥과 규제의 양면을 고려해 자칫 주관적인 문제일 수 있는 인공지능의 위험성 문제에 대한 규제 근거와 실제 측정할 수 있는 기준 등을 마련하는 것이 중요하다”고 말했다.

글·사진 임지선 기자 sun21@hani.co.kr