'에이전틱 AI 시대의 보안 이슈와 법적 과제' 개최 변호사, "에이전틱 AI와 운영자·사용자 간 처리자가 누군지 법적으로 정해야"
한국정보통신법학회가 AI(인공지능)가 직접 명령하고 실행까지 하는 시대를 맞아 이에 대한 법적 과제를 논하기 위한 세미나를 열었다. 이날 세미나에서는 에이전틱 AI로 인한 이슈와, 법 쟁점 충돌 등을 논의했다.
13일 한국정보통신법학회가 김앤장 법률사무소 크레센도 빌딩에서 '에이전틱 AI 시대의 보안 이슈와 법적 과제' 세미나를 개최했다. 이날 행사에서는 에이전틱 AI에 대한 이슈와 그에 따른 법적 과제를 주제로 김앤장 변호사들과 보안 회사 대표, 교수 등이 모여 쟁점에 대해 논했다. 이 세미나는 김앤장 법률사무소가 후원했다.
김형종 서울여자대학교 정보보호학과 교수는 행사에 앞선 축사에서 "AI 기술이 이제는 자율적으로 판단하고 추론, 실행하는 에이전틱 AI 단계로 진화하고 있다"라며 "AI의 가장 큰 특징이 사람을 대체하는 것인데 결국 모든 법적 책임 구조에 근본적인 변화가 필요한 시점이라고 생각한다"라고 진단했다.
이날 세미나에서는 박세준 티오리 대표, 김도엽 김앤장 법률사무소 변호사가 발제에 나섰다.
박세준 티오리 대표가 발제를 하고 있다. /사진= 심현리 수습기자.
먼저 박세준 대표는 '에이전틱 AI의 보안 이슈와 과제'를 주제로 발표했다. 박 대표는 "AI가 작성하는 코드가 고객 개인정보를 다루고 있다"며 글로벌 소프트업계의 조사를 인용하면서 "한 프로그램의 경우에는 AI 생성 코드 중에 45%가 보안 테스트를 통과하지 못하고 있다"고 지적했다. 그러면서 "대부분의 산업군이 합의할 법적 기준성이 어디인지, 그리고 에이전틱 AI의 행위와 책임 분배에 대해 구체적인 논의가 필요한 때"라고 밝혔다.
김도엽 김앤장 변호사가 발제를 하고 있다. /사진= 심현리 수습기자.
김도엽 김앤장 변호사는 법을 통한 책임 분담을 강조했다. 김 변호사는 "에이전틱 AI을 사용했을 때 과실이 일어날경우 AI와 공급자·운영자·사용자 간에 누가 처리자인지를 확정하는 것이 필요하다"라고 짚었다.
그러면서 "그 방법 중 하나로 법령상 통제를 통해 위탁자, 처리자 등을 정하는 방식이 실효성이 있을 것이다"라고 설명했다.
전문가 패널들이 토론을 하고 있다. /사진= 심현리 수습기자.
이어지는 토론에서는 권태경 정보보호포럼 위원장이 좌장을 맡고 각 계 전문가들이 패널로 참여했다.
토론에 참여한 김형종 서울여대 교수는 "기존의 법체계에서는 행위의 결정이 주체가 있고, 그 주체가 식별 가능한 법적 인격이라는 전제를 갖고 있는데 에이전틱 AI가 이 전제를 흔들고 있다"라며 "본인이 설치한 에이전틱 AI으로 인한 문제를 어떻게 제어할 것이냐에 대한 요소를 법적으로 명확히 해야 한다"라고 제언했다.
다른 토론 패널인 강한철 김앤장 변호사는 "대법원 판례나 법무부 해석으로 정립되지 않은 것이 많아 해석의 여지가 많은 상황"이라고 진단했다.
또 김도엽 김앤장 변호사는 "지금은 마치 문명이 시작되는 단계에서의 다양한 이슈들이 얘기 되고 있는데, 과연 지금의 법적 패러다임으로 통제가 가능한지가 문제다"라고 짚었다. 그러면서 "사람을 기반으로 조치를 취하고 있는 지금의 기준으로는 불가능하다"라고 강조하며, "학계, 로펌, 정부가 패러다임을 바꾸는 게 가장 주된 과제다"라고 제언했다.
