김앤장, '에이전틱 AI' 보안 리스크 진단…실무 대응 논의[로펌소식]

김앤장 법률사무소

[파이낸셜뉴스]김앤장 법률사무소가 사용자 지시에 따라 자율적으로 업무를 수행하는 이른바 '에이전틱 인공지능(AI)' 시대의 보안 이슈와 법적 과제를 논의하는 세미나를 연다.

김앤장은 오는 14일 서울 종로구 크레센도빌딩 3층 대회의장에서 한국정보통신법학회와 함께 '에이전틱 AI 시대의 보안 이슈와 법적 과제' 세미나를 개최한다고 8일 밝혔다.

에이전틱 AI는 사용자의 지시를 바탕으로 스스로 도구와 시스템을 호출해 업무를 수행하는 형태의 AI를 뜻한다. 기업 운영 효율성과 생산성을 높일 수 있다는 기대를 받는 동시에, 권한 오남용이나 프롬프트 조작 등 새로운 유형의 보안 리스크를 동반할 수 있다는 점에서 관련 제도 정비 필요성도 제기되고 있다.

이번 세미나에서는 에이전틱 AI 환경에서 발생할 수 있는 기술적 보안 문제와 법적 쟁점을 점검하고, 기업 차원의 실무 대응 방향까지 함께 논의할 예정이다.

특히 지난 1월 22일 시행된 인공지능기본법 등을 계기로 개인정보·정보보안 규제 환경이 빠르게 변화하면서, 기업이 AI 도입과 운영 전반에서 보안 통제와 준법 체계를 마련해야 한다는 요구가 커지고 있는 점도 주요 배경으로 꼽힌다.

한국정보통신법학회 회장인 이성엽 고려대 교수가 개회사를 맡고, 정영진 김앤장 변호사가 환영사를 할 예정이다. 이 교수는 "이번 세미나는 미토스 쇼크 뒤 AI가 주체가 되는 사이버 공격과 방어의 필요성을 논의하고 향후 법·제도적 대안을 논의하는 의미 있는 자리가 될 것"이라고 말했다. AI 스타트업 앤트로픽의 신규 사이버 보안 모델인 '클로드 미토스'는 지난달 7일 공개돼, 프롬프트 한 줄로 기존 보안시스템의 허점을 발견해내면서 회자된 바 있다.

발제는 두 개 세션으로 진행된다. 사이버보안 전문업체 티오리 박세준 대표가 '에이전틱 AI의 보안 이슈와 과제'를 주제로 발표하고, 김도엽 김앤장 변호사가 '에이전틱 AI 보안의 법적 이슈와 과제'를 주제로 발표에 나선다.

이어 권태경 연세대 교수가 좌장을 맡아 종합토론을 진행한다. 김용대 카이스트 교수, 김형종 서울여대 교수, 강한철 김앤장 변호사 등이 참여해 에이전틱 AI 활용 과정에서의 보안 통제와 법적 책임 문제 등을 논의할 예정이다.

scottchoi15@fnnews.com 최은솔 기자