"딥페이크 양면성 고려… 탄탄한 법적규제로 순기능 키워가야" [AI월드 2024]

범죄·혁신 이분법적 정의 무의미
자율성에 걸맞은 책임도 따라야
리걸테크 서비스 등 해결안 제시

"기술은 가치중립적인데, 딥페이크 자체가 자칫 범죄로만 인지될 수 있는 점이 우려스럽다."

"리걸테크(법+기술) 서비스가 국내 법률시장에 정착하기 위해선 적절한 가이드라인, 법률 데이터의 투명성과 접근성 확보가 가능해야 한다."

5일 서울 송파구 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동개최한 'AI월드 2024'에서 열린 'AI in Life' 세션에서는 딥페이크, 리걸테크, 인공지능(AI) 기반 문화예술 등 일상생활 속 AI 현안에 대한 발표와 토론이 이어졌다.

'딥페이크, 범죄인가 혁신인가'를 주제로 진행된 행사 현장에선 딥페이크의 양면성과 향후 전망을 다뤘다.

김덕진 IT 커뮤니케이션 연구소 소장

김덕진 IT커뮤니케이션 연구소장은 "과거엔 '재밌다' 정도였지만, 최근에는 성범죄 등 심각한 사례가 쏟아지면서 관련 문화나 현상에 대해서도 고민하기 시작했다"면서도 "보이스피싱이 생겼다고 전화를 못하게 하거나, 악플이 생겼다고 댓글을 없애버리지 않았듯이 AI 기술 또한 자율에 맞는 책임을 요구해야 한다"고 강조했다.

이정수 딥브레인AI 영업총괄 이사

이정수 딥브레인AI 이사는 "신기술을 어떻게 사용하느냐에 따라 나쁜 기술도, 좋은 기술도 될 수 있기 때문에 양면을 고려해서 정책을 결정하는 게 중요하다"고 짚었다. 임대근 한국외대 학장은 "딥페이크를 범죄 또는 혁신 등 이분법적으로 정의하는 게 무의미하다"며 "인간이 어떻게 활용하느냐에 따라 성격이 규정돼 갈 텐데, 순기능이 강화되는 방향으로 나아갔으면 좋겠다"고 말했다.

악용을 효과적으로 차단할 탐지기술의 발전 필요성도 대두됐다. 이 이사는 "새로운 AI 기술이 나오면 탐지율이 떨어지는 건 어쩔 수 없다"면서도 "다만 1%라도 범죄를 막을 수 있고, 좋은 점이 있다면 보완하기 위해 노력할 예정"이라고 했다.

김본환 로앤컴퍼니 대표

이어 '리걸테크의 미래'를 주제로 진행된 세션에선 김본환 로앤컴퍼니 대표와 이진 엘박스 대표가 리걸테크 서비스 현황과 미래 필요한 요소들을 논의했다.

김 대표는 "리걸테크 서비스가 있으면 효율성과 생산성은 높이고, 비용은 줄일 수 있다"며 "미네소타 연구에 따르면 AI 기술 도입으로 로펌들은 인력 대비 고소장 작성 시간을 24% 줄였다. 주니어 변호사는 건당 74달러 드는 비용도 LLM은 24센트밖에 들지 않았다"고 전했다.

그러면서 "법률정보는 정확도가 중요시되는데 AI가 잘못된 정보를 제공하는 현상(환각)을 겪지 않도록 관련 법규 및 가이드라인의 중요성 또한 부각될 것으로 본다"고 덧붙였다.

이진 엘박스 대표 (가운데)

이 대표는 "검색증강생성(RAG)을 통해서 환각을 낮추는 등 기술적 문제를 해결하고 있고, 비용도 낮출 수 있다"며 "법률AI, 법률전문가, 소비자가 공존하는 세상이 열렸다. 법률 전문가와 스타트업이 함께 방법을 모색할 시간"이라고 설명했다.

구태언 법무법인 린 TMT그룹 총괄

세션 좌장을 맡은 구태언 법무법인 린 TMT그룹 총괄은 "리걸테크가 보편화되면 로펌들은 지금 인력으로 더 많은 일을 할 수 있고, 젊은 변호사들은 실력을 끌어올릴 수 있을 것"이라고 전망했다.

윤석관 AI 콘텐츠 크리에이터(왼쪽)

마지막으로 'AI와 만난 문화예술'을 주제로 진행된 문화예술 세션에선 콘텐츠 창작에 대한 AI 기술의 잠재력에 대한 발표가 이어졌다. 윤석관(활동명 킵콴) AI 콘텐츠 크리에이터는 "AI 기술 발전은 곧 표현의 범위가 확장된다는 이야기"라고 짚었다. 권한슬 스튜디오 프리윌루전 대표는 "AI로 예술의 민주화가 생겼다"며 "AI는 영화계가 겪는 새 변곡점 중 하나로, 이미 일어났고 앞으로도 일어날 일이다. 이를 어떻게 받아들이고 활용하고 안전한 사용할 수 있는가를 논의해야 할 때"라고 강조했다.