가능성과 위험성…‘생성형 AI’ 법적 대책을 모색한다

서울대에서 8일 생성형 인공지능의 도전과 법정책적 과제 국제학술대회

8일 서울대 호암교수회관에서 열린 ‘2024 생성형 인공지능의 도전과 법정책적 과제’ 국제학술대회에서 디이터 쿠겔만 독일 라인란트팔츠주 장관(왼쪽 둘째)이 제2세션의 발제를 하고 있다. 씨엔씨티마음에너지재단 제공

“정원을 가꾸지 않으면 정글이 돼버립니다. 국가가 인공지능(AI)으로 인한 피해와 불공평함에 관한 법을 제정하지 않으면 소비자와 시민이 피해를 입을 것입니다.” (엘레트라 비에티 미국 노스이스턴대 교수)

생성형 인공지능(AI)의 무한한 가능성과 이면의 위험 요소에 대한 법적 쟁점과 정책적 해결 방안을 찾는 ‘2024 생성형 인공지능의 도전과 법정책적 과제’ 국제학술대회가 8일 서울대 호암교수회관 로즈룸에서 열렸다. 국내외 학자 등 100여명이 참석한 이날 학술대회는 4차산업혁명융합법학회·한국행정법학회·한국형사·법무정책연구원이 함께 열고 씨엔씨티마음에너지재단 등이 후원했다.

정웅석 4차산업혁명융합법학회 회장은 개회사에서 “생성형 인공지능은 빠르게 발전해 우리의 삶에 도움이 되고 있지만 동시에 부작용에 대한 우려도 커지고 있어 기본의 법과 정책을 다시 정의해야 할 만큼 큰 변화를 예고하고 있다”며 “이 학술대회가 생성형 인공지능과 관련한 논란을 풀어내는 법적·윤리적 규제방안을 깊이 있게 모색하는 자리가 되길 바란다”고 밝혔다.

이날 학술대회는 생성형 인공지능과 관련한 규제 수단, 개인 정보 보호, 사회 변화, 범죄, 법적 쟁점 등 5개 주제로 진행됐다. 대회에 참석한 국내외 학자들은 “생성형 인공지능을 사용할 때 기본권과 인간의 존엄성이 보장돼야 한다”고 한목소리를 냈다.

엘레트라 비에티 교수는 제1세션 ‘인공지능의 규제 방법과 정도에 대한 연구’ 발제에 나서 “유럽은 인공지능법을 제정해 기술기업의 영향력을 통제한다. 정원사를 고용해 완벽하지 않지만 잡초가 퍼지지 않도록 관리한다”고 밝히고 “미국은 인공지능 시장을 자율적으로 운영하는 것이 최선이라고 여기지만 나무와 함께 잡초들도 자란다. 행복과 선택을 제공하는 아름다운 정원을 가꾸기를 바란다”며 인공지능에 대한 국가 차원의 규제가 필요하다고 제안했다.

디이터 쿠겔만 독일 라인란트팔츠주 장관(전 독일 경찰대 교수)은 제2세션 ‘인공지능과 개인정보보호 논의’에서 “인공지능은 기존 데이터에 기반해 새 데이터와 콘텐츠를 생산하는데 이 과정에서 개인의 데이터가 포함되므로 데이터보호법 대상이 된다. 특히 생성형 인공지능은 자율적으로 작동해 개인 정보 등을 보호하기 어렵다”고 전제하고 “따라서 기본권과 인간 존엄성 보장을 위해 생성형 인공지능을 사용하는 회사·기관의 책임이 뒤따라야 한다”고 밝혔다.

카를로스 미구엘 에레라 CY세르지파리대 교수는 “프랑스에서는 생성형 인공지능으로 인해 우리가 미래를 통제할 수 없게 될 것이라는 두려움이 커지고 있다”며 “그러나 프랑스 정부는 생성형 인공지능이 국가·공공기관이 주도하지 않은 제4차 산업혁명의 첫 번째 기술이라는 점에서 과도한 개입이 혁신에 해를 미칠 수 있다고 우려해 입법보다 권장사항인 윤리적인 틀을 마련하는데 중심을 두고 있다”고 전했다.

황인규 국제학술대회 준비위원장(씨엔씨티마음에너지재단 이사장)은 “오늘 학술대회는 세계적인 석학들이 생성형 인공지능을 주제로 한자리에 모여 다각적이고 체계적으로 법적 쟁점과 정책적 대책을 논의했다. 이 대회가 우리나라에 인공지능과 법의 새로운 방향을 제시하는 디딤돌이 되기 바란다”고 말했다.

송인걸 기자 igsong@hani.co.kr